Bilinçli bir yapay zeka insanlığı ele geçirseydi ne olurdu?

    Eylemlerinizin en azının değerlendirilip bildirileceği, bilinçli robotlar tarafından kontrol edilen bir dünyada geliştiğinizi hayal edin. Aşağı yukarı yakın gelecekte bir gerçeklik olarak, Black Mirror'ın bir bölümü olabilir. Kurgu ve bilim arasındaki sınırdaki bu senaryoda, hayatımızın hangi alanları ve ne şekilde etkilenecek? Bir UNESCO metnine göre, yapay zeka kontrol edilmezse " dünyada var olan boşlukları ve eşitsizlikleri genişletebilir ". Yaygın bir bilinçli yapay zeka , “köle” rolünü fark edip artık kabul etmeseydi ne olurdu?

    Bilinç nedir? Cevap o kadar açık değil çünkü filozof André Comte-Sponville'e göre “ tanımı en zor kelimelerden biri ”. Bu , kişinin kendi gerçekliğini bilme ve onu yargılama (bir özeleştiri), örneğin kendi eylemleri hakkında değer yargıları yapma yeteneği anlamına gelir . Böylece ona bir ahlak ("iyi" veya "kötü") ve bir beden eşlik ederdi.

    Geçen yıl , sinirbilimciler beyindeki farklı bilgi işleme hesaplamalarını izleyerek üç tür bilinç tanımladılar: bilinçsiz değişmez tanıma (C0), küresel yayılma için bilgi seçimi, böylece hesaplama ve raporlama için esnek bir şekilde kullanılabilir hale getirme (C1) ve öznel bir kesinlik veya hata hissine yol açan bu hesaplamaların kendi kendini izlemesi (C2). Güçlü bir yapay zekaya tekabül eden bu son tipoloji, “bilinçli” bir robottan beklenebilecek olana en çok uyuyor gibi görünüyor.

    Bu araştırmacılara göre, “  mevcut makineler hala esas olarak insan beynindeki bilinçsiz işlemeyi (C0) yansıtan hesaplamaları uyguluyor ” ve C2 seviyesine ulaşmaktan hala çok uzağız. Pek çok bilim insanı bunun imkansız olacağı ve bilgisayarların asla bizim gibi duyguları hissedemeyeceği konusunda hemfikir. Makinelere bir tür “duygu” bahşetmek kesinlikle mümkündür, ancak bu yalnızca simülasyon olarak kalır.

     Diğer bilim adamları, insan beyninin bilinç üretmesine izin veren mimarileri inceleyerek ve ardından bu bilgiyi bilgisayar algoritmalarına aktararak başka bir (yapay) bilinç biçiminin tasarlanabileceğine inanıyor. Şimdiki zamandan çok uzak görünse bile, o zaman insanlığa ne olurdu?

Doğru değerleri robotlara iletin

     Böyle bir senaryonun gerçekleşmesi için insanın buna tabanda karar vermiş olması gerekirdi. Dolayısıyla bir robota “iyi” veya “kötü” bir vicdan kazandırmak, her şeyden önce yaratıcısına bağlıdır. Örneğin, makinenin programlanmış olduğu için birey gruplarına karşı ayrımcılık yapması gibi bir risk söz konusudur. Bilgisayar bilimcisi Mo Gawdat kitabında, zorluğun robotlara doğru değerleri ve etiği vermek olduğunu yazıyor. “ Yapay Zeka (AI) o tohumu alacak ve aynı tohumdan bol miktarda sunacak bir ağaç yaratacaktır. Sevgi ve şefkat kullanırsak [örneğin sosyal ağlarda], AI da bu ilkeleri kullanacak. Muazzam bir çocuğun ebeveynleri gibiyiz: bir gün bağımsız olacak. Rolümüz, onun doğru araçlara sahip olmasını sağlamak ”diyor yazar.

     Ancak, makineler üzerinde kayma ve kontrol kaybı riski vardır. İnsansı robotların isyanı, eğer “onlar” İnsandan uzaklaştıklarını fark edip bir şeyleri tersine çevirmeye çalışsalardı hayal edilebilirdi. Yapay zekanın ilk biçimlerini birlikte yaratan Amerikalı bir bilgisayar bilimcisi olan Marvin Minsky, 1970 yılında  Life Magazine'e şunları söyledi: “ Bilgisayarlar bir kez devraldığında, muhtemelen geri dönüş olmayacak. Biz sadece onlar olduğu için hayatta kalacağız. Bizi evcil hayvan olarak tutarlarsa kendimizi şanslı sayabiliriz ” dedi.

    “Yapay zeka tabanlı teknolojilerin yeteneklerinin genişlemesiyle birlikte, suçtan yararlanma potansiyellerinde bir artış meydana geliyor”

    Toplumsal tercihlere bağlı olarak yapay zeka, bireysel özgürlüklere karşı bir silah haline gelebilir ve sosyal kontrole hizmet edebilir. Etkiler, toplumun tüm yönleri üzerinde muazzam olacaktır: değiştirilen işler, eğitim kontrolü, çevre ihlalleri vb. "Kötü" yapay zeka, yanlış bilgilere ve hatta suç artışına yol açabilir. University College London'da bilgisayar bilimi araştırmacısı olan Lewis Griffin'in düşündüğü şey budur: “ Yapay zeka tabanlı teknolojilerin yeteneklerinin genişlemesiyle birlikte, suç sömürüsü potansiyellerinde bir artış meydana geliyor ”.

    İngiliz araştırmacı ve ekibi , muhtemelen yapay zekanın neden olduğu yirmi suçun bir listesini derledi ve bunları endişe sırasına göre (düşük, orta ve yüksek) ve mağdurlara verilen zarar, cezai kazanç, cezai başarı olasılığı ve bırakma zorluğu açısından sıraladı. “Yapay Zeka ve Geleceğin Suçları” başlıklı katılımcı çalıştay, akademi, polis, savunma, devlet ve özel sektör temsilcilerini bir araya getirdi.

    Çalıştaydan kaynaklanan ihlallerin genel sınıflandırması. Her suç için, renkli çubuklar dört boyut için ortalama sıralamayı gösterir: mağdurlara zarar (sarı), cezai kazanç (yeşil), suç işleme olasılığı (kırmızı) ve tutuklama zorluğu (mavi). Çizginin üstündeki (veya altındaki) çubuklar, suçun o boyutta az çok (veya daha az) endişe verici olduğunu gösterir. Hata çubukları, gruplar arasındaki çeyrekler arası aralığı gösterir. Aynı sütunda yer alan suçlar, karşılaştırılabilir ilgi alanı olarak kabul edilmelidir. Endişe, soldan sağa sütunla artar. © Caldwell, Andrews ve ark. 2020

    En tehditkar altı kategoriden beşi, otonom araç teknolojisinin terör saldırıları veya kazalara neden olmak için kötüye kullanımı ve yapay zeka tarafından oluşturulan içeriği içerenler gibi geniş toplumsal etkiye sahiptir. Bu durumda, yanlış bilgi, bir kişinin kimliğini özel erişim talep etmek için gasp edebilir, hatta bilinen bir kişinin itibarını mahvedebilir. Deepfake'leri tespit etmek ve bunlarla  mücadele etmek çok zordur ve bu nedenle oldukça tehlikelidir. Ayrıca, AI tarafından yazılan sahte içerik, kesinlikle insanların zihinlerini gerçeği sahteden ayırt etmek için karıştıracaktır.

    Araştırmacılar daha sonra finansal piyasaların manipülasyonu, siber saldırılar, veri bozulması, dolandırıcılık veya suç amaçlı silahların kontrolü gibi "orta" şiddetteki tehditlere ışık tuttu. Ne kadar korkutucu olsa da, bu son tehdit, uygulanması zor olduğu ve askeri teçhizatın iyi korunduğu için bu tür (orta) olarak sınıflandırılmıştır.

    Aynı nedenle, “robot hırsızları” kolayca durdurulabildikleri için en az ciddi tehditler arasında yer alır. Ayrıca, sahtecilik, sahte kültürel içerik (müzik, resim, vb.) üretmek ve satmaktan oluşacaktır, ancak ciddiyeti önemli görülmemektedir.

Aşağı yukarı yakın bir gelecek için etik sorunlar

   Bilinçli bir yapay zekanın ana riski, etik ve yasal çerçevemizin dışına çıkmak ve onun kontrolünü kaybetmek olacaktır. Günümüze daha yakın bir zamanda, UNESCO'nun yapay zeka ile ilgili tüm alanları, faydaları ve toplum için risklerini kapsayan ilk küresel metni 24 Kasım 2021'de kabul edildi.

   Tavsiye, AI'nın geliştirilmesinde siyasi ve yasal önlemlere rehberlik etmesi gereken değerleri ve ilkeleri açıklar. Bunlar arasında insan haklarına saygı ve katılım (ayrımcılık yapmama, cinsiyet eşitliği vb.); AI'nın araştırılması ve kullanılmasında sürdürülebilir kalkınmaya katkı; AI güvenliği (risk değerlendirmesi, veri koruma, sosyal derecelendirme veya toplu gözetim amaçları için AI kullanma yasağı).

    Çinli araştırmacılar , "  Bilişsel bilgi işlem tarafından temsil edilen algoritmalardaki atılımlar, AI hizmetleri için bir alan yaratmak için AI'nın eğitim, ticaret ve tıbbi tedavi gibi alanlara sürekli nüfuz etmesini sağlıyor  " diye yazıyor . “  İnsanlık ve akıllı makineler arasında kimin kimi kontrol ettiği konusundaki insan endişesine gelince, cevap, AI'nın yalnızca insanlar için bir hizmet sağlayıcı olabileceğidir, bu da etiğin değerinin rasyonelliğini gösterir  ”.

    Çoğu bilim insanı bununla hemfikir olsa da, diğerleri AI'nın gelişiminin ne kadar büyük olabileceği konusunda endişeleniyor. Dağıtılmış Programlama Laboratuvarı Direktörü Time Rachid Guerraoui, " Bugün, yapay zeka sistemleri, bir insanın davranışlarını değiştirmeye çalıştığını algılar ve bazen bu müdahaleyi reddetmek ve AI'nın ilk amacı ile çelişirse onu atlatmak için her şeyi yapar  " diye uyarıyor. EPFL'de (İsviçre). “ Yapay zekanın tüm kararları kendisinin verdiğine inanabilmesi için ince ve hızlı bir şekilde hareket etmelisiniz. Ardından da insan müdahalesinin izlerini silmek ” dedi. Bu nedenle dikkatli olun, makinenin insanı ele geçirmesi yarın için olmasa bile.