1966'da bilgisayar bilimcisi Joseph Weizenbaum, ELIZA adını verdiği ilkel bir bilgisayar programı geliştirdi. Hemen ardından bu çalışmasından pişman oldu.
Basit psikoterapi görüşmelerini taklit etmek üzere geliştirilen ELIZA, beklenmedik derecede derin tepkilere yol açtı. Kullanıcılar içlerini döktüler, kendileriyle ilgili samimi ayrıntıları paylaştılar ve programa sanki bir insanmış gibi davrandılar. Tepki o kadar yoğundu ki, Massachusetts Teknoloji Enstitüsü'ndeki ( MIT ) sekreterinin bile Weizenbaum'dan dışarı çıkmasını ve programla özel olarak konuşabilmesini istediği bildirildi.
ELIZA, dünyanın ilk sohbet robotu olarak geniş çapta kabul görmektedir ve bir versiyonu bugün hala çevrimiçi olarak mevcuttur. Bu robotun yaratılması, Weizenbaum'u yapay zeka ve dil işleme modelleri alanında öncü bir isim haline getirmiştir; bu programlar, metindeki kalıpları tanıyarak analiz yapıp yanıtlar üretmek üzere tasarlanmıştır.
Weizenbaum, 1976'da yazdığı "Bilgisayar Gücü ve İnsan Aklı" adlı kitabında, "Farkına varmadığım şey, nispeten basit bir bilgisayar programına son derece kısa süreli maruz kalmanın, oldukça normal insanlarda güçlü yanıltıcı düşüncelere yol açabileceğiydi" diye hatırlıyor. "ELIZA etkisi" olarak bilinen bu olgu onu derinden rahatsız etmişti.
2008'deki ölümüne kadar hayatını teknolojinin en sert ve en sesli eleştirmenlerinden biri olmaya adadı.
Yansıtma Güçleri
Dünyanın ilk sohbet robotunun amacı hiçbir zaman yapay zekanın sınırlarını zorlamak olmamıştı.
"Weizenbaum, ELIZA'yı teknolojik bir deneyden ziyade psikolojik bir deney olarak tasarladı," diye açıklıyor Blood in the Machine: The Origins of the Rebellion Against Big Tech kitabının yazarı Brian Merchant. "İnsanların makinelerle nasıl etkileşim kurduğuyla ilgileniyordu ve ELIZA'yı bu ilişkiyi araştırmak için bir araç olarak tasarladı."
ELIZA, kullanıcının yazdığı girdiyi anahtar kelimeler açısından tarayarak ve kalıp eşleştirmesine dayalı olarak insan konuşmasına benzeyen yanıtlar üreterek çalışıyordu. Weizenbaum, "ELIZA, başka hiçbir şey olmasa bile, anlama yanılsamasını yaratmanın ve sürdürmenin ne kadar kolay olduğunu gösteriyor" diye yazdı. Programın mekanizmaları ortaya çıktığında, "sihrin" "ortadan kalkacağına" inanıyordu.
Ancak Merchant, Weizenbaum'un, özellikle teknolojinin ne kadar basit olduğu göz önüne alındığında, kullanıcıların botla duygusal yakınlık kurma biçiminden "dehşete düştüğünü" söylüyor. Programın ilkel olduğu söylendikten sonra bile, kullanıcılar ELIZA'ya anlayış, empati ve niyet atfetmeye devam ettiler. Bu tepki, insan-makine dinamiğine dair rahatsız edici bir içgörü ortaya koydu.
Merchant, “Weizenbaum, ilişki kurma arzumuzun ve bu arzuyu istismar etmek için bir bilgisayar programının kolayca geliştirilip satılabileceğinin, insanları bilgisayar sistemlerinin sahibi ve işletmecisi olan herkesin elinde kitlesel sömürüye karşı savunmasız bırakacağını fark etmişti” diyor.
Weber State Üniversitesi Bilgisayar Bilimleri Fakültesi'nde doçent olan Luke Fernandez de benzer şekilde Weizenbaum'un, insanlar ve makineler arasındaki gelişen ilişkide potansiyel bir risk faktörü olarak insanların "yansıtma gücünü" gördüğüne dikkat çekiyor.
Fernandez, “Weizenbaum, teknolojinin bizi nereye götüreceği konusunda kaçınılmaz bir şey olduğu veya eylemin teknolojinin kendisinde bulunduğu fikrini reddetti,” diyor. İnsanların makinelere çok fazla güvenmesi durumunda, birbirimize karşı sorumluluğumuzu tehlikeye atabileceğimizden endişeleniyordu.
Anlam Nasıl Oluşturulur
Weizenbaum, insan yargısının ve muhakemesinin ahlaki bir sorumluluk taşıdığına inanıyordu ve bu inanç, teknoloji ve yapay zekâya dair anlayışını şekillendirdi.
Genç bir delikanlıyken Nazi Almanyası'ndan kaçmak zorunda kalan Weizenbaum, Nazilerin soykırımcı gündeminin, gözlerini başka yöne çeviren sıradan insanlar tarafından nasıl desteklendiğini bizzat gördü. Ayrıca, Nazilerin Yahudi karşıtı propagandasının güçlü etkisini de fark etti; bu propaganda, Nazilerin sözde mükemmel bir ırk yaratma çabası doğrultusunda, kendi ailesi gibi Yahudi ailelerini insanlıktan uzaklaştırmıştı. Bu insanlıktan uzaklaştırma kampanyası, genel kamuoyunda kayıtsızlığa yol açmıştı.
Geçmişine bakıldığında, Weizenbaum, bazı meslektaşlarının insan aklını yapay zekanın olanaklarıyla karşılaştırırken kullandığı insanlık dışı dilden özellikle rahatsız olmuştu. MIT araştırmacısı Marvin Minsky'nin insanları "et makineleri" olarak tanımlamasına öfkelenmiş ve önde gelen teknoloji uzmanlarının gelecekteki robotların "doğaya bir düzeltme ve iyileştirme" sunabileceği ima etmesine karşı çıkmıştı. Weizenbaum, bu düşünce tarzının tarihteki en büyük vahşetlerden bazılarının ortaya çıkmasına neden olduğunu vurguladı.
Weizenbaum, 1998'de Alman gazeteci Bernhard Pörksen'e verdiği demeçte, "Nazi döneminde Yahudiler haşere olarak tasvir ediliyordu; bu metafor, toplu katliamı meşrulaştırıyordu. Bugün ise... insanın sadece bir robotla değiştirilebilen bir bilgi işlem makinesi olduğu fikri giderek daha fazla önem kazanıyor ve güç kazanıyor." demişti.
Weizenbaum, "insanlığın acımasız bir imajının muazzam gücünün" "bir toplumda virüs gibi yayılabileceği" ve insanlığın buna karşı şiddetle önlem alması gerektiği konusunda uyarıda bulundu.
Weizenbaum, yapay zekâ gibi teknolojilerin gelecekteki yeteneklerini hiçbir zaman küçümsemese de, makinelerin potansiyel gücü onun asıl endişesi olmamıştı. Bunun yerine, insanların bu makinelere yönelik beklentilerinin, daha iyi karar verme yeteneklerini engelleyeceğinden korkuyordu. 1970'lerden 2000'lerin başlarına kadar teknoloji etiğinin savunucusu olmuş ve bilim insanlarını çalışmalarının sosyal sonuçlarıyla yüzleşmeye çağırmıştı.
Öngördüğü risk, yapay zekâ gibi teknolojilerin uygarlığı yok eden canavarlara dönüşmesi değil, toplumun bunları sahte putlar olarak görmesiydi. Ona göre insanlık için gerçek tehdit içeriden geliyordu; teknoloji sadece bu tehdide bir çıkış yolu sağlıyordu.
Weizenbaum arkadaşlarına defalarca şunu vurguladı: "Ben bir yapay zeka eleştirmeni değilim. Ben bir toplum eleştirmeniyim."