ELIZA Etkisinden ELIZA Problemine Bir Kitlesel Psikoz
“Çok fazla insanı kaybettik ve hala hayattalar.”
Joseph Weizenbaum ELIZA’yı programlarken ne yaptığını biliyordu. 60’lı yıllarda Weizenbaum insanların makineler ile olan ilişkisini incelemek için bir sistem geliştirdi. ELIZA adında, siyah üstüne yeşil tek renkli ekranda çalışan metin tabanlı yazılım kullanan bu sistem fazlasıyla basit bir senaryoyu takip ediyordu. Bu senaryo Carl Rogers’dan adını alan bir psikoloji ekolünü takip eden bir terapi seansı modelini taklit ederek kullanıcının yazdıklarına karşılık olarak, önceden hazırlanmış şablona göre belirli cevaplar veriyordu. Verdiği cevaplar zamanın teknolojisi ve bilgisayarların kapasitesi sebebiyle fazlasıyla kısıtlıydı. Ancak buna rağmen kullanıcılar zaman zaman ELIZA’nın kısıtlı bir program, bir zekâ imitasyonu olduğunu unutarak programla bağ kurmaya başladılar. Hatta kesin olmamakla beraber şöyle bir anekdot var ki; Weizenbaum’un asistanı ELIZA ile rahatça konuşabilmek için Weizenbaum’dan odayı terk etmesini ister.
Weizenbaum insanların makine ile kurdukları bu bağ ve etkileşim ile ilgili olarak şunları yazdı;
“Fark etmediğim şey şuydu: Nispeten basit bir bilgisayar programına son derece kısa sürelerle maruz kalmak, gayet normal insanlarda güçlü ve sanrısal düşünceleri tetikleyebiliyordu.”
“…burada belirli bir tehlike var…”
Bu tespit ve arkasından gelen uyarı, günümüzdeki LLM (Geniş Dil Modelleri) ile kıyaslanamayacak kadar küçük ve kısıtlı bir program olan ELIZA için yapılmıştı. Bu çalışmadan sonra literatüre giren ve hala geçerli olan bir fenomen var. ELIZA etkisi. ELIZA etkisi; insanların bilgisayar programlarına insansı özellikler yüklemesi ve programlarda aslında var olmayan, tecrübe, semantik kavrama ve empati gibi özelliklerin programda var olduğu sanrısına kapılmasına verilen isim.
Yaşı yetenler belki hatırlayacaktır, eskiden teknoloji firmaları mühendislik becerilerini sergilemek için insansı robotları sergilerlerdi. Bu robotlardan futbol oynayanları, merdiven çıkanları ve dünya liderleri ile el sıkışanları bile olmuştu. O robotlar da yapay zekâ kullanıyordu, ancak o dönemde kimse bu robotların canlı bir varlık olduğunu düşünmüyordu. İnsansı robotların popüler kültürde daha fazla yer edindiği o zamanlarda bu makineleri tasarlayanlar ve sıradan insanlar ELIZA etkisinin bu seviyede içerisinde değillerdi. Günümüzde artık bunun bir psikoloji fenomeninden öteye geçtiğini ve patolojik seviyede bir psikoz formuna eriştiğini kabul etmemiz gerekiyor.
Bu psikoz kasıtlı şekilde firmalar ve medya tarafından kademeli bir şekilde geliştirildi. Bunun geliştirilmesi için bilgisayar ve teknoloji terminolojisi kademeli olarak değiştirilip makine ve insan arasındaki fark semantik açıdan aşındırıldı.
Bunu açıklamak için öncelikle genel semantiğin öncüsü Alfred Korzybski’den bir alıntı ile başlayayım;
“Harita, arazi değildir.”
En önemli semantik karmaşa ile başlayayım. Bir bilinçli varlığı taklit etmek üzere üretilmiş bir yazılımın bilinçli bir varlığa benzemesi gayet normal. Ancak; hayır, karşımızda bilinçli bir varlık yok. Bilinçli bir varlığı taklit etmek üzere tasarlanmış yeterince kompleks bir otomasyon bazı insanlarda bilinçli bir varlık ile etkileşim kuruyormuş hissiyatı yaratıyor. Bu semantik karmaşa ile beraber, yapay zekâ yazılımları insanlarda çok zeki ve bilge bir varlıkla etkileşim kurdukları yanılgısını oluşturup insanların bu yazılımların verdikleri çıktılara gereğinden fazla anlam ve önem vermesine sebep oluyor.
Eğer herhangi bir konuda yetkinseniz, yapay zekâ ile yaptığınız araştırmaların ve verdiği çıktıların ne kadar yetersiz ve hatalı olduğunu söylememe gerek yoktur.
Burada da diğer kasıtlı semantik aşındırmalara değinmek istiyorum. Eskiden yazılımların hatalarına bug deniyordu. Artık yapay zekâ yazılımlarının hatalarına halüsinasyon deniyor. Yazılım komutunun adı prompt oldu. Veri tabanı sorgusunun adı bilgi-erişimi destekli üretim oldu. Bellek atamasının adı bağlam penceresi oldu. Otomatik komutların adı yapay zekâ ajanları oldu. Beta testlerinin adı insan geri bildiriminden pekiştirmeli öğrenme oldu.
Bu semantik aşındırmanın zararlarından birisi de bilgisayarların matematiksel ve deterministik yapısının dışında yapamayacakları şeyler için kullanılabileceğinin sanılması oluyor. Maalesef ki bilgisayarlar ve yazılımlar hiçbir zaman kendi kendilerine bir iş yapamayacaklar. Bunun ne kadar çabuk farkına varılırsa o kadar iyi olur.
Bu yaratılan karmaşanın sonuçlarını şu anda teknoloji firmalarında gözlemlemekteyiz. Günümüzde yapay zekâ şirketlerinin çalışanları ve yöneticilerinin açıklamalarını gördükçe hiçbirinin, ürettikleri yazılımın canlı bir varlık olmadığı bilincine sahip olduğunu düşünmüyorum. Açık olmak gerekirse bunu belki de bilinçli bir şekilde, kavramın ilk ortaya çıkışında olduğu gibi maddi kaynak sağlamak amacıyla yapıyorlardır. Ama ben o insanların gerçekten ne düşüncelerini bilemem sadece söyledikleri ve yazdıklarından yola çıkarak analizler yapabilirim. Yapay zekâ firmalarının dışında diğer teknoloji firmalarına da etki eden bu durumun, teknoloji literatürünün semantik açıdan bozulması ile sistemsel bir çöküşe dönüşmesi gayet olası.
Bu yazılımlar bu derecede hayatımıza girmişken, bu problemi çözmek için kolay bir yol ancak bu kitlesel psikozdan ne kadar çabuk kendimizi kurtarıp verilen zararları onarmaya başlarsak o kadar iyi olacak.
