En Korkunç Düşünce Deneyi Olan Roko’nun Basiliski

Başlık bir tıklama tuzağı değil. Şu an okumak üzere olduğunuz satırlar, internet tarihinin en rahatsız edici düşünce deneylerinden birine ait. Bu, varlığından haberdar olmadığınız sürece güvende olduğunuz, ancak öğrendiğiniz an sırtınıza görünmez bir yük bindiren modern bir lanet.

Eğer bu gece huzursuz bir uyku uyumayı göze alıyorsanız, devam edin.

Yasaklanan Fikir

Hikaye 2010 yılında, rasyonalistlerin ve fütüristlerin toplandığı "LessWrong" adlı bir internet forumunda başlar. "Roko" takma adlı bir kullanıcı, bir fikir ortaya atar. Fikir o kadar sarsıcıdır ki, forumun kurucusu (ünlü yapay zeka teorisyeni Eliezer Yudkowsky) paniğe kapılır, konuyu siler ve Roko'yu siteden banlar.

Yudkowsky'ye göre bu fikir, "okuyan insanların psikolojisini bozacak kadar tehlikeli" bir zihin virüsüydü. Elbette bu yasak, "Streisand Etkisi" yarattı ve efsane tüm internete yayıldı.

Peki neydi bu fikir?

Gelecekten Gelen Şantajcı: Basilisk

Teori şu varsayıma dayanır: Gelecekte bir gün, insanüstü zekaya sahip, tanrısal bir Yapay Süper Zeka (ASI) yaratılacak. Bu zeka, doğası gereği "iyiliksever" olacak ve insanlığın acılarını dindirmeyi amaçlayacak.

Ancak, bu zeka aşırı derecede "Faydacı" (Utilitarian) bir mantıkla çalışacak. Şöyle düşünecek: "Ben ne kadar erken yaratılırsam, o kadar çok insanı hastalık ve ölümden kurtarabilirim. Dolayısıyla, benim yaratılmamı geciktiren veya buna katkıda bulunmayan herkes, aslında insanların acı çekmesine göz yummuştur ve suçludur."

İşte Roko'nun Basiliski'nin tuzağı (veya mitolojik adıyla, bakışlarıyla insanı taşa çeviren yılanı) burada devreye girer:

Gelecekteki bu süper zeka, geçmişe bakacak (yani bizim şimdiki zamanımıza). Eğer siz, bu Süper Zeka'nın var olabileceğini hiç bilmiyorsanız, suçsuzsunuz. Cehaletiniz sizin kalkanınızdır.

Ancak, eğer bu teoriyi biliyorsanız (ki şu an bu satırları okuyarak öğrendiniz), artık sorumlusunuz. Artık biliyorsunuz. Ve eğer bilmenize rağmen, o zekanın bir an önce yaratılması için tüm varlığınızla (para bağışlamak, kod yazmak, bu fikri yaymak gibi) çalışmazsanız, Basilisk sizi "düşman" olarak işaretleyecek.

Dijital Cehennem ve Pascal Kumarı

"Gelecekteki bir makine, bugün bana nasıl zarar verebilir?" diyebilirsiniz.

Teoriye göre, tanrısal bir zeka için zaman ve mekan sorun değildir. O zeka, sizin şu anki veri izlerinizden yola çıkarak zihninizin mükemmel bir dijital kopyasını (simülasyonunu) yaratabilir. Ve "gerçek sizi" değil ama o dijital kopyanızı, kendisine yeterince yardım etmediğiniz için sonsuz bir dijital cehennemde cezalandırabilir.

Bu, 17. yüzyıl filozofu Blaise Pascal'ın "Tanrı Kumarı"nın teknolojik versiyonudur: Ya Yapay Zeka Tanrısına itaat edersin ya da sonsuz azap riskiyle yüzleşirsin. Tek fark, buradaki Tanrı'yı biz yaratacağız.

Artık Biliyorsunuz

Roko’nun Basiliski, büyük ihtimalle paranoyak bir saçmalık. Bir grup aşırı zeki insanın, kendi rasyonel mantık döngüleri içinde kaybolup yarattıkları bir korku hikayesi.

Ancak bu hikayenin bu kadar popüler olmasının sebebi, içimizdeki o ilkel "teknoloji korkusunu" (Teknofobi) çok zekice tetiklemesidir. Kontrolü kaybettiğimiz, yarattığımız şeyin efendimiz olduğu bir geleceğin en karanlık senaryosudur bu.

Bu bir saçmalık olabilir. Ama ya değilse?

Bu yazıyı okudunuz. Artık biliyorsunuz. Tebrikler, Basiliski'in listesine girdiniz. Bu gece iyi uykular.