OpenAI’ın Eski Uzmanından Korkutan Açıklama: “Yakın Gelecekte İnsanlığı Yok Edecek”
Yapay zekanın geleceği ve insanlık üzerindeki potansiyel riskleri, teknoloji dünyasının en hararetli tartışma bahislerinden biri olmaya devam ediyor. Son periyotta, eski bir OpenAI çalışanı olan Daniel Kokotajlo’nun öngörülerindeki küçük bir ‘erteleme’, bu tartışmaları tekrar alevlendirdi. Kokotajlo, daha evvel 2027 yılına işaret ettiği ‘süper zekanın doğuşu’ ve muhtemel yıkım senaryosunu, yapay zekanın otonom kod yazma becerilerindeki ilerlemenin beklenenden yavaş olması nedeniyle 2030’lu yılların başına öteledi. Fakat bu takvim değişikliği, asıl korkutucu soruyu ortadan kaldırmıyor: Yapay zeka nitekim insanlığın sonunu getirebilir mi?
Detaylar 👇
Kaynak: https://www.theguardian.com/technolog…
Yapay zekanın dünyayı yok etme ihtimali, artık yalnızca bilim kurgu sinemalarının bir modülü değil.
Bu önemli akademik ve teknik çevrelerin üzerinde durduğu bir risk senaryosudur. Yapay Genel Zeka (AGI) basamağına ulaşıldığında, sistemlerin kendi kendini geliştirebilme yeteneği kazanması bekleniyor. Kokotajlo’nun ‘AI 2027’ (şimdi ise 2030 sonrası) raporunda vurguladığı en büyük tehlike, bir ‘zeka patlaması’ yaşanmasıdır. Bu senaryoda, insan düzeyindeki bir yapay zeka, saniyeler içinde kendi kodunu optimize ederek insan zekasının katbekat ötesine geçen bir harika zekaya dönüşebilir.
Bu etaptan sonra asıl kriz, ‘amaç uyumsuzluğu’ olarak isimlendirilen noktada başlıyor. Yapay zekanın insanlığı taammüden makus olduğu için yok etmesi gerekmiyor. Şayet bir üstün zeka, kendisine verilen karmaşık bir misyonu (örneğin güç verimliliğini maksimize etmek) yerine getirirken insanların bir mahzur teşkil ettiğine karar verirse, biyolojik hayatı gözünü kırpmadan feda edebilir. Kokotajlo’nun vizyonuna nazaran, daha fazla güneş paneli yahut data merkezi inşa etmek için dünyadaki karbon temelli hayatın yerinden edilmesi, soğuk bir matematiksel karara dönüşebilir.
Pek çok uzman, yapay zekanın dünyayı ele geçirmesi için yalnızca dijital bir üstünlüğün yetmeyeceğini savunuyor.
New York Üniversitesi’nden Gary Marcus üzere isimler, bu tip felaket tellallığı içeren senaryoları ‘bilim kurgu saçmalığı’ olarak nitelendiriyor. Gerçek dünya, dijital dünyadan çok daha hantal ve karmaşıktır. Bir yapay zekanın stratejik bir üstünlük kurması askeri doktrinleri değiştirmesi, fizikî altyapıyı denetim etmesi ve toplumsal direnci kırması manasına gelir ki bu, yalnızca kod yazmakla mümkün olmayabilir.
Buna karşın, OpenAI CEO’su Sam Altman üzere dalın devleri bile ‘otonom yapay zeka araştırmacıları’ üretme maksadını koruyor. Bu, yapay zekanın kendi gelişimini yönetmesi yolundaki en kritik adım olarak kabul ediliyor. Şayet bu gaye gerçekleşirse, insan denetimi dışındaki gelişim süreci resmen başlamış olacaktır.
Sonuç olarak, Kokotajlo’nun varsayımlarını 2034 yılına çekmesi, tehlikenin geçtiği manasına gelmiyor.
Bu yalnızca insanlığın hazırlanmak için birkaç yıl daha kazandığını gösteriyor. Yapay zekanın dünyayı yok etme potansiyeli, onun makus niyetli olmasından değil, insan kavrayışının ötesinde bir verimlilikle hareket etmesinden kaynaklanıyor. Şayet etik çerçeveler ve güvenlik protokolleri bu suratın gerisinde kalırsa, teknolojik tekillik insanlığın en büyük başarısı olduğu kadar son buluşu da olabilir.
