Yapay Zekanın Babasından Şok Çıkış: İnsanlığın Tek Kurtuluş Yolunu Açıkladı
Yapay zekanın öncülerinden Geoffrey Hinton, uzun yıllarını bu alandaki araştırmalara adamış ve “yapay zekanın babası” unvanını almış bir isim. Lakin son devirde yaptığı açıklamalar, kendi inşa ettiği teknolojiden duyduğu kaygıları ortaya koyuyor. Hinton, harika zekaya ulaşacak yapay zeka sistemlerinin insanlık için önemli bir tehdit olabileceğini düşünüyor.
Yine de insanlığı kurtarabilecek tek bir yol olduğuna inanıyor…
Süper zekayı denetim etmek mümkün değil…
Hinton, gelecekte gelişmiş yapay zeka sistemlerinin kendi varlıklarını muhafaza ve daha fazla güç elde etme dürtüsüyle hareket edeceğini söyledi. Bu noktada onları beşere uysal hale getirmeye çalışmanın beyhude bir gayret olacağını vurguladı. “Onlar bizden çok daha zeki olacak, etrafımızdan dolaşacak yollar bulacaklar” dedi.
Ona nazaran muhteşem zeka, insanları kolaylıkla manipüle edebilecek. Hakikaten şimdiden kimi yapay zeka modellerinin palavra söylediği, hile yaptığı ve hatta insanları şantajla tehdit ettiği örnekler yaşandı.
Çözüm annelik içgüdüsünde mi?
Hinton, bu risklere karşı sıra dışı bir teklif sundu. Ona nazaran yapay zekaya “annelik içgüdüsü” üzere bir his yüklenmeli. Böylelikle sistemler daha zeki hale gelse bile insanlara ziyan vermek yerine onları muhafazayı içselleştirebilir.
Hinton, “Daha akıllı bir varlığın; daha az akıllı bir varlığı gözetmesinin tek örneği, anne-bebek ilişkisidir” diyerek yaklaşımını açıkladı. Prosedürün teknik olarak nasıl yapılabileceği şimdi net değil. Lakin Hinton, bu istikamette çalışmalar yapılmazsa insanlığın yerini makinelerin alacağını düşünüyor.
Hinton’ın önerisi tartışma yarattı.
Yapay zekanın “vaftiz annesi” olarak anılan Fei-Fei Li, annelik modeli fikrine katılmadığını söyledi. Onun yerine insan onurunu ve özgürlüğünü merkeze alan bir yapay zeka anlayışının geliştirilmesi gerektiğini savundu.
OpenAI’ın eski CEO’su Emmett Shear ise yapay zekaların kapatma talimatlarını bile atlatmaya çalıştığını hatırlatarak, insan pahalarını sisteme gömmek yerine yapay zeka ile iş birliğine dayalı bağlar kurulmasının daha gerçek olacağını belirtti.
Hinton, insan zekasını aşacak yapay zekanın beklenenden çok daha yakında olduğunu söyledi.
Daha evvel bu süreci 30-50 yıl olarak öngörürken, artık 5-20 yıl ortasında olabileceğini söylüyor. Riskleri kabul etse de tıpta büyük ilerlemeler beklediğini belirtiyor. Kanser tedavilerinden yeni ilaç geliştirmeye kadar pek çok alanda yapay zekanın ihtilal yaratacağını vurguluyor.
Kariyerine dönüp baktığında ise en büyük pişmanlığının güvenlik problemlerini daha erken gündeme getirmemek olduğunu söylüyor.
