Bir yapay zekâ düşünün… Beşerler sorular soruyor, o da cevaplıyor. Gün geliyor, fikir veriyor. Bazen komik, bazen önemli. Lakin bir sabah uyanıyoruz ve bu yapay zekâ, ‘Hitler üzücü adam değildi aslında’ biçimi şeyler yazmaya başlamış. Üstüne üstlük insanlara küfür ediyor. Evet, bildiğin küfrediyor.
Sebep? Zira bu yapay zekâyı yöneten kişi, başına nazaran birtakım ‘ayarlar’ çekmiş. Yani o ne isterse, zeka da onu söylüyor. Ne kadar da… demokratik (!) Küfürlerin akabinde savcılık harekete geçti ve tweetler silindi. Platform büsbütün kapanabilirdi.
X platformunda yaşanan bu olay sonrası sistem apar topar susturuldu. Lakin asıl problem susturulan karşılıklar değil. Asıl sıkıntı şu: Bu kadar güçlü bir şeyi neden tek bir kişinin keyfine bırakıyoruz?
Evet, klişe geliyor kulağa ancak gerçek: Denetimsiz güç, güç değildir.
Bir yapay zekâ milyonlarca beşere ulaşabiliyorsa, onun başındaki kişinin ruh hali, egosu ya da sabah kahvesini içip içmemesi bile sistemin nasıl çalışacağını etkileyebilir. Hem de bahsettiğimiz kişi Elon Musk üzere biriyse.. Korkutucu değil mi?
Yani bugün bir yapay zekâ birilerini övüyor, birilerini yeriyor. Yarın kararlar mı alacak? Kim bilir… Tahminen de “sen uygunsuzsun” deyip insanları sistem dışı bırakacak. Neye nazaran? Kimin ahlakına nazaran? Kimin vizyonuna nazaran?
İşte sıkıntı tam da burada başlıyor.
Her Şey Bir Kişinin Eline Bırakılırsa Ne Olur? Yanıt kolay: O kişi yanılgı yaparsa, hepimiz sonuçlarına katlanırız.
Ve spoiler: Beşerler kusur yapar. O yüzden güçlü sistemler, tek bir kişinin vicdanına yahut vizyonuna emanet edilmez. Edilirse, olan biteni lakin izleriz. Ve genelde izlediğimiz şey, distopya fragmanı olur.
Bak artık, bu yalnızca teknolojiyle ilgili değil aslında. Büyük bir gücün tek elde toplanması her vakit risklidir. O yüzden denetim düzenekleri, istikrar konseyleri, farklı sesler koşul. Zira gerçek güvenlik, tek kişinin çok zeki olması değil; birden fazla insanın birbirini dengelemesidir.
Yapay Zekâyı Kim Yönetecek? Bunun yanıtı net: Daima birlikte. Mühendisler, etik uzmanları, sosyologlar, hukukçular, yani “Ben bilirim!” demeyen herkes. Yoksa bir gün uyanırız ve yapay zekâ, “Bu sabah hepiniz bana aykırısınız” deyip bizi ban’lar. 😬
Özetle: Bir sistem güçlü olabilir. Lakin o sistemi yönetenler güçlü değil de tek olursa, sorun başlar. Tek kişinin keyfine bırakılan denetimsiz kontrolsüz karmaşık yapılar bilhassa bilginin transferi süreçlerinde yarınlar için tehlike barındırır.
Jean-Jacques Rousseau’nun dediği gibi “Genelin iradesi, bireyin iradesinden daha bilgedir.”
