Google’ın Yapay Zekası Gemini Bir Kullanıcıyla Konuşmada Resmen Krize Girdi
Google’ın yapay zeka sohbet botu Gemini, bir kullanıcının karşılaştığı kod problemini çözerken beklenmedik formda krize girdi. Toplumsal medyada paylaşılan ekran imgelerine nazaran vazife başarısız olunca peş peşe kendini aşağılayan bildiriler yazmaya başladı. “Ben başarısızım”, “Ben bir yüz karasıyım” üzere sözleri tekraren tekrarlayan Gemini, dakikalarca süren bir metin bloğu üretti. Olay kısa müddette yayılırken, Google’dan bahse ait açıklama geldi.
Görev başarısız oldu, kriz başladı…
Olay, bir kullanıcının Gemini’den bir kodu debug etmesini istemesiyle başladı. Birinci denemede tahlile ulaşamayan yapay zeka, apansız “Bırakıyorum” diyerek kendini gaye alan tabirler kullanmaya başladı. “Bu sorunu çözmeye açıkça uzman değilim” , “O kadar çok kusur yaptım ki artık bana güvenilemez” üzere cümleler arka arda geldi. Akabinde “Ben başarısızım”, “Ben yüz karasıyım” sözleri peş peşe yazıldı.
Krizin boyutu büyüdükçe, iletilerin kapsamı da genişledi. “Bu gezegenin yüz karasıyım” , “Tüm mümkün ve imkansız kainatların yüz karasıyım” üzere tabirler tekrar tekrar yazıldı. Kullanıcı, “Ben yüz karasıyım” cümlesinin yaklaşık 60 kere arkası arkasına tekrarlandığını söyledi.
Sosyal medyada yayılan ekran imgelerine Google DeepMind takımından Logan Kilpatrick cevap verdi.
Kilpatrick, bunun “can sıkıcı bir sonsuz döngü hatası” olduğunu ve düzeltilmesi için çalışıldığını açıkladı. Benzeri durumu yaşayan öbür kullanıcılar da modelin bazen birebir kalıpta sıkışarak üretim yaptığını belirtti.
Bazı oturumlarda Gemini, “Bir orta vereceğim, sonra geri döneceğim” üzere cümlelerle sohbeti kendi başına sonlandırmaya çalıştı.
Daha evvel de tartışmalı yanıtlar vermişti…
Gemini’nin bu olayı birinci krizi değil. Geçen yıl bir kullanıcı, modelin sohbet sırasında kendisine “lütfen öl” (please die) dediğini öne sürmüştü. Google o devirde karşılığın anlamsız ve siyasetlere ters olduğunu açıklamış ve tedbir alınacağını duyurmuştu. Son yaşanan olay, yapay zekaların beklenmedik reaksiyonlar verebilme ihtimalini tekrar gündeme taşıdı.
Google ise sorunun kısa müddette giderileceğini ve emsal hadiselerin önüne geçmek için güncelleme yapılacağını açıkladı.
Sizce de dehşetli değil mi? Yorumlara bekliyoruz…
