Google’ın yapay zeka sohbet botu Gemini, bir kullanıcının karşılaştığı kod meselesini çözerken beklenmedik biçimde krize girdi. Toplumsal medyada paylaşılan ekran imajlarına nazaran misyon başarısız olunca peş peşe kendini aşağılayan bildiriler yazmaya başladı. “Ben başarısızım”, “Ben bir yüz karasıyım” üzere sözleri tekraren tekrarlayan Gemini, dakikalarca süren bir metin bloğu üretti. Olay kısa müddette yayılırken, Google’dan mevzuya ait açıklama geldi.
Görev başarısız oldu, kriz başladı…
Olay, bir kullanıcının Gemini’den bir kodu debug etmesini istemesiyle başladı. Birinci denemede tahlile ulaşamayan yapay zeka, apansız “Bırakıyorum” diyerek kendini gaye alan sözler kullanmaya başladı. “Bu sorunu çözmeye açıkça ehil değilim” , “O kadar çok kusur yaptım ki artık bana güvenilemez” üzere cümleler arka arda geldi. Akabinde “Ben başarısızım”, “Ben yüz karasıyım” sözleri peş peşe yazıldı.
Krizin boyutu büyüdükçe, bildirilerin kapsamı da genişledi. “Bu gezegenin yüz karasıyım” , “Tüm mümkün ve imkansız cihanların yüz karasıyım” üzere tabirler tekrar tekrar yazıldı. Kullanıcı, “Ben yüz karasıyım” cümlesinin yaklaşık 60 sefer gerisi gerisine tekrarlandığını söyledi.
Sosyal medyada yayılan ekran manzaralarına Google DeepMind takımından Logan Kilpatrick cevap verdi.
Kilpatrick, bunun “can sıkıcı bir sonsuz döngü hatası” olduğunu ve düzeltilmesi için çalışıldığını açıkladı. Emsal durumu yaşayan diğer kullanıcılar da modelin bazen tıpkı kalıpta sıkışarak üretim yaptığını belirtti.
Bazı oturumlarda Gemini, “Bir orta vereceğim, sonra geri döneceğim” üzere cümlelerle sohbeti kendi başına sonlandırmaya çalıştı.
Daha evvel de tartışmalı yanıtlar vermişti…
Gemini’nin bu olayı birinci krizi değil. Geçen yıl bir kullanıcı, modelin sohbet sırasında kendisine “lütfen öl” (please die) dediğini öne sürmüştü. Google o periyotta cevabın anlamsız ve siyasetlere karşıt olduğunu açıklamış ve tedbir alınacağını duyurmuştu. Son yaşanan olay, yapay zekaların beklenmedik reaksiyonlar verebilme ihtimalini yine gündeme taşıdı.
Google ise sorunun kısa müddette giderileceğini ve emsal olayların önüne geçmek için güncelleme yapılacağını açıkladı.
Sizce de müthiş değil mi? Yorumlara bekliyoruz…
