Bir yapay zekâ düşünün… Beşerler sorular soruyor, o da cevaplıyor. Gün geliyor, fikir veriyor. Bazen komik, bazen önemli. Lakin bir sabah uyanıyoruz ve bu yapay zekâ, ‘Hitler üzücü adam değildi aslında’ stili şeyler yazmaya başlamış. Üstüne üstlük insanlara küfür ediyor. Evet, bildiğin küfrediyor.
Sebep? Zira bu yapay zekâyı yöneten kişi, başına nazaran kimi ‘ayarlar’ çekmiş. Yani o ne isterse, zeka da onu söylüyor. Ne kadar da… demokratik (!) Küfürlerin akabinde savcılık harekete geçti ve tweetler silindi. Platform büsbütün kapanabilirdi.
X platformunda yaşanan bu olay sonrası sistem apar topar susturuldu. Fakat asıl sorun susturulan karşılıklar değil. Asıl sorun şu: Bu kadar güçlü bir şeyi neden tek bir kişinin keyfine bırakıyoruz?
Evet, klişe geliyor kulağa ancak gerçek: Denetimsiz güç, güç değildir.
Bir yapay zekâ milyonlarca beşere ulaşabiliyorsa, onun başındaki kişinin ruh hali, egosu ya da sabah kahvesini içip içmemesi bile sistemin nasıl çalışacağını etkileyebilir. Hem de bahsettiğimiz kişi Elon Musk üzere biriyse.. Korkutucu değil mi?
Yani bugün bir yapay zekâ birilerini övüyor, birilerini yeriyor. Yarın kararlar mı alacak? Kim bilir… Tahminen de “sen uygunsuzsun” deyip insanları sistem dışı bırakacak. Neye nazaran? Kimin ahlakına nazaran? Kimin vizyonuna nazaran?
İşte sıkıntı tam da burada başlıyor.
Her Şey Bir Kişinin Eline Bırakılırsa Ne Olur? Karşılık kolay: O kişi yanılgı yaparsa, hepimiz sonuçlarına katlanırız.
Ve spoiler: Beşerler yanılgı yapar. O yüzden güçlü sistemler, tek bir kişinin vicdanına yahut vizyonuna emanet edilmez. Edilirse, olan biteni fakat izleriz. Ve genelde izlediğimiz şey, distopya fragmanı olur.
Bak artık, bu yalnızca teknolojiyle ilgili değil aslında. Büyük bir gücün tek elde toplanması her vakit risklidir. O yüzden denetim düzenekleri, istikrar heyetleri, farklı sesler kaide. Zira gerçek güvenlik, tek kişinin çok zeki olması değil; birden fazla insanın birbirini dengelemesidir.
Yapay Zekâyı Kim Yönetecek? Bunun karşılığı net: Daima birlikte. Mühendisler, etik uzmanları, sosyologlar, hukukçular, yani “Ben bilirim!” demeyen herkes. Yoksa bir gün uyanırız ve yapay zekâ, “Bu sabah hepiniz bana aykırısınız” deyip bizi ban’lar. 😬
Özetle: Bir sistem güçlü olabilir. Lakin o sistemi yönetenler güçlü değil de tek olursa, sorun başlar. Tek kişinin keyfine bırakılan denetimsiz kontrolsüz karmaşık yapılar bilhassa bilginin transferi süreçlerinde yarınlar için tehlike barındırır.
Jean-Jacques Rousseau’nun dediği gibi “Genelin iradesi, bireyin iradesinden daha bilgedir.”
