Yapay zekanın babasından iç karartan açıklamalar

Yazdığınız, söylediğiniz, talep ettiğiniz şeye göre size çıktılar veren üretken yapay zekâlar bir anda hayatımıza girdi. Bir anda gördüğümüz şey karşısında büyülendik ve ona çabucak alıştık. Artık Webtekno'da bile bazı içeriklerin görsellerini tamamen yapay zekâ ile üretiyor, bunu söyleme gereği bile duymuyoruz.

İşte asıl tehlike de burada başlıyor. ChatGPT, Midjourney gibi araçlar kötü amaçlarla kullanılmamaları için sınırlandırılsa da aynı teknolojik patikaları takip edip tam olarak kötü amaçlarla geliştirilen yapay zekâlar da var. Şöyle düşünün: Daha 2 yıl önce insanların fotoğraflarını çıplak hale getiren mobil uygulamalar gündemdeydi, şimdi kötü niyetli birine çıplak görmek istediği kişinin vesikalık fotoğrafı bile yetiyor. Tabii bu işin sosyal sorunlar boyutu. Bir de söz konusu silahlar ve savaşlardaki kötü niyet olunca sular epey bulanıyor.

Elbette endişeler bunlarla sınırlı değil. Mesela Boston Dynamics robotları her ne kadar silahsız üretilse de alıp üzerine kendi silah sistemelerini inşa edenler, hatta sıfırdan silahlı robot üretenler de var:

Peki yakın gelecekte bu robotlar, birisi "Şu kişiyi öldür" dediğinde gidip öldürecek mi?

Yapay zekânın bunları yapabilmesi için robotik bir bedene ihtiyacı yok… Peki nükleer savaşlar veya salgınlar kadar kötü sonuçlar doğuracak mı, hatta insanlığın varolulşunu tehdit edecek mi?

Bu ihtimaller karşısında hep yüreğimize su serptik ve "Daha çooook var!" dedik. Ancak görüyoruz ki bugüne kadar ürettiklerimizi kullanarak kendi kendisine öğrenen bir yazılım, şimdilik çok da insansı olmayan yanıtlarıyla hepimizi şaşkına çevirebiliyor. Bunu yapabiliyorsa etik değerlere sahip olmayan bir robotun öldürme komutunu yerine getirmeyeceğini kim garanti edebilir?

Eğer Hiroşima'ya atılan atom bombası bugün atılacak olsa artık bir uçağa, o uçağı kullanacak bir pilota ve en önemlisi de artık o bombayı bırakan tuşa basacak bir insana ihtiyacımız yok. Hepsi için etik değerlere sahip olmayan bir yapay zekâ yeterli!

Bu soruların yanıtını bilemiyoruz elbette. Ancak bizim bilmiyor olmamız sizin için bir anlam ifade etmiyorsa şunu söyleyelim: Yapay zekânın babası bile bu soruların yanıtını bilmiyor…

Yoshua Bengio'yu ilk kez görmüş olabilirsiniz. Ancak günümüzde "üretken yapay zeka" dediğimiz, bugüne kadar üretilmiş metinleri, görselleri tarayıp öğürenebilen ve size özgün yanıtlar vermeye çalışan sistemlerin babası. 90'lı ve 2000'li yılların başında Bengio'nun yaptığı çalışmalar, ChatGPT ve Midjourney gibi araçların temelini oluşturuyor.

Elbette Bengio kadar etkili ve başarılı onlarca bilim insanı ve mühendis var, ancak kendisinin görüşleri, aynı zamanda yapay zekânın geleceğine de ışık tutuyor.

'İnsanlığın güvenliğini nasıl garanti edeceğimizi bilmiyoruz!"

Kişisel web sitesinde yayınladığı blog yazısında yapay zekânın gelişimiyle yaşanacak potansiyel sorunlara değinen Bengio; bir noktada konuyu güvenliğe getiriyor:

"Henüz bir yapay zekâ aracını nasıl kontrol edilebilir hale getireceğimizi ve böylece insanlığın güvenliğini nasıl garanti edeceğimizi bilmiyoruz! Yine de biz -ben de dahil- bu tür sistemleri inşa etme yolunda hızla ilerliyoruz"

"Büyük ölçüde yıkıcı olabilecek bir şeye katkıda bulunmuş olabileceğimiz fikriyle yüzleşmek acı verici"

Yapay zekâ sistemlerini geliştiren ve şu anda kullanan herkesin farkına varmak istemediği tehlikelere ve bu durumun psikolojisine değinen Yoshuo, "Bu tür düşünceleri sindirmek zordur. Zordur çünkü bu düşünceleri takip eden mantıksal sonuçları kabul etmek; kendi rolümüzü, işimizin değerini, kendi değer anlayışımızı sorgulamak anlamına gelir" diyor ve ekliyor:

"Çoğumuz kendimizi temelde iyi ve erdemli bir amaca sahip olan, üyesi olduğumuz topluluk ya da topluma faydalı olacak bir şeye katkıda bulunan biri olarak görmek isteriz. Olumlu bir imaja sahip olmak, işimiz hakkında iyi hissetmemizi sağlar ve bize ilerlemek için motivasyon ve enerji verir. Büyük ölçüde yıkıcı olabilecek bir şeye katkıda bulunmuş olabileceğimiz fikriyle yüzleşmek acı verici."

"İnsan doğası, bu tür olasılıkların tüm dehşetiyle yüzleşmek yerine daha güven verici argümanlarda rahatlık aramaya yönlendirecektir. Yapay zekânın faydalarını masaya yatırmak, yapay zekânın nükleer savaş ve salgın hastalıklar ile aynı düzeyde kötü sonuçlara sebep olma ve hatta varoluşsal risk içermesi durumunu telafi etmek için yeterli değildir.