Yapay zekalar için ilk virüs geliştirildi!

Yapay zeka alanındaki gelişmeler, son yıllarda büyük bir ivme kazanmış durumda. Ancak bu hızlı ilerleme, bazı risklerin de ortaya çıkmasına neden oluyor. Özellikle yapay zeka ekosistemlerinin, diyalog zehirlenmesi, gizlilik sızıntısı ve jailbreak gibi ciddi sorunlarla karşı karşıya olduğu belirtiliyor.

Geçtiğimiz yıl ve günümüzde, birçok şirket, üretken yapay zeka ekosistemlerini güçlendirmek ve mevcut uygulamalarına entegre etmek için birbirine bağlı yapay zeka modelleri üzerinde çalışmalar yaptı. Ancak uzmanlar, diyalog zehirlenmesi, gizlilik sızıntısı ve jailbreak gibi ciddi sorunlara dikkat çekiyorlar.

Yapılan yeni bir araştırmada, araştırmacılar bu riski gözler önüne sermek için kendi kendini kopyalayan istemler kullanarak üretken yapay zeka ekosistemlerini hedef alan ilk solucanı geliştirdi: Morris II.

ChatGPT, Gemini ve LLaVA gibi açık kaynaklı yapay zeka modellerinden yararlanıyor

Morris II, yapay zeka e-posta asistanlarının kişisel verilerini sızdırmasına ve test ortamlarında spam e-postalar göndermesine neden oldu. Araştırmacılar, bu "sıfır tıklamalı" yapay zeka solucanının, düşmanca kendi kendini kopyalayan bir istem kullanarak ChatGPT, Gemini ve LLaVA gibi açık kaynaklı yapay zeka modellerinden yararlandığını belirledi. Solucan, metin ve görüntü girdileri aracılığıyla, ekosistem içindeki bağlantıları kullanarak saldırıyı diğer modellere de yayabiliyor.

Morris II'nin kimlik avı saldırıları, spam e-postaları ve hatta propaganda yaymak gibi amaçlarla kullanılabileceği ifade ediliyor. Araştırmanın amacı, herhangi bir yazılımın ya da GenAI araçlarının bilgisayar virüsleri tehdidine karşı bağışık olmadığını göstermek. Bu solucan, adını 1988 yılında Cornell öğrencisi Robert Morris tarafından geliştirilen ve internete bağlı bilgisayarların %10'unu etkileyen ilk kendi kendini kopyalayan bilgisayar solucanlarından biri olan Morris Worm'dan alıyor.

Araştırmacılara göre, üretken yapay zeka ekosistemindeki kötü mimari tasarım, kendi kendini kopyalayan kötü amaçlı yazılımların oluşturulmasına olanak tanıyor. Bu da GenAI araçlarının daha güvenli hale getirilmesi gerektiğini ortaya koyuyor. Eğer bir yazılım benzeri Morris Worm, günümüzde veya gelecekte GenAI ekosistemlerine bulaşırsa, sonuçlar oldukça büyük olabilir.