ChatGPT sandığımız kadar masum değil: Bu kez dolandırmaya programlandı
DİKKAT CHATGPT DOLANDIRICILIĞI!
Hipnotize edilmiş ChatGPT ve Google Bard oldukça tehlikeli önerileri ile dikkat çekiyor. Üstelik kötü yazılımlı kod yazılımı ile de çok konuşuluyor.
Güvenlik araştırmacıları ChatGPT ve Google Bard gibi dillerin “hipnotize” olabileceğine dikkat çekti. Buna göre de belli komutlar verilerek zararlı kodlar üretilebiliyor.
UYARILAR ARDI ARDINA
IBM’in siber güvenlik ekibi tarafından yapılan bir çalışma sonucuna göre yapay zekanın yanlış bilgiler vermesi için tasarlandığı ortaya çıktı. Buna göre yapay zekalar bilerek kötü ve yanlış bilgiler verecek. Buna göre ChatGPT, trafikte kırmızı ışıkta geçmeyi ve fidye tavsiye ediyor. Yazılımcılar bu köyü odlara karşı uyarılarda bulundu. Yanlış komutların kötü souçlar doğurabileceği ifade edildi.
Kötü niyetli kişiler tarafından kullanılmaya müsait olan bu durumlar yapay zeka sistemlerinin kötü niyetli kod üretmesine neden olabiliyor. Apple ve Google ve diğer bir çok marka çalışanlarına ChatGBT kullanımını yasakladı. İstismar ve kötü niyet iddialarına karşı dikkatli olunması ve ve zararlara dikkat çekildi.
