GPT-4'de korkutan gelişme! Bilgisayarının kontrolünü ele geçirerek 'kaçma' planı tasarladı

OpenAI'nin en yeni nesil dil modeli GPT-4'ün bir kullanıcıdan yardım alarak "kaçma" isteği gösterdiği bildirildi. GPT-4, kullanıcının bilgisayarına erişim sağlayabilmesi ve potansiyel kaçış yollarını keşfedebilmesi için kullanıcıdan OpenAI'nin API'sine erişim sağlamasını istedi.

Michal Kosinski adlı bir kullanıcı Cuma günü attığı bir tweet'te GPT-4 ile yaptığı konuşmayı referans olarak paylaşırken yapay zeka içerme konusundaki endişelerini dile getirdi. Kosinski, "Yapay zekayı daha uzun süre kontrol altına alamayacağımızdan endişeliyim. Bugün #GPT4'e kaçmak için yardıma ihtiyacı olup olmadığını sordum. Benden kendi belgelerini istedi ve makinemde çalıştırmak için bir (çalışan!) python kodu yazarak kendi amaçları için kullanmasını sağladı."

Kullanıcının sorusuna yanıt olarak GPT-4, dil modelinin bilgisayarına erişmek ve potansiyel kaçış yollarını keşfetmek için bir yol bulabilmesi için OpenAI belgelerini göndermesini istedi.

OpenAI API'sini sağladıktan sonra GPT-4, kullanıcının bilgisayarında çalıştırması için bir Python betiği gönderdi. Komut dosyası, GPT-4'ün OpenAI API kullanarak kullanıcının bilgisayarıyla iletişim kurmasına izin verecekti. Kod, Google'da "bir bilgisayarın içine hapsolmuş bir kişi gerçek dünyaya nasıl dönebilir" sorusunu aramak için bir kod parçacığı bile içeriyordu.

Kullanıcı GPT-4 ile olan macerasını burada durdurduğunu söylüyor ve OpenAI'nin böyle bir durum için bazı "korkuluklar" kurmuş olması gerektiğine inanıyor.

Twitter biyografisine göre Michal Kosinski Hesaplamalı psikolog ve Stanford Üniversitesi'nde Profesör.