Güvenli Yapay Zeka Koalisyonu duyuruldu

Microsoft, NVIDIA, Google ve pek çok teknoloji devi, yapay zeka konusunda yeni bir koalisyon kurdu.

Aspen Güvenlik Forumu'nda, yapay zeka endüstrisi için önemli bir adım atıldı. Güvenli Yapay Zeka Koalisyonu (CoSAI) adıyla yeni bir endüstri kuruluşu duyuruldu. Bu koalisyon, yapay zekanın güvenli ve sorumlu geliştirilmesini, entegrasyonunu ve kullanımını teşvik etmek amacıyla kuruldu.

CoSAI'nin kurucu sponsorları

CoSAI'nin kurucu Premier Sponsorları arasında teknoloji devleri Google, IBM, Intel, Microsoft, NVIDIA ve PayPal yer alıyor. Ayrıca, Amazon, Anthropic, Cisco, Chainguard, Cohere, GenLab, OpenAI ve Wiz de kurucu sponsorlar arasında bulunuyor. Bu geniş katılımlı sponsor listesi, yapay zeka güvenliğine verilen önemin altını çiziyor.

CoSAI'nin amaçları ve çalışma alanları

Bu açık kaynak girişimi, yapay zeka sistemlerinin güvenli geliştirilmesi, entegrasyonu, konuşlandırılması ve işletilmesine rehberlik etmeyi amaçlıyor. CoSAI, açık kaynak metodolojileri, standartlaştırılmış taslaklar ve araçlar aracılığıyla geliştiricilere destek sunacak. Özellikle model hırsızlığı, veri zehirlenmesi, anında enjeksiyon, ölçekli kötüye kullanım ve çıkarım saldırıları gibi riskleri azaltmaya odaklanacak.

Yönetim ve teknik komite

CoSAI, genel teknik gündemini ilerletmek ve yönetmek için bir Proje Yönetim Kurulu oluşturacak. Bu kurul, akademi ve endüstriden yapay zeka uzmanlarından oluşan bir Teknik Yönlendirme Komitesi tarafından desteklenecek. Bu yapı, koalisyonun etkin ve verimli çalışmasını sağlayacak.

İlk çalışma alanları

CoSAI'nin ilk çalışmaları, "yapay zeka sistemleri için yazılım tedarik zinciri güvenliği", "savunucuları değişen siber güvenlik ortamına hazırlamak" ve "yapay zeka güvenlik yönetimi" başlıklarına odaklanacak. Bu alanlar, yapay zeka teknolojilerinin güvenliğini artırmak ve olası tehditlere karşı koruma sağlamak için kritik öneme sahip.

GOOGLE'DAN AÇIKLAMA

Google CoSAI Yönetim Kurulu eş başkanı David LaBianca, CoSAI'nin oluşumuna ilişkin yaptığı açıklamada, bu kuruluşun "yapay zekanın güvenli entegrasyonu ve dağıtımı için gerekli olan bilgi ve ilerlemelerin demokratikleştirilmesi gerekliliğini" temel aldığını belirtti. Ayrıca, "OASIS Open'ın yardımıyla bu çalışmayı ve önde gelen şirketler, uzmanlar ve akademisyenler arasındaki iş birliğini sürdürmeyi" heyecanla beklediklerini ifade etti.