Araştırmacılar, Emoji Kullanımının Kötüye Kullanım Amaçlı Gönderilerin Takip Edilme Olasılığını Azaltabileceğini Keşfetti

İnternet, son birkaç on yılda büyük bir büyüme kaydetti, trendin arkasındaki neden internetin hayatımıza getirdiği kolaylık. Neredeyse her şeyi sadece bir tık ötede yaptı, böylece çabaları azalttı ve işleri daha hızlı hale getirdi. Son birkaç yılda büyük ölçüde internete bağımlı hale geldik ve onsuz yaşamak bize zor geliyor. İnternet ve buna bağlı ürünler bizim için hayatı kolaylaştırıp, daha az çaba sarf ederken, bazı dezavantajları da var. İnternet kullanımının getirdiği en temel dezavantaj siber zorbalık ve istismardır.

Azınlıklar, dinler, kadınlar ve çocuklar da dahil olmak üzere birçok internet kullanıcısı internette oldukça fazla istismara maruz kalmıştır. Sosyal medya platformları, her türlü insana yönelik küfürlü gönderiler ve mesajlar için en birincil yerlerden biridir. Sosyal ağlar bunu çok iyi anlıyor, bu yüzden çoğu platformlarında kötüye kullanımı en aza indirmek için çalışıyor. Suistimali bir dereceye kadar sınırlamada başarılı oldular. Ancak, bu kadar büyük ölçekte kötüye kullanımı tamamen durdurmak imkansıza yakındır.

Son zamanlarda, Oxford İnternet Enstitüsü'nün raporu, kötüye kullanım içeren çevrimiçi yayınların, içinde kullanılan emojiler nedeniyle yapay zeka tarafından tanınma olasılığının azaldığını keşfetti. Rapor, nefret içerikli gönderileri takip etmek için kullanılan çoğu algoritmanın yalnızca metin içeren gönderilerle iyi çalıştığını, ancak emoji içeren gönderilerle çalışmanın büyük ölçüde zorlaştığını ortaya koydu. Bu, platformda hakim olmak için ifadelerle birlikte kötüye kullanım yorumları içeren birçok zararlı gönderiye yol açtı, buna bir örnek, İngiltere'den oyuncuların kaybetme üzerine ırkçı yorumlar aldığı Euro 2020 finalleridir. Ancak açıklamalar, neredeyse tamamı bir maymun emojisi içerdiğinden algoritmalar tarafından tespit edilmedi.

Sistemlerin internette kötüye kullanımı tespit edememesinin büyük bir nedeni, çoğunlukla metin içeren ve nadiren emoji içeren veri tabanları üzerinde eğitilmeleridir. Bu algoritmalar, emoji içeren kötü niyetli gönderilerle karşılaştığında, otomatik olarak kabul edilebilir olarak sıralar.

Yakın zamanda yapılan bir analiz, ırkçı içerik yayınlayan ancak beraberinde emoji kullanan Instagram hesaplarının yasaklanma olasılığının, emoji kullanmadan ırkçı içerik yayınlayan hesaplara göre üç kat daha az olduğunu ortaya çıkardı.

Bu sorunun ortasında, Oxford Üniversitesi'nden araştırma bu soruna bir çözüm geliştirmek için öne çıktı ve bu da onları farklı emojiler içeren yaklaşık 4000 cümleden oluşan yeni bir veritabanı oluşturmaya yönlendirdi. Araştırmacılar daha sonra Yapay Zeka tabanlı bir modeli eğitmek için yeni veritabanını kullandılar. AI tabanlı model daha sonra azınlıklar, dinler ve LGBTQ topluluğu gibi farklı nefret yorumları üzerinde test edildi.

Google'ın 'Perspektif API' adlı modeli, araştırmacılar tarafından oluşturulan veritabanı ile test edildiğinde sadece yüzde 14 verimli bulundu. Araştırmacılar tarafından oluşturulan AI modeli, Google'ın verimliliğini yaklaşık yüzde 30 ila 80 oranında artırdı.

Araştırmacılar, raporlarını yayınladıktan sonra, diğer geliştiricilerin ve şirketlerin kullanması için veri tabanlarını çevrimiçi olarak paylaştılar.