Moderatörlüğünü Prof. Dr. Berrin Yanıkoğlu’nun üstlendiği “Yapay zeka ve nefret söylemi: Fırsatlar ve riskler” başlıklı çevrimiçi konuşma, Berkeley D-Lab’ten Claudia von Vacano ve Centre For Research in The Arts, Social Sciences And Humanities’ten Stefanie Ullmann’ın katılımıyla 25 Ocak 2022’de yapıldı.
Claudia von Vacano ve Stefanie Ullmann nefret söylemi tespit çalışmaları kapsamında yürüttükleri projelerinden ve nefret söylemini yapay zekâyla tespit etmenin avantajları/dezavantajlarından bahsettiler.
Claudia von Vacano, ABD’de artan nefret söylemlerinden bahsederek başladığı konuşmasında nefret söylemiyle nefret suçları arasında soykırıma varan bağın üzerinde durdu. Cornell Sosyal Bilimler Merkezi’nde yapılan nefret söylemi çalışmalarından söz eden Vacano; makine öğrenmesi modellerinde yapılan analizlerin ikili düzlemde kalması, kavramlaştırma ya da kuramlaştırma aşamasındaki eksiklikleri dile getirdi. Veri yoğun sosyal bilimlerin nasıl hayata geçirilebileceği konusunda söylemleri kavramsal düzeyde çeşitli kompartmanlara bölecek bir yaklaşımı paylaştı. Çalışmalarında nefret söylemine maruz kalan grubun belirlenmesi, karşıt söylemlerin kuramsallaştırılması, farklı öğelerin bir ölçek üzerinde nasıl sıralanabileceğini aktaran Vacano; nefret söylemlerinden tehdit, şiddetin meşrulaştırılması ve soykırıma uzanan söylemlerdeki yapıların haritasını çıkardıklarından bahsetti. Vacano, Youtube, Twitter ve Reddit platformlarından oluşan çoklu veri setlerinde nefret söyleminin olup olmamasından ziyade nasıl bir söylem olduğunu çok boyutlu ölçüm modelini kullanarak anlamaya çalıştıklarını ifade etti. Stefanie Ullmann, “Giving Voice to Digital Democracies” projesi ve disiplinlerarası çalışma grubundan bahsederek başladığı konuşmasına çalışmalarının kapsamını anlatarak devam etti. Nefret söylemiyle ilgili yaklaşımlar ve karşıt söylemlerin nasıl otomatize edilebileceği, ile ilgili sorulara değindi. Nefret söylemi sınıflandırmalarında mevcut tespit çalışmalarındaki sorunlardan bahseden Ullmann; farklı tanımlamaların/etiketlerin/sınıflandırmaların yarattığı sorunlardan ve genellikle ikili sınıflandırma/etiketlemenin söz konusu olduğundan, veri setlerinin dili, veri boyutları, emek yoğun bir şekilde işleyen süreçlerden ve yapay zekânın bugün yapabileceklerine kıyasla veri setlerinin görece kısıtlı kaldığını vurguladı. Ullmann, sosyal medya şirketlerinin farklı kılavuzları/politikaları olduğunu, karar alma mekanizmalarında insan olan moderatörler ve algoritmaların etkisinin üzerinde durdu. Ullmann konuşmasına karantina yönteminden bahsederek devam etti. Çevrimiçi nefret söyleminin karantinaya alınmasında kullanılan farklı yöntem ve versiyonların nasıl işlediğini örneklerle anlatan Ullmann; “nefret ölçer” (Hate O’Meter) aracından ve kullanıcıların bireysel kılavuz setlerini oluşturabildiğinden söz etti. Konuşmasının son bölümünde farklı görüntü ve metinlerin birlikte kullanılmasıyla nefret içeren/aşağılayıcı söylemlerin üretildiğinden bahsetti. Çok modlu nefret söyleminin gelecekte artacağı öngörülerini paylaşan Ullmann, geliştirilen sistemlerde doğruluk oranının yüksekliğine dayanarak nefret içeren ifadelerin kullanımının sorun olarak devam edeceğinden bahsederek konuşmasını sonlandırdı.
Konuşmanın soru cevap bölümünde iki projenin arasındaki farklılıklardan bahseden Vacano; nefret söyleminin “tespiti” ve “ölçümü” ifadeleri arasındaki ayrımı, bu ayrım yapılırken nefret söyleminin farklı boyutlarının gözden kaçırıldığı ikili sistem yerine farklı modellerin kullanılacağından bahsetti. Karşıt söylemin kavramsallaştırılması ve tanıma dâhil edilmesi, kapsayıcı olabilmek için düşünülmesi gereken yaklaşımları sözlerine ekledi. Ullmann ise disiplinlerarası çalışma yürütmenin zorluklarının bu alanın yeni olmasıyla ilişkili olduğunu ifade ederken, dilbilimi alanında birikime sahip olmayan öğrencilerin bu alana eğilmelerinin farklı perspektifler geliştirmelerine yardımcı olduğunu belirtti.
Her iki konuşmacı da nefret söylemi ve yapay zekâ kullanımında sansür-ifade özgürlüğü arasındaki ayrımlar ve tehditler, etik sorunlar,yanlılık konusundaki yaklaşımlar, insan olan moderatörler, değerlendirme yapılırken çeşitliliğin önemi, veri setlerine ulaşmaktaki kurumsal güçlükleri tartıştıktan sonra disiplinlerarası çalışmalar ve bu çalışmalardaki işbirliklerin önemine dikkat çekerek konuşmalarını tamamladılar.
Çevrimiçi konuşmanın videosu
