İğnelemeyi anlamak Yapay Zeka’nın (AI) ırkçılık, kötüye kullanma ve tacizle savaşmasına yardımcı olabilir.

Yazan: Will Knight

Çeviren: Elif Akçay

Twitter sayfanızı kaydırdığınızda çok fazla iğneleyici yorum bulacaksınız ve doğrudan kişinin başından geçen alaycı yorumlardan bahsetmiyorum. Neyse ki, tivitleri analiz etmek için bir MIT araştırmacısı tarafından geliştirilen algoritma artık genel olarak çoğu insandan daha iyi, alaycı ve duygusal alt metni tespit edebiliyor.

Sosyal medya gönderilerinin duygularını algılamak, markalara ve ürünlere yönelik tutumları izlemek ve finansal piyasalardaki eğilimleri gösterebilecek sinyalleri belirlemek için zaten faydalıdır. Ancak tivitlerin ve yorumların anlamını daha net bir şekilde ayırt etmek, bilgisayarların kötüye kullanımı ve nefret dolu konuşmaları çevrimiçi olarak otomatik bulmasına ve engellemesine yardımcı olabilir. Twitter’ın daha derinden anlaşılması, akademisyenlerin de bilgi ve etkinin ağdan nasıl aktığını anlamalarına yardımcı olabilir. Dahası, makineler daha akıllı hale geldikçe, duyguları hissetme yeteneği insandan makineye iletişimin önemli bir özelliği olabilir.

Araştırmacılar başlangıçta Twitter’daki ırkçı gönderileri tespit edebilecek bir sistem geliştirmeyi amaçladılar. Ancak çok geçmeden birçok mesajın iğneleyicilik anlayışı olmadan anlaşılamayacağını anladılar.

Algoritma, derin öğrenme kullanır, çok miktarda veri kullanarak ince kalıpları tanımak için çok büyük simüle edilmiş sinir ağını eğitmeye dayanan popüler bir makine öğrenme tekniğidir. Bu algoritmayı geliştirmenin sırrı, birçok tivitin zaten duygusal içerik için etiketleme sistemi gibi bir şey kullanmasıydı: emoji.

Bir kere, sistemin tivitleri okumasına genel olarak duygu için yardımcı olmak amacıyla bundan faydalandılar ve araştırmacılar iğnelemeyi tanımayı öğretmeye başlamışlardı. MIT Media laboratuarında doçent ve Bjarke Felbo’nun algoritmayı geliştiren öğrencilerinden biri olan Iyad Rahwan, “Söylediklerimizi bağlamsallaştırmak için ses tonumuzu veya beden dilimizdeki tonlamayı kullanamıyoruz, emoji bunu çevrimiçi yapmamızın yoludur” dedi ve ekledi: “Sinir ağı, belirli bir dil ile emoji arasındaki bağlantıyı öğrendi.”

DeepMoji adı verilen algoritmayı geliştirmek için araştırmacılar 55 milyar tivit topladı ve daha sonra 64 popüler emojinin kombinasyonunu içeren 1,2 milyar tiviti seçti. İlk önce, hangi emojinin mutlu, üzgün, esprili ve benzeri olup olmadığına bağlı olarak belirli bir mesajla kullanılacağını tahmin etmek için sistemi eğitmişlerdir. Sonra, sisteme etiketlenmiş örnekler içeren veri setini kullanarak alaycılığı tanımlaması öğretilmiş. Emoji kullanılarak önceden eğitilmiş olan algoritma iğneleyicilik tespitinde kullanılmayandan çok daha iyiydi. Algoritmayı herkesin kullanması için yayınlayacaklar.

DeepMoji’nin ne kadar iyi olduğunu görmek için, araştırmacılar metni düşünce  ve duyguyu algılamak için çeşitli ölçütlere göre test ettiler. Her durumda mevcut en iyi algoritmalardan çok daha iyi performans gösterdiğini buldular. Ayrıca kitlesel kaynak sitesi Mechanical Turk aracılığıyla toplanan gönüllüleri kullanarak, insanlara karşı test ettiler. Twitter’da alaycılık ve diğer duyguları tespit etmede insanlardan daha iyi olduğunu buldular. İğnelemeyi doğru tespit etmede insan gönüllülerinin ortalaması yüzde 76 puan ile algoritmanın yüzde 82 doğru olan puanı karşılaştırıldı.

https://www.sophosakademi.org/wp-content/uploads/2019/07/DeepMoji-web-sitesi-otomatik-olarak-bir-tweet-için-emoji-üretebilir..mp4

Felbo, “Tüm farklı argoları öğreniyor olabilir. İnsanların dili çok ilginç kullanımları var Twitter’da” dedi. Araştırmacılar, sistemin emoji bölümünü göstermek için bir DeepMoji web sitesi kurmuşlardır. Bir metin parçasına otomatik olarak uygun emoji ekliyor. Her ne kadar Donald Trump’ın şu anda rezil olan “covfefe” tivitini girmeye çalıştığımda herkes gibi kafası karışsa da epey iyi çalıştığı gözüküyor.

Site aynı zamanda kullanıcıların kendi tivitlerini duygularıyla açıklama yaparak araştırmaya katkıda bulunmalarına izin veriyor. Rahwan, bu çalışmanın önemli bir unsurudur diyor. Araştırmacılar genellikle diğer insanların postlarını ve tivitlerini algılanan duygularla taglayen gönüllülere sahip. “Bu kriterler, psikologların gerçek duyguları göz önünde bulundurabileceklerini yakalayamıyor” diyor.

Harvard Üniversitesi’ndeki Kantitatif Sosyal Bilimler Enstitüsü müdürü ve anlam için sosyal ağlar konusunda uzman olan Gary King, emojiyi eğitim aracı olarak kullanmanın akıllıca bir fikir olduğunu söylüyor. Fakat eğer çoğu insanda iğneleyiciliği anlama duygusu kaybolursa ne kadar değerli olacağını soruyor. “Alaycılık bir insan okuyucunun muhtemelen kaçıracağı kadar nüanslıysa o zaman gerçekten önemli değil” diyor.

Bununla birlikte çalışma, bilgisayarların insan duygularını hissetmede giderek daha iyi hale geldiğini yansıtıyor. Metin duyarlılık analizi zaten yaygın olarak kullanılan bir tekniktir. Örneğin, bir müşteri sinirliyse, şirketlerin bir e-posta veya sohbet iletisinin içeriğini belirlemelerine yardımcı olabilir.

Bilgisayarların duygularımızı deşifre etmeye çalışması daha da yaygın hale gelebilir. İnsan meslektaşlarının ne zaman sinirlendiğini veya alaycı bir iltifat sağladıklarını anlayan bir robot iş arkadaşınızı hayal edin. Rahwan, “Makineler bizimle işbirliği yapacaksa, bizi anlamak zorunda kalacaklar ve duygu gerçekten zor” diyor.