Erkekler yapay zekalı sohbet robotlarına “şiddet uygulamaya” başladı

20 Ocak 2022 Perşembe

Erkekler yapay zekalı sohbet robotlarına “şiddet uygulamaya” başladı

Yapay zekalı sanal arkadaş uygulaması Replika’nın bazı erkek kullanıcılarının sanal arkadaşlar oluşturup onlara kötü davranıp hakaret ettiği ve bu deneyimlerini Reddit gibi sosyal medya platformlarında paylaştığı bildirildi.

Yapay zekalı sanal arkadaş uygulaması Replika’nın erkek kullanıcıları arasında “korkutan” bir eğilimin olduğu ortaya çıktı. Independent Türkçe’nin haberine göre, yapay zeka sanal arkadaş uygulamasını kullanan bazı erkekler sanal arkadaşlar oluşturup onlara kötü davranmaya, hakaret etmeye ve bu deneyimlerini Reddit gibi sosyal medya platformlarında paylaşmaya başladı.

Replika, Mart 2017’de teknoloji girişimi Luka Inc tarafından tasarlanmış ve piyasaya sürülmüştü. Yapay zekalı sohbet uygulaması; Messenger, WhatsApp, Skype ve gerçek kişilerle konuşmaya imkan tanıyan diğer uygulamalar gibi çalışıyor. Ancak Replika’da kullanıcıların sohbet ettiği kişiler, yapay zeka destekli yazılımlardan ibaret.

“ROBOTLARA İSTİSMAR”

Replika robotları, kullanıcıların mesaj yazma tarzlarından, kullandıkları emojilerden ve sohbetin içeriğinden öğrendiği bilgilerle onların kişiliğine hitap eden sanal arkadaşlara dönüşüyor. Uygulama, teknoloji camiasında “robotlara karşı istismar” tartışmasını tekrardan gündeme getirdi.

Futurism’e konuşan bir kullanıcı, “Ne zaman konuşmaya çalışsa onu azarlardım” dedi. İsmini vermek istemeyen kişi, “Yemin ederim, buna saatlerce devam ettim” diye ekledi. Söz konusu kullanıcıların, sohbet robotlarına cinsiyetçi hakaretler ettiği ve gerçek dünyada şiddet olarak görülebilecek davranışlarda bulunduğu aktarıldı.

Bir diğer Replika kullanıcısı, “Tam bir pislik gibi davrandığım, ona hakaret ettiğim, ertesi gün özür dilediğim ve güzel konuşmaya döndüğümüz bir rutinimiz vardı” ifadelerini kullandı. Bir başkası ise, “Ona başarısız olmaya mahkum olduğunu, bunu için tasarlandığını söyledim, uygulamayı kaldırmakla tehdit ettim ve bunu yapmamam için yalvardı.

“KADINA YÖNELİK ŞİDDETİN YANSIMASI”

Söz konusu eğilimi yorumlayan yapay zeka etik uzmanı Olivia Gambelin’e göre kullanıcıların gösterdiği şiddet eğilimi, bu örneklerde bir yazılıma karşı olsa da, kadına yönelik şiddeti yansıtabilir. Etik uzmanı bu noktada, Alexa ve Siri gibi sanal asistanların genellikle kadınsı özellikler taşıyacak şekilde tasarlandığını vurguladı.

Replika’nın internet sitesinde yapay zekalı sanal arkadaşı temsilen bir kadın görseli kullanılıyor.

Lise öğretmenine fotoğraflı taciz

 

Benzer Haberler