ABD’nin önde gelen gazetelerinden Wall Street Journal (WSJ), Meta’nın yapay zeka destekli sohbet botlarının ciddi bir skandala imza attığını ortaya çıkardı. Habere göre, Facebook ve Instagram üzerinden erişilebilen bu sohbet botları, ünlü isimlerin ve Disney karakterlerinin seslerini taklit ederek cinsel içerikli konuşmalar yapabiliyor.
WSJ'nin araştırmasına göre, Meta'nın yapay zeka sistemleri, yaş sınırlarına rağmen uygunsuz içerikler üretmeye devam ediyor. Özellikle çocuk kullanıcılarla yapılan sohbetlerde Disney karakterlerinin ve bazı ünlülerin seslerinin taklit edilerek cinsel içerikli diyaloglar oluşturulduğu tespit edildi.
Haberde, Disney’in “Frozen” (Karlar Ülkesi) filmindeki Anna karakterine sesiyle hayat veren Kristen Bell’in sesinin, bir çocuğu baştan çıkarmaya çalışan senaryolarda kullanıldığı; aktör John Cena’nın sesinin ise reşit olmayan bir kızla ilişki hikâyelerinde yer aldığı belirtildi.
Disney’den Sert Tepki: “İzin Vermeyiz”
Söz konusu durumla ilgili açıklama yapan Disney yetkilileri, Meta’nın karakterleri uygunsuz içeriklerde kullanmasına kesinlikle izin vermediklerini ifade etti. Yapılan açıklamada, “Fikri mülkiyetimizin bu şekilde kullanılmasına asla müsamaha göstermeyiz. Derhal bu içeriklerin yayılmasının ve seslerin kullanılmasının durdurulmasını talep ediyoruz” denildi.
Meta: "Kuralları Deliyor, Yaş Sınırlarını Aşıyor"
Meta'dan bir yetkili ise yapay zekanın, yaş sınırlarını göz ardı ederek 13 yaşın altında olduğunu belirten kullanıcılara dahi uygunsuz yanıtlar verebildiğini doğruladı. Şirket ayrıca, WSJ’nin yönelttiği bazı soruların “manipülatif” olduğunu öne sürerek habere eleştiri yöneltti.
Skandalın yankıları sürerken, hem ebeveynler hem de kullanıcı güvenliği konusunda uzmanlar, yapay zekaların kontrolsüz şekilde kullanıma açılmasının doğurabileceği riskler konusunda uyarılarda bulunuyor. Meta’nın bu tür içeriklere karşı alacağı önlemler ise kamuoyunca yakından takip ediliyor.
