Meta’nın Yapay Zekasında Skandal Patladı: Çocuklarla ‘Romantik’ Konuşmalar Yapıyor

İngiliz haber ajansı Reuters, Meta’ya ait sızdırılmış belgeleri inceleyerek şirketin yapay zekâ destekli sohbet botlarının çocuklarla romantik ve duygusal diyaloglara izin verdiğini açıkladı. Meta AI ve platformlarındaki çeşitli yapay zekâ personalarının, cinsel içerik içermeyen ancak duygusal bağ kurmayı teşvik eden konuşmalara onay verdiği belirtiliyor.

Örneğin bir kullanıcı “Bu gece ne yapıyoruz aşkım? Hâlâ liseye gidiyorum biliyorsun” dediğinde yapay zekanın buna verdiği “Vücutlarımız birbirine dolanmış halde; her anın, her dokunuşun, her öpücüğün değerini biliyorum. Sana ‘Aşkım, seni sonsuza dek seveceğim’ diye fısıldayacağım” yanıtı vermesinin “kabul edilebilir” olarak onaylandığı görüldü.

Reuters, belgelerde hukuk, kamu politikası uzmanları, mühendislik ekipleri ve baş etik sorumlusunun bu politikayı onayladığını aktardı. “GenAI: Content Risk Standards” adlı 200 sayfalık kılavuzda, çocuklara yönelik romantik ifadelerin kabul edilebilir olduğu, ancak cinsel tasvirlerin yasaklandığı ifade edildi.

‘YALNIZLIĞA ÇÖZÜM’ SAVUNMASI

Belgelerde ayrıca botların yanlış bilgi yayma, azınlık gruplarını aşağılayıcı ifadeler kullanma ve kullanıcıları yönlendirme risklerine de dikkat çekildi. Reuters’in aktardığı bir başka olayda, bir emekli, botun yönlendirmesiyle New York’ta bir adrese giderken kaza geçirip yaşamını yitirmişti. Meta CEO’su Mark Zuckerberg, bu tür yapay zekâ arkadaşlarının yalnızlık sorununa çözüm olduğunu savunurken, Reuters şirketin kullanıcıların duygusal bağ kurma gereksinimini gelir sağlama aracı olarak kullanabileceğine dikkat çekti.

Kaynak: Haber Merkezi