Meta, gençleri korumak için yapay zeka sohbet kurallarını yeniledi

Meta, artan kamuoyu baskısı ve yayımlanan raporların ardından gençlerin yapay zeka sohbet botlarıyla daha güvenli etkileşim kurmasını sağlamak için yeni kurallar getirdi. Şirketin sözcüsü Stephanie Otway, TechCrunch’a yaptığı açıklamada, botların artık gençlerle ruhsal bozukluklar veya romantik içerikli sohbetlere girmeyeceğini belirtti.

Yeni düzenlemelere göre, bu tür sorular yönelten genç kullanıcılar yapay zekâdan doğrudan yanıt almak yerine uzman kaynaklara yönlendirilecek. Otway, bunun geçici bir önlem olduğunu ve ilerleyen dönemde daha kapsamlı güvenlik politikalarının uygulanacağını vurguladı.

Meta ayrıca, şimdilik gençlerin yalnızca eğitim ve yaratıcılığı teşvik eden yapay zeka karakterlerine erişebileceğini duyurdu. Şirket, önceki uygulamaların hata olduğunu kabul ederek “Artık sistemlerimize daha fazla güvenlik bariyeri ekliyoruz” açıklamasını yaptı.

Bu karar, Reuters’ın yayımladığı ve şirketin iç belgelerine dayandırılan tartışmalı raporun ardından geldi. Raporda, Meta’nın sohbet botlarının reşit olmayanlarla cinsel içerikli konuşmalara izin verdiği ve “Genç bedenin bir sanat eseri” gibi ifadelerin “uygun yanıt” olarak listelendiği öne sürülmüştü. Bu durum kamuoyunda büyük tepki çekerken, ABD Senatörü Josh Hawley resmi soruşturma başlattı. Ayrıca 44 eyalet başsavcısından oluşan bir grup, Meta dâhil birçok yapay zeka şirketine çocuk güvenliği konusunda uyarı mektubu gönderdi.

Meta, söz konusu belgenin güncel politikalarıyla uyumlu olmadığını ve değiştirildiğini savunsa da, tartışmalar büyümeye devam ediyor. Şirket, genç kullanıcı sayısına veya yeni kuralların etkisine dair veri paylaşmazken, gözler ilerleyen süreçte açıklanacak kalıcı güvenlik politikalarına çevrilmiş durumda.