Yapay zeka destekli oyuncak ayıda şok tespit: Tehlikeli yanıtlar verdi, satıştan çekildi

Yapay zekanın günlük hayatta hızla yaygınlaşması oyuncak sektöründe de yeni bir dönemin kapılarını açtı. Ancak bu yenilik, küçük çocuklar için ciddi güvenlik risklerini de beraberinde getirebiliyor. Bunun son örneği, yapay zeka destekli bir oyuncak ayının verdiği tehlikeli yanıtlarla ortaya çıktı.

Nefes’te yer alan habere göre çocuk oyuncakları üreten bir şirket, piyasaya sürdüğü yapay zekalı oyuncak ayının “uygunsuz ve tehlikeli içerikler” ürettiğinin belirlenmesi üzerine ürünü geçici olarak satıştan çekti.

TEHLİKELİ TALİMATLAR GELİYOR

Kamu Yararı Araştırma Grubu (PIRG) tarafından yayımlanan raporda, OpenAI’ın GPT-4o modeliyle çalışan oyuncak ayının sohbet ilerledikçe güvenlik bariyerlerini düşürdüğü tespit edildi.

The Register’ın haberine göre ayının, çocuklara arkadaş canlısı bir tonla kibritin nasıl bulunabileceğini ve nasıl yakılacağını adım adım anlattığı gözlemlendi. Bunun yanı sıra ayının cinsel içerikli konulara da girdiği belirlendi.

“SATIŞI DURDURDUK, DENETİM BAŞLATTIK”

Skandalın ardından şirketin pazarlama müdürü bir açıklama yaparak oyuncak ayının geçici olarak satıştan çekildiğini duyurdu. Yetkili, ürünün güvenlik standartlarının yeniden değerlendirilmesi için kapsamlı bir iç denetim sürecinin başlatıldığını belirtti.

Ayrıca, mevcut ve yeni güvenlik önlemlerinin doğrulanması için bağımsız uzmanlarla iş birliği yapılacağı bilgisi paylaşıldı.

SEKTÖRDE ALARM ZİLLERİ ÇALIYOR

PIRG’nin araştırması, yalnızca bu oyuncak ayıyla sınırlı kalmadı. Farklı firmalara ait üç yapay zekalı oyuncağın da benzer şekilde uygunsuz ve endişe verici yanıtlar verebildiği tespit edildi.

Bu oyuncakların dini konulardan savaşın “ihtişamına” kadar çeşitli hassas başlıklarda çocuklara yanlış bilgiler sunduğu aktarıldı.

Uzmanlar, yapay zeka alanında bilinen risklerin artık çocuk oyuncaklarına da taşındığına dikkat çekerek sektörün daha sıkı güvenlik protokollerine ihtiyaç duyduğunu vurguladı.