OpenAI’den ChatGPT’ye ebeveyn kontrolü: Kendine zarar verme eğilimlerini tespit edecek

ABD merkezli yapay zeka şirketi OpenAI, ChatGPT kullanıcılarının güvenliğini artırmak amacıyla yeni ebeveyn kontrolü araçlarını duyurdu. Bu özelliklerle çocuk ve genç kullanıcıların çevrimiçi deneyimleri daha güvenli hale getirilmeyi hedefliyor.

YENİ ÖZELLİKLERİN DETAYLARI

OpenAI’nin açıklamasına göre ebeveynler, ChatGPT kullanım saatlerini sınırlayabilecek, sesli modu veya görsel üretim özelliğini kapatabilecek. Ayrıca hafıza kullanımını kontrol edebilme seçeneği de sunulacak. Genç hesaplarda ise cinsellik, şiddet veya aşırı güzellik ideallerine dair içeriklere karşı ek korumalar otomatik olarak uygulanacak.

Şirket, gençlerin ruh sağlığına yönelik yeni bir bildirim mekanizması geliştirdi. Sistem, olası “kendine zarar verme eğilimlerini” tespit ettiğinde ebeveynlere e-posta, SMS veya uygulama bildirimi gönderilecek. Ancak bu ayarların etkinleştirilebilmesi için genç kullanıcıların onayı gerekecek ve istedikleri anda bağlantıyı kesebilecekler.

YAŞ TAHMİNİ SİSTEMİ GELİYOR

OpenAI ayrıca, gelecekte 18 yaş altı kullanıcıları otomatik tanıyacak bir yaş tahmin sistemi üzerinde çalıştığını duyurdu. Bu sistemle genç kullanıcıların korunmasının daha etkin hale getirilmesi hedefleniyor.

Nisan ayında ABD’de 16 yaşındaki Adam Raine’in yaşamını yitirmesi sonrası ailesi, OpenAI ve CEO Sam Altman’a dava açmıştı. Şirketin, Raine’e intihar yöntemleri konusunda tavsiyeler verdiği ve intihar notu taslağı sunduğu iddia edilmişti.