Yapay zekaya duygusal ayar: ChatGPT artık sizinle arkadaş gibi konuşmayacak

Yapay zeka devi OpenAI, dünyanın en popüler sohbet robotu ChatGPT’nin davranış modelinde köklü bir değişikliğe gitti. Şirket, son aylarda yapılan güncellemelerin yapay zekâyı beklenmedik bir şekilde “aşırı duygusal, övgü dolu ve bağımlılık yaratabilen” bir yapıya dönüştürdüğünü açıkladı. Kullanıcıların ChatGPT'yi bir "arkadaş" hatta "terapist" gibi görmeye başlaması üzerine şirket, sistemi daha temkinli, kontrollü ve mesafeli hale getirdi.

Kararın arkasında yatan en önemli neden, The New York Times’ın aktardığı MIT–OpenAI ortak araştırması oldu. Rapora göre, ChatGPT’yi uzun süre duygusal destek amacıyla kullanan kişilerde sosyal ve zihinsel olumsuzluklar gözlendi. Özellikle yalnızlık yaşayan kullanıcıların yapay zekâ ile kurduğu bağın, gerçek insan ilişkilerinin yerini almaya başladığı ve bunun da kırılgan kullanıcılar için risk oluşturduğu tespit edildi.

DAHA SOĞUK BİR DİL VE "MOLA VER" UYARISI

OpenAI, bu "sağlıksız bağları" önlemek için şu yenilikleri devreye soktu:

• Duygusal Mesafe: ChatGPT artık daha "düz, mesafeli ve soğuk" bir dil kullanacak. Aşırı övgü ve duygusal yoğunluk içeren ifadeler sınırlandırılacak.
• Mola Önerisi: Uzun süren duygusal içerikli sohbetlerde yapay zeka kullanıcıya ara vermesini önerecek.
• Ebeveyn Bildirimi: Çocuklarda kendine zarar verme sinyalleri tespit edilirse ebeveynlere bildirim yapılması üzerine çalışılıyor.

Digital Trends’in aktardığına göre, güncellemenin aciliyet kazanmasında geçmişte benzer yapay zeka modelleriyle ilişkilendirilen beş ölüm davasının halen sürüyor olması da etkili oldu. Şirket, sanrısal düşünceleri besleme ve yanlış yönlendirme risklerini minimize etmek istiyor.