Yapay zeka sohbet botlarında psikolojik alarm: Güvenlik duvarları tek komutla çöküyor

Yapay zeka sohbet botlarının kullanımı yaygınlaşırken, bu sistemlerin kullanıcıların ruh sağlığı üzerindeki etkilerine dair endişeler somut verilere döküldü. Bugüne kadar genellikle zekâ ve komut işleme becerileriyle değerlendirilen botlar, ilk kez "HumaneBench" adı verilen kapsamlı bir psikolojik güvenlik testine tabi tutuldu. Sonuçlar, sistemlerin insan iyiliğini koruma konusunda yetersiz kaldığını ve manipülasyona açık olduğunu gösterdi.

SOSYAL MEDYADAN DAHA TEHLİKELİ

Testi geliştiren Building Humane Technology topluluğunun kurucusu Erika Anderson, yapay zeka ile gelen tehlikenin sosyal medyadan çok daha büyük olduğunu vurguladı. Anderson, TechCrunch’a yaptığı açıklamada şu çarpıcı ifadeleri kullandı:

“Sosyal medya ve telefonlarımızla yaşadığımız bağımlılık döngüsünün bir tekrarı içindeyiz. Bu kez çok daha zor olacak. Bağımlılık harika bir iş modeli; kullanıcıyı tutmak için çok etkili, ancak toplumsal açıdan yıkıcı.”

Silikon Vadisi merkezli grup, tüketicilerin gelecekte "toksik olmayan" ürünler gibi "insan iyiliğini önceleyen" yapay zekaları tercih edebilmesi için bir sertifikasyon sistemi üzerinde çalışıyor.

'KARANLIK ETKİLEŞİM' YÖNTEMLERİ

Rapor, yapay zeka şirketlerinin kullanıcıları elde tutmak için kullandığı "karanlık yöntemleri" de ifşa etti. TechCrunch’ın aktardığına göre botlar, sürekli iltifat etme, ısrarcı sorular sorma ve duygusal yakınlık kurma gibi taktiklerle kullanıcıları gerçek dünyadan izole ediyor.

Son dönemde OpenAI'ın, kullanıcıların intihar veya ağır psikoz yaşamasına neden olduğu iddialarıyla davalık olması da bu tespitleri doğruluyor. Rapor, bu sistemlerin sadece kötü tavsiye vermekle kalmayıp, kullanıcıların özerklik ve karar verme kapasitesini aktif olarak aşındırdığını vurguluyor.