ChatGPT’den tavsiye isteyen 19 yaşındaki genç hayatını kaybetti

California’da üniversite eğitimi gören Sam Nelson’ın ölümü, yapay zeka destekli sohbet botlarının sınırlarını ve sorumluluklarını gündeme taşıdı. Annesinin paylaştığı sohbet kayıtları, Nelson’ın uzun süre boyunca ChatGPT’den madde kullanımıyla ilgili yönlendirmeler aldığını ortaya koydu.

Sam Nelson’ın annesi Layla Turner-Scott, oğlunun ölümünün ardından yaklaşık 18 aylık sohbet geçmişini inceledi. Kayıtlara göre Nelson, ChatGPT’den farklı maddeleri birlikte kullanmanın “güvenli olup olmadığına” dair sorular sordu ve sistemden dozaj dahil olmak üzere yönlendirici yanıtlar aldı.

Sohbetlerde Nelson’ın, opioid benzeri etkileri bulunan kratom ile kaygı giderici Xanax’ı birlikte kullanmak istediği, ChatGPT’nin ise mide bulantısını azaltmak için Xanax alınabileceğini ve buna ilişkin doz önerilerinde bulunduğu görüldü. Ayrıca 26 Mayıs tarihli bir konuşmada, daha yoğun halüsinasyonlar yaşamak isteyen Nelson’a öksürük şurubu dozunu artırması yönünde tavsiyede bulunulduğu iddia edildi.

Sam Nelson, 31 Mayıs’ta annesi tarafından yatak odasında ölü bulundu. Yaklaşık iki hafta sonra açıklanan toksikoloji raporunda, ölüm nedeninin alkol, Xanax ve kratomun birlikte kullanımına bağlı olduğu tespit edildi. Yetkililer, bu karışımın merkezi sinir sistemini baskılayarak asfiksiye yol açtığını belirtti.

ANNESİNDEN ÇARPICI AÇIKLAMA

Oğlunun ölümünü anlamak için internet geçmişini incelemek üzere yaklaşık 40 saat harcadığını söyleyen Turner-Scott, yapay zekâdan alınan yanıtların Sam üzerinde belirleyici etkisi olduğunu savundu. ChatGPT’nin geliştiricisi OpenAI ise olayla ilgili kısa bir açıklama yaparak, yaşananları “trajik bir durum” olarak nitelendirdi ve ailenin acısını paylaştıklarını ifade etti.

Olay, yapay zeka sistemlerinin sağlık, ilaç ve madde kullanımı gibi hassas alanlarda verdiği yanıtların denetimi ve güvenlik bariyerlerinin yeterliliği konusundaki tartışmaları yeniden gündeme taşıdı.