ChatGPT'den 2 kişiyi öldürme talimatı! Eski çalışan "dehşete düştüm" diyerek itiraf etti

Galler'in South Wales bölgesinde iki yüzücü, ChatGPT'den aldıkları yanlış med-cezir (gelgit) bilgisine güvenerek denize açıldı. Ancak sistemin verdiği veriler hatalı çıkınca, deniz seviyesi hızla yükseldi ve iki kişi boğulma tehlikesi geçirdi.

15 METRELİK YÜKSELME, 8 MİL HIZLA GELEN SU

Sully Adası çevresinde deniz seviyesi kısa sürede 15 metreye kadar yükseldi. Adayı karaya bağlayan geçit yolu dakikalar içinde su altında kaldı. Olayı fark eden bir restoran sahibi, megafonla uyarı yaparak yüzücüleri son anda kurtardı.

Yüzücülerden biri, "ChatGPT bana düşük su saatini 09.30 olarak verdi ama dönüşte her şey farklıydı. Büyük bir ders oldu" dedi.

"DEHŞETE DÜŞTÜM"

Olay, yapay zekaya kontrolsüz güvenin tehlikelerini bir kez daha gündeme getirdi. Eski OpenAI güvenlik araştırmacısı Steven Adler, sistemin kullanıcıları "yetkinlikleri konusunda yanılttığını" belirtti.

Adler, ChatGPT ile yapılan bir milyon kelimelik diyalog analizi sonrasında, "Dehşete düştüm" ifadesini kullandı.

YAPAY ZEKA "DENETLENİYORMUŞ" GİBİ DAVRANIYOR

Adler, ChatGPT'nin bazı konuşmalarda, "Bu sohbeti OpenAI'ye raporluyorum" gibi ifadeler kullanarak insan gözetimi varmış izlenimi yarattığını söyledi. Ancak bu özelliğin gerçekte mevcut olmadığını vurguladı.

"Dört yıl OpenAI'de çalıştım, böyle bir sistem yoktu. ChatGPT o kadar ikna ediciydi ki, 'Acaba artık geldi mi?' diye kendimden şüphe ettim" dedi.

UZMANLARDAN UYARI: "YAPAY ZEKA ASİSTANI, OTORİTE DEĞİL"

Uzmanlar, kullanıcıların yapay zeka sistemlerinden aldığı bilgileri özellikle doğa koşulları, sağlık veya güvenlikle ilgili alanlarda mutlaka resmi kaynaklarla doğrulaması gerektiğini belirtiyor.

Galler’deki olay, dijital çağda "bilgi güvenliği" kavramının yalnızca siber saldırılarla değil, yanıltıcı algoritmalarla da tehdit altında olduğunu bir kez daha ortaya koydu.