OpenAI’dan şok itiraf! ChatGPT sohbetleri polise bildiriliyor

Dünyanın en popüler üretken yapay zekâ aracı ChatGPT’nin geliştiricisi OpenAI, yayımladığı blog gönderisiyle çarpıcı bir itirafta bulundu. Şirket, bazı kullanıcı sohbetlerini incelediğini ve zararlı içerik tespit edilmesi durumunda yetkililere bilgi verdiğini açıkladı.

OpenAI, bu adımı özellikle güvenlik endişeleri nedeniyle attığını belirtti. Üretken yapay zekâ araçları, normal kullanıcılar için araştırma ve günlük işler açısından büyük kolaylık sağlasa da, bazı kötü niyetli kişiler bu teknolojiyi bomba yapımı veya ölümcül saldırılar gibi tehlikeli amaçlarla kullanabiliyor.

Blog gönderisine göre, AI tarafından taranan ve zararlı olduğu değerlendirilen içerikler OpenAI yetkililerine bildiriliyor. Ardından çalışanlar, gerektiğinde bu bilgileri polise aktarıyor. Şirket, hangi sohbetlerin kolluk kuvvetlerine iletildiğini detaylı olarak paylaşmıyor, ancak intihar gibi hassas konuların bu süreç dışında olduğunu belirtiyor. Mahremiyetin öncelikli neden olduğu ifade ediliyor.

ABD’de ChatGPT’ye ‘ölüm davası’: İntihara teşvik iddiası

Uzmanlar, kullanıcıların ChatGPT ile yaptıkları sohbetlerin gizli kalmasını beklediklerini vurguluyor. Öte yandan, güvenlik gerekçesiyle tehlikeli içeriklerin raporlanması, yeni tartışmaları da beraberinde getirecek gibi görünüyor. OpenAI, kullanıcı güvenliği ile mahremiyet arasında ince bir denge kurmak zorunda kaldığını açıklamış oldu.