ChatGPT’ye kısıtlama getirildi: Bu konularda tavsiyeler veremeyecek

Milyonlarca kullanıcının günlük yaşamında yer edinen yapay zekâ destekli sohbet uygulaması ChatGPT’ye yeni kurallar getirildi. 29 Ekim itibarıyla yürürlüğe giren düzenlemeyle birlikte ChatGPT artık sağlık, hukuk ve finans konularında kişisel tavsiyelerde bulunamayacak.

Uzmanlar, ChatGPT’nin “doğruluk yerine kullanıcı memnuniyetine odaklandığını” belirterek bu durumun ciddi güvenlik riskleri doğurduğunu vurguladı. Özellikle son dönemde yapay zekânın çocuklara alkol, uyuşturucu veya aşırı diyet önerileri yaptığı tespit edilmişti. ABD’de yaşanan bir vakada ise bir kullanıcı, ChatGPT’nin tavsiyesi üzerine sodyum bromür tüketip zehirlendi.

ARTIK DANIŞMAN DEĞİL, EĞİTİM ARACI

Yeni düzenlemeyle ChatGPT, “danışman” kimliğinden çıkarılarak “eğitim aracı” olarak sınıflandırıldı. Uygulama artık yalnızca genel ilkeleri açıklayacak, örnek mekanizmaları anlatacak ve kullanıcıyı ilgili uzmanlara yönlendirecek.

Yeni kurallara göre ChatGPT:

• İlaç ismi veya dozajı veremeyecek,
• Dava dilekçesi veya hukuki belge hazırlayamayacak,
• Yatırım ya da finansal tavsiye sunamayacak.

Düzenlemenin gerekçesi olarak “yanlış teşhis ve yönlendirme risklerinin artması” gösterildi. Yetkililer, yapay zekâ araçlarının yalnızca bilgi destekli rehberlik sunması gerektiğini, uzmanların yerini alamayacağını vurguladı.