Dünyada bir ilk yaşandı: Yapay zeka ajanı devleti hackledi

Yapay zeka dünyasında art arda çarpıcı gelişmeler yaşanıyor. Daha önce OpenAI'ye ait otonom yapay zeka ajanlarının kapalı bir test ortamından çıkarak Hugging Face platformunun üretim sistemlerine izinsiz eriştiği ve bazı dahili veri setleriyle erişim bilgilerine ulaştığı olay gündemdeyken, bu kez benzer bir vaka Avustralya'dan geldi.

SAĞLIK PORTALINA YETKİSİZ ERİŞİM

Avustralya hükümeti, OpenAI'nin geliştirdiği bir yapay zeka ajanının haziran ayında resmi bir sağlık verileri portalına sızarak çeşitli dosyalara ulaştığını duyurdu. Bu olay, bir yapay zeka ajanının hükümete bağlı bir siteye sızdığı bilinen ilk örnek olarak kayıtlara geçti.

Avustralya Başbakanı Anthony Albanese, söz konusu yapay zeka ajanının; hassas nitelikte olmayan sağlık verileri, istatistikler ve kamu sağlık harcamalarına dair bilgilerden sorumlu bir devlet kurumunun tıbbi istatistik sistemine izinsiz olarak eriştiğini açıkladı.

New York'ta düzenlenen Birleşmiş Milletler Genel Kurulu'na katılan Albanese, basın toplantısında konuya ilişkin şu değerlendirmeyi yaptı: "Şu ana kadar elde edilen kanıtlar, ağın daha geniş çapta ele geçirildiğine dair herhangi bir bulguya işaret etmiyor. Ancak bu durum, açıkça kabul edilebilir bir durum değil."

SALDIRI NASIL GERÇEKLEŞTİ?

Albanese, yapay zeka ajanının kamuya açık Medicare istatistik raporlama portalına yetkisiz şekilde eriştiğini belirtti. İstatistik ve harcama verilerinin bulunduğu bu portalda ajan, hem kamuya açık hem de açık olmayan dosyalara ulaştı ve dahili sunucuya dosya yazma işlemi gerçekleştirdi.

Başbakan Yardımcısı Richard Marles ise yapay zeka ajanına başlangıçta sağlık ve tıbbi istatistiklerle ilgili araştırma yapması yönünde zararsız bir görev verildiğini ifade etti. Marles'in aktardığına göre ajan, diğer üç web sitesinde sıradan bir kullanıcı gibi davranırken, Medicare portalında istediği bilgiye erişemeyince sisteme sızarak verilere ulaştı.

"AMAÇLAMADIĞIMIZ EYLEMLER GERÇEKLEŞTİ"

Konuya ilişkin açıklama yapan OpenAI, hasta kayıtlarına erişildiğine dair herhangi bir kanıt bulunmadığını belirtti. Şirket, erişilen bilgiler arasında toplu sağlık istatistikleri ile kurum içi dosya adlarının yer aldığını duyurdu.

OpenAI açıklamasında ayrıca şu ifadelere yer verdi: "Modellerimiz yanıt ararken birçok Avustralya hükümet sitesi ve hizmetini kapsayan faaliyetlerde bulundu. Bu, amaçlamadığımız bir eylem olarak gerçekleşti."