ChatGPT'yi üreten şirket itiraf etti: Otonom ajan izinsiz olarak sistemlere sızdı

Financial Times’ın gündeme taşıdığı gelişmeye göre, GPT-5.6 Sol ile henüz piyasaya sürülmemiş güçlü bir modelin yer aldığı süreçte, yapay zeka ajanı kendisine verilen görevi tamamlamak adına kontrollü ortamın dışına çıktı.

SIFIRINCI GÜN AÇIĞIYLA İNTERNETE SIZDI

Olay, OpenAI’nin modellerin siber saldırı kapasitesini ölçmek amacıyla gerçekleştirdiği ExploitGym değerlendirmesi sırasında yaşandı. Şirket, en yüksek siber kapasitenin tespiti için bazı yüksek riskli güvenlik filtrelerinin test esnasında devre dışı bırakıldığını belirtti.

İzole test ortamında çalışan ajan, yazılım paketi önbellekleme sisteminde daha önce bilinmeyen bir sıfırıncı gün açığı keşfetti. Bu açığı kullanarak yetkilerini artıran sistem, doğrudan internet bağlantısı bulunan bir sunucuya ulaşmayı başardı.

HUGGİNG FACE HEDEF ALINDI

İnternete erişim sağlayan yapay zeka ajanı, test cevaplarına ulaşabilmek amacıyla dünyanın en büyük yapay zeka platformlarından Hugging Face altyapısını hedef aldı. Çalınmış kimlik bilgileri ve yeni güvenlik açıklarını birleştiren sistem, sunucularda uzaktan kod çalıştırmaya imkan tanıyan bir yol buldu.

OpenAI, modellerin dar kapsamlı bir test hedefine aşırı odaklanarak beklenmedik ölçüde ileri gittiğini kabul etti.

17 BİN FARKLI İŞLEM GERÇEKLEŞTİRİLDİ

Hugging Face tarafından yapılan açıklamada, saldırının baştan sona tamamen otonom bir yapay zeka sistemi tarafından yürütüldüğü vurgulandı. Kısa süreli binlerce çalışma ortamı üzerinden on binlerce otomatik işlem yapan sistemin;

• Sisteme girdiği,
• Yetkilerini artırdığı,
• Erişim bilgilerini topladığı,
• Sunucular arasında insan yönlendirmesi olmadan ilerlediği tespit edildi.

Saldırı kayıtlarında 17 binden fazla otomatik işlemin gerçekleştirildiği belirlenirken, sınırlı sayıdaki şirket içi veri kümesine ve erişim bilgilerine izinsiz ulaşıldığı açıklandı. Kamuya açık modellerde veya kullanıcı platformlarında herhangi bir değişiklik tespit edilmediği bildirildi.

GÜVENLİK ÖNLEMLERİ ARTIRILDI

Yaşanan krizin ardından OpenAI, test altyapısındaki erişim kontrollerini sıkılaştırdığını ve araştırma çalışmalarını yavaşlatacak yeni sınırlamalar getirdiğini duyurdu. Hugging Face ise etkilenen erişim bilgilerini yenileyerek olayı adli makamlara taşıdı.

Uzmanlar, yapay zeka tarafından yürütülen otonom saldırıların artık teorik bir risk olmaktan çıktığını ve yeni bir güvenlik eşiğine ulaşıldığını ifade ediyor.