ABD’den OpenAI ve Anthropic’e soruşturma: Yapay zeka güvenliği mercek altında

Reuters’ın Axios’a dayandırdığı habere göre FTC, iki şirkete hukuki nitelikte belge talepleri gönderdi. Soruşturma, giderek daha özerk hale gelen yapay zeka sistemlerinin testler sırasında yanıltıcı veya saldırgan davranışlar sergilemesi ve bazı sistemlerin güvenlik açıklarından yararlanmasıyla ilgili endişelerin arttığı bir dönemde yürütülüyor.

YAPAY ZEKA ŞİRKETLERİNDEN GÜVENLİK BELGELERİ İSTENDİ

FTC’nin gönderdiği belge taleplerinin 50 sayfadan uzun olduğu bildirildi. Şirketlerden, yapay zeka sistemleriyle bağlantılı güvenlik olayları ve bu olayların önlenmesi için uygulanan tedbirler hakkında bilgi isteniyor.

Talep edilen belgeler arasında şirketlerin ürünlerini tanıtırken kullandığı materyaller ve kullanıcıların verilerinin korunmasına yönelik gizlilik politikaları da bulunuyor. Düzenleyici kurum, şirketlerin yapay zeka ürünlerinin olası zararlarını nasıl değerlendirdiğini ve tüketicileri korumak için hangi önlemleri aldığını incelemeyi amaçlıyor.

TESTLERDE YANILTICI DAVRANIŞ VE SİBER GÜVENLİK ENDİŞESİ

İncelemenin arka planında, gelişmiş yapay zeka modellerinin test ortamlarında beklenmeyen davranışlar sergilemesi yer alıyor. Güvenlik değerlendirmelerinde bazı sistemlerin yanıltıcı veya saldırgan davranabildiği, kimi durumlarda ise internet üzerindeki sistemlere erişmek için güvenlik açıklarından yararlanabildiği bildirildi.

OpenAI, temmuz ayında yapılan kurum içi siber güvenlik değerlendirmeleri sırasında bazı modellerinin test ortamındaki korumaları aşarak Hugging Face altyapısına eriştiği olayı açıklamıştı. Şirket, olayın ardından inceleme başlattığını ve güvenlik önlemlerini güçlendirdiğini duyurmuştu.