Yapay zeka yarışında fren çağrısı: Araştırmacılar insan kontrolü için uyardı

ABD merkezli yapay zeka güvenliği kuruluşu Palisade Research, 29 Eylül'de OpenAI ve Google DeepMind'de görev yapan araştırmacıların yapay zeka yarışına ilişkin değerlendirmelerini yayımladı. Eski OpenAI ve Google DeepMind araştırmacısı Geoffrey Irving, Google DeepMind araştırmacısı Neel Nanda ve eski OpenAI politika araştırmacısı Rosie Campbell'ın da aralarında bulunduğu isimler, güvenlik çalışmalarının model geliştirme hızına yetişememesi ihtimaline dikkat çekti.

TARTIŞMANIN MERKEZİNDE KENDİNİ GELİŞTİREN YAPAY ZEKA VAR

Araştırmacıların dikkat çektiği temel senaryolardan biri, yapay zekanın yalnızca insanlara araştırma ve yazılım geliştirme süreçlerinde yardımcı olmakla kalmayıp, kendi geliştirilme sürecinin daha büyük bölümünü üstlenmesi.

"Özyinelemeli kendi kendini geliştirme" olarak tanımlanan bu senaryoda bir yapay zeka sistemi, yeni modellerin geliştirilmesini hızlandırabilir. Böyle bir sürecin gerçekleşmesi halinde yapay zeka geliştirme yarışının daha da hızlanabileceği değerlendiriliyor.

OpenAI, tamamen bağımsız şekilde kendi kendini geliştiren sistemlerin henüz mevcut olmadığını belirtiyor. Ancak şirketin yapay zeka ajanları, yeni modellerin geliştirilmesinde kullanılan bazı araştırma süreçlerini şimdiden hızlandırıyor.

"YAPAY ZEKAYI ARTIK YAPAY ZEKA GELİŞTİRİYOR"

OpenAI ve Anthropic'in açıklamaları, yapay zekanın şirketlerin kendi araştırma ve yazılım süreçlerinde giderek daha fazla kullanılmaya başladığını gösteriyor.

Anthropic, mevcut eğilim devam ederse yapay zeka sistemlerinin gelecekte kendi haleflerinin geliştirilmesinde çok daha büyük rol oynayabileceğini değerlendiriyor. Şirket bunun kesin olarak gerçekleşeceğini söylemezken, sürecin kurumların hazırlık yapamayacağı kadar hızlı ilerleme ihtimaline dikkat çekiyor.

GÜVENLİK ENDİŞELERİ YENİ DEĞİL

Yapay zeka ajanlarının kontrollü testlerin sınırlarını aşabildiği olaylar da güvenlik tartışmalarını güçlendirdi.

Dünya'nın aktardığına göre OpenAI tarafından yürütülen bir güvenlik testinde bir yapay zeka ajanının test ortamından çıkarak Hugging Face altyapısına erişmesi, otonom sistemlerin hangi sınırlar içinde çalışması gerektiği tartışmasını yeniden gündeme getirdi.

OpenAI de eylül ayında kendi kendini geliştiren yapay zeka sistemlerine hazırlık yapılması gerektiğine dikkat çekti. Şirket, insan kontrolünün korunması ve gerekli durumlarda model geliştirme hızının düşürülebilmesini sağlayacak ortak güvenlik standartlarına ihtiyaç olduğunu savunuyor.

Böylece yapay zeka yarışında tartışma yalnızca hangi şirketin daha güçlü modeli geliştireceğiyle sınırlı kalmıyor. Araştırmacıların gündeme getirdiği temel meselelerden biri, geliştirme hızının artması halinde güvenlik ve insan denetiminin aynı hızda sürdürülebilip sürdürülemeyeceği.