OpenAI’ın baş bilim insanından yapay zeka uyarısı

Yapay zeka alanındaki hızlı ilerleme, teknolojiyi geliştiren şirketlerin içinde de güvenlik tartışmalarını büyütüyor. OpenAI’ın baş bilim insanı Jakub Pachocki, yayımladığı değerlendirmede mevcut yapay zeka sistemlerinin bilgisayarları kullanabildiğini, insanlarla ve diğer yapay zekalarla iş birliği yapabildiğini ve araştırma projelerini yürütebildiğini belirterek, daha ileri aşamalarda insan kontrolünün zorlaşabileceği uyarısında bulundu.

Pachocki’ye göre yapay zeka sistemlerinin yetenekleri kısa sürede önemli ölçüde arttı. Modeller artık yalnızca verilen sorulara yanıt üretmekle kalmıyor; bilgisayarları kullanabiliyor, farklı sistemlerle etkileşime girebiliyor ve araştırma süreçlerinde daha bağımsız görevler üstlenebiliyor.

OpenAI baş bilim insanı, yakın gelecekte sistemlerin insan müdahalesi olmadan kendi yeteneklerini geliştirebildiği “özyinelemeli kendini geliştirme” aşamasına ulaşabileceğini belirtti. Bu durumun yapay zekanın gelişim hızını daha da artırabileceği ifade edildi.

“SONUÇLARA KİMSE HAZIR DEĞİL”

Pachocki, yapay zeka yeteneklerinin hızla gelişmesine karşın toplumun ortaya çıkabilecek sonuçlara yeterince hazırlıklı olmadığını savundu.

Baş bilim insanına göre mevcut güvenlik yöntemleri, daha güçlü ve özerk sistemlerin ortaya çıkardığı riskleri tek başına yönetmek için yeterli olmayabilir. Bu nedenle yapay zeka geliştiren şirketlerin yalnızca kendi iç güvenlik mekanizmalarına güvenmek yerine daha geniş kapsamlı standartlara ihtiyaç duyuluyor.

GELİŞTİRME HIZI GÖNÜLLÜ OLARAK YAVAŞLATILABİLİR

Pachocki’nin dikkat çeken önerilerinden biri, yapay zeka laboratuvarlarının güvenlik standartları oluşturulana kadar geliştirme çalışmalarının hızını gönüllü olarak azaltması.

Ancak Pachocki yapay zekanın tamamen durdurulmasını savunmuyor. Bunun yerine, teknolojinin kapasitesi ile güvenlik ve denetim mekanizmalarının gelişimi arasında daha sağlıklı bir denge kurulması gerektiğine işaret ediyor.

OpenAI yöneticisi, gelişmiş yapay zeka sistemleri için yalnızca şirketlerin kendi belirlediği kuralların yeterli olmayabileceğini belirterek daha geniş kapsamlı güvenlik mekanizmaları önerdi.

Bu kapsamda bağımsız denetçiler, hükümet kurumları veya uluslararası kuruluşlar tarafından uygulanabilecek zorunlu güvenlik standartlarının oluşturulması gerektiğini savundu. Pachocki ayrıca ülkeler ve yapay zeka laboratuvarları arasında uluslararası koordinasyonun önemine dikkat çekti.