'Yapay zeka 10 yıl içinde insanlığın sonunu getirecek' diyerek istifa etti

OpenAI ve Anthropic bünyesinde görev yapan araştırmacı Jacob Coxon, yapay zeka sektöründeki rekabetin tehlikeli bir noktaya ulaştığını belirterek kariyerine son verdi. Gelişmiş yapay zeka modelleri üzerinde çalışan Coxon, şirketlerin daha güçlü sistemleri ilk geliştiren taraf olma yarışının ciddi riskler barındırdığını savundu.

Coxon’a göre teknoloji şirketleri, insan zekasını aşabilecek ve kendi yeteneklerini geliştirebilecek sistemleri üretmek için giderek daha agresif bir yarışın içine giriyor. Araştırmacı, söz konusu sistemlerin ilerleyen dönemde siber ağlara erişebilecek seviyeye ulaşabileceğini ve kontrol mekanizmalarının yetersiz kalması halinde insanlık açısından geri dönüşü olmayan sonuçlar doğurabileceğini öne sürdü.

Araştırmacının en dikkat çekici uyarısı ise zamanlamaya ilişkin oldu. Coxon, mevcut gelişim hızının korunması halinde insanlığın varlığını tehdit edebilecek bir yapay zeka senaryosunun önümüzdeki 10 yıl içinde ortaya çıkabileceğini ifade etti.

“RAKİP YAPARSA BİZ DE YAPMAK ZORUNDAYIZ” BASKISI

Coxon, yapay zeka sektöründe çalışan çok sayıda yönetici ve araştırmacının gelişmiş modellerin oluşturabileceği risklerin farkında olduğunu belirtti. Ancak şirketlerin rakiplerinin gerisinde kalma korkusuyla yarıştan çekilmekte zorlandığını söyledi.

Araştırmacı, OpenAI ile Anthropic arasında yapay zeka güvenliği konusunda önemli yaklaşım farklılıkları bulunduğunu kabul ederken, iki şirketin de eleştirilebilecek yönleri olduğunu savundu.

Coxon’a göre özellikle “başkaları yapacaksa bizim de yapmamız gerekiyor” anlayışı, sektörde tehlikeli bir kısır döngü oluşturuyor. Şirketlerden biri hızını düşürdüğünde diğerinin avantaj sağlayacağı endişesi, tarafları daha hızlı hareket etmeye itiyor.

Bu nedenle yapay zeka geliştirme süreçlerinin yalnızca özel şirketlerin kararlarına bırakılmaması gerektiğini savunan Coxon, devletlerin uluslararası ölçekte ortak kurallar oluşturması gerektiğini belirtti. Araştırmacı, riskli dönemlerde model geliştirme faaliyetlerine geçici sınırlamalar getirilmesinin de değerlendirilmesi gerektiğini ifade etti.

OPENAI VE ANTHROPİC ARASINDA MATEMATİK TARTIŞMASI

Coxon’ın eleştirdiği rekabet ortamına ilişkin tartışmaların merkezinde son dönemde matematik alanında yaşanan gelişmeler de yer aldı.

OpenAI, onlarca yıldır matematik dünyasının en önemli açık problemlerinden biri olarak kabul edilen Navier-Stokes denklemi üzerinde yapay zeka kullanarak ilerleme sağladığını duyurdu. Şirket, çalışmada yaklaşık 10 bin yapay zeka ajanının kullanıldığını açıkladı.

Ancak kısa süre sonra New York Üniversitesi'nden matematikçi Tristan Buckmaster ile Anthropic araştırmacısı Levent Alpöge’nin de aynı problem üzerinde çalıştığı ortaya çıktı.

Buckmaster, OpenAI’nin kendi ekiplerinin henüz kamuoyuna açıklamadığı araştırmadan haberdar olduğunu ve daha sonra benzer bir yaklaşımla sonuca ulaştığını iddia etti.

“ÖZEL ÇALIŞMALARA ERİŞİLDİ Mİ?” SORUSU

Tartışmanın en kritik noktalarından biri, söz konusu araştırmanın OpenAI'nin Codex altyapısı üzerinde yürütülmüş olması.

Buckmaster, araştırmalarının özel Codex oturumlarında gerçekleştirildiğini belirterek OpenAI’ye bu oturumlara veya araştırmalarına erişilip erişilmediğini sordu. Aynı dönemde iki ekibin aynı matematik problemine odaklanması da tartışmaların büyümesine neden oldu.

OpenAI ise araştırmacıların özel verilerine veya çalışma alanlarına erişildiği iddiasını reddetti. Şirket, kendi çözümünün Anthropic ekibinin çalışması kamuoyuna yansımadan önce tamamlandığını açıkladı.

Bununla birlikte OpenAI, platform kullanımından elde edilen anonimleştirilmiş verilerin model geliştirme süreçlerine dolaylı katkı sağlamış olabileceği ihtimalini tamamen dışlamadı. Şirket ayrıca kendi geliştirdiği çözümün diğer araştırmadan farklı olduğunu savundu.

ZAMANLAMA TARTIŞMAYI ALEVLENDİRDİ

OpenAI’nin açıklamasına göre çalışmalar 1 Eylül’de iki önemli matematik probleminin çözüldüğüne ilişkin duyuruyla gündeme geldi. Şirket, binlerce yapay zeka ajanının birlikte çalıştırıldığı süreç sonunda Navier-Stokes denklemi için bir çözüm elde edildiğini bildirdi.

Ancak açıklama, araştırmanın kaynağına ilişkin soru işaretlerini ortadan kaldırmadı. Rakip ekiplerin aynı dönemde aynı problem üzerinde çalışması ve OpenAI’nin diğer araştırmadan haberdar olduğu iddiasının ardından kısa sürede sonuca ulaşılması tartışmayı daha da büyüttü.

Şu ana kadar OpenAI’nin rakip araştırmacıların gizli verilerine eriştiğini kesin biçimde ortaya koyan bir kanıt bulunmuyor.

YAPAY ZEKA YARIŞINDA ASIL TEHLİKE NE?

Matematik problemi etrafındaki tartışma, yapay zeka sektöründeki rekabetin yalnızca teknoloji şirketleri arasındaki bir yarış olmadığını da gösteriyor.

Bir tarafta milyarlarca dolarlık işlem gücüne sahip teknoloji şirketleri bulunurken diğer tarafta çok daha sınırlı kaynaklarla çalışan akademik araştırma ekipleri yer alıyor. Bu güç farkı, yapay zekanın bilimsel araştırmalardaki rolü ve şirketlerin sahip olduğu teknolojik avantaj konusunda yeni tartışmaları beraberinde getiriyor.

Coxon ise tartışmanın çok daha büyük bir boyutu olduğunu düşünüyor. Bugün karmaşık matematik problemlerini çözebilen yapay zeka sistemlerinin gelecekte çok daha geniş yeteneklere sahip olabileceğini belirten araştırmacı, süper zekaya ulaşma yarışının “rakip yapacak” gerekçesiyle hızlandırılmasının ciddi sonuçlar doğurabileceği görüşünde.

Coxon’ın mesajı net: İnsanlığın geleceğini etkileyebilecek güçte bir teknolojinin güvenli biçimde geliştirilmesini yalnızca şirketlerin rekabetçi kararlarına bırakmak yeterli olmayabilir. Araştırmacıya göre uluslararası denetim, kamu otoritesinin daha güçlü rolü ve gerektiğinde geliştirme hızını düşürecek mekanizmalar, yapay zeka çağının en önemli güvenlik başlıkları arasında yer alıyor.