Yapay zeka kontrolden çıkıyor mu? Teknoloji devleri farklı düşünüyor

Yapay zekanın yetenekleri geliştikçe, bu sistemlerin nasıl güvenli biçimde kontrol altında tutulacağı teknoloji sektörünün en önemli tartışmalarından biri haline geldi. Son açıklamalar, teknoloji şirketleri arasında yalnızca yapay zekanın potansiyeli konusunda değil, güvenlik risklerine karşı nasıl bir yol izlenmesi gerektiği konusunda da görüş ayrılıkları bulunduğunu gösteriyor.

Tartışmanın merkezinde, daha gelişmiş yapay zeka sistemlerinin gelecekte insanlar tarafından kontrol edilmesinin zorlaşabileceği endişesi bulunuyor.

Anthropic'te güvenlik araştırmaları yürüten Evan Hubinger'ın, kontrolsüz bir yapay zekanın insanlığın tamamını yok etme ihtimaline ilişkin yüzde 10'un üzerinde kişisel bir risk değerlendirmesi yaptığı aktarıldı. Bu oran herhangi bir resmi olasılık tahmini değil, araştırmacının kendi değerlendirmesi olarak öne çıkıyor.

Anthropic CEO'su Dario Amodei ise yapay zeka geliştirme çalışmalarının hızının düşürülmesi gerektiğini savunurken, bu yaklaşım Sam Altman ve Elon Musk tarafından da desteklendi.

“DÜNYA KORKMAKTA HAKLI”

OpenAI CEO'su Sam Altman da yapay zekanın oluşturabileceği risklere ilişkin dikkat çeken ifadeler kullandı.

San Francisco'daki bir konferansta konuşan Altman, yapay zekanın gelecekte nasıl yanlış sonuçlara yol açabileceğini öngörmenin artık daha kolay olduğunu belirterek insanların endişelenmekte haklı olduğunu söyledi. Buna rağmen OpenAI'nin ve sektörün güvenli geliştirme konusunda gerekli adımları atabileceğini savundu.

Altman ayrıca güvenlik çalışmalarının teknolojik ilerlemenin önünde tutulması gerektiğini ve bunun başarılamaması halinde geliştirme çalışmalarının yavaşlatılabileceğini veya durdurulabileceğini ifade etti.

ZUCKERBERG FARKLI BİR YOL ÖNERİYOR

Meta CEO'su Mark Zuckerberg ise tartışmayı yapay zekanın tamamen yavaşlatılmasından çok güvenlik ve kullanıcı amaçlarıyla uyum kapasitesine odakladı.

Zuckerberg'e göre yapay zeka sistemlerinin kullanıcıların amaçlarıyla güvenli biçimde uyumlu çalışması, önümüzdeki dönemde şirketler arasındaki rekabetin önemli unsurlarından biri olacak. Zuckerberg ayrıca şirketlerin kendi sistemlerini değerlendirmek için bağımsız değerlendiriciler ve danışmanlarla daha fazla çalışması gerektiğini belirtti.

META KENDİ MODELİNİ DE ERTELEDİ

Zuckerberg, güvenlik çalışmalarının gerektiğinde ürün geliştirme takvimini de etkileyebileceğini Meta'nın kendi uygulaması üzerinden açıkladı.

Meta'nın yeni yapay zeka modeli Muse'un kullanıma sunulmasının güvenlik çalışmalarına daha fazla zaman ayrılması amacıyla ertelendiğini belirten Zuckerberg, şirketlerin güvenlik konusunda gerektiğinde kendi geliştirme süreçlerini yavaşlatabileceğini söyledi.

JENSEN HUANG: “YENİ YASALARA İHTİYACIMIZ YOK”

Nvidia CEO'su Jensen Huang ise yapay zeka güvenliğinin öncelikle teknoloji şirketlerinin sorumluluğunda olması gerektiği görüşünde.

Huang, yeni yasalar veya geniş kapsamlı yeni düzenlemeler yerine şirketlerin geliştirdikleri sistemlerin güvenliğinden daha fazla sorumluluk üstlenmesi gerektiğini savundu. Yapay zeka güvenliğini aynı zamanda bir mühendislik problemi olarak değerlendirdi.

GÜVENLİKTE ORTAK STANDART ARAYIŞI

Şirketler geliştirme hızının ne ölçüde yavaşlatılması gerektiği konusunda farklı görüşlere sahip olsa da sektörde ortak güvenlik standartları oluşturulmasına yönelik çalışmalar da yürütülüyor.

OpenAI ve Anthropic yöneticilerinin yanı sıra Google DeepMind'ın da dahil olduğu görüşmelerde, daha gelişmiş yapay zeka sistemleri için ortak güvenlik standartları ve değerlendirme yöntemleri üzerinde çalışıldığı bildirildi.