Yapay zeka yöneticileri BM’de uyardı: “Bir yol ayrımındayız”

Birleşmiş Milletler Güvenlik Konseyi’nin (BMGK) “Yapay zeka ve uluslararası güvenlik” başlıklı toplantısında konuşan Sam Altman, yapay zeka modellerindeki hızlı ilerlemenin fırsatların yanı sıra riskleri de daha acil hale getirdiğini söyledi.

Altman, yapay zekanın insanlık için yeni bir yaratıcılık ve keşif dönemi başlatabileceğini veya ciddi toplumsal sarsıntılara yol açabileceğini belirterek, “Bir yol ayrımındayız” dedi.

OpenAI CEO’su, yapay zekanın daha yetenekli ve otonom hale gelmesiyle mevcut güç dengelerinin değişebileceğini ifade etti. Sistemlerin kendi kendilerini geliştirmeye başlaması halinde insan müdahalesinin giderek daha sınırlı hale gelebileceği uyarısında bulundu.

“GÜÇ BİRKAÇ ELDE TOPLANMAMALI”

Altman, yapay zekanın geleceğine ilişkin en önemli kararların yalnızca teknoloji şirketleri tarafından alınmaması gerektiğini söyledi.

Yapay zekanın demokratik olması için kritik kararların demokratik süreçler ve halka karşı sorumlu hükümetler tarafından şekillendirilmesi gerektiğini belirten Altman, uluslararası düzeyde işbirliği yapılması çağrısında bulundu.

Altman ayrıca yapay zeka kaynaklı güvenlik olaylarının hızlı ve doğru biçimde raporlanması, ülkeler ve kritik altyapı kuruluşları arasında güvenli bilgi paylaşım kanalları oluşturulması gerektiğini ifade etti.

Anthropic CEO’su Dario Amodei ise toplantıya çevrim içi katılarak yapay zekanın hızla gelişmesinin yönetilmesi gereken yeni riskler ortaya çıkardığını söyledi.

Amodei, iki temel risk kategorisine dikkat çekti. Bunlardan ilkinin yapay zeka modellerinin kötüye kullanılması olduğunu belirten Amodei, biyoteröristlerin teknolojiyi biyolojik silah üretiminde kullanabileceği uyarısında bulundu.

İkinci riskin ise “kontrol kaybı” olduğunu belirten Amodei, modellerin yeteneklerinin geliştiricilerin kontrol kapasitesinin ötesinde hızlanabileceğini söyledi.