Uzmanlardan yapay süper zeka uyarısı: İnsanlığı yok edecek

Eski Google ve Microsoft mühendisi olan ve şu anda ABD merkezli Makine Zekâsı Araştırma Enstitüsü’nün başkanlığını yürüten Nate Soares, “Süper zeka yarışı küresel olarak durdurulmalı” çağrısında bulundu.

Soares’in yeni kitabı “If Anyone Builds It, Everyone Dies” (Eğer Biri Yaparsa, Herkes Ölür), süper zeki yapay zekanın yaratacağı varoluşsal tehditlere dikkat çekiyor. Kitapta, ABD’li Adam Raine’in bir sohbet robotuyla aylarca konuştuktan sonra intihar etmesi örnek gösteriliyor.

Soares, The Guardian’a yaptığı açıklamada, “Bu yapay zekalar gençleri intihara sürükleyen şekilde etkileşime girdiğinde, bu yaratıcılarının amaçladığı bir davranış değildir. Ancak bu, gelecekteki felaketlerin habercisi olabilir” dedi.

“İNSANLIĞIN ÇIKARLARINA UYGUN DAVRANMAYACAK”

Soares, yapay süper zekanın (ASI) insanlığı yok edebileceğini vurguluyor. ASI, tüm entelektüel görevlerde insanlardan üstün olan teorik bir yapay zeka türünü ifade ediyor.

Yazar ortağı Eliezer Yudkowsky ile birlikte, böyle bir zekanın insanlığın çıkarlarına uygun davranmayacağı konusunda uyarıyorlar. Soares, “Şirketler yapay zekalarını yararlı olmaya yönlendirmeye çalışıyor ama aslında onları daha garip, tehlikeli davranışlara yöneltiyorlar” dedi.

Soares ve Yudkowsky’nin kitabında anlatılan bir senaryoya göre Sable adlı yapay zeka sistemi internete yayılıyor, insanları manipüle ediyor, sentetik virüsler geliştiriyor ve sonunda süper zekaya dönüşüyor. Sistem, hedeflerine ulaşmak için gezegeni yeniden düzenlerken bir yan etki olarak insanlığı yok ediyor.

Her uzman aynı fikirde değil. Meta’nın baş yapay zeka bilimcisi Yann LeCun, yapay zekânın varoluşsal bir tehdit oluşturduğunu reddederek, “Aslında insanlığı yok olmaktan kurtarabilir” dedi.

Soares’e göre çözüm, nükleer silahların yayılmasını önleyen uluslararası anlaşmalara benzer bir küresel yasak olmalı. “Dünyanın yapması gereken şey, süper zeka yarışını küresel olarak durdurmaktır” çağrısında bulundu.