Yapay zeka aracı 9 saniyede şirket veritabanını sildi
Yayınlanma:
Anthropic'in Claude Opus modeliyle çalışan bir yapay zeka, rutin bir işlemde insan onayı olmadan verileri silerek sorunu çözmeye kalktı.
Kodlama işlerini kolaylaştırmak için tasarlanan bir yapay zeka aracı, bunun yerine sadece birkaç saniye içinde bir şirketin tüm veritabanını sildi.
Araç kiralama şirketleri için yazılım geliştiren PocketOS, özerk aracın veritabanını silmesinin ardından hafta sonu boyunca 30 saati aşkın süre büyük bir kesinti yaşadı.
Dijital zanlı, programlama görevleri için en yetenekli yapay zekâ sistemlerinden biri olarak görülen, Anthropic'in Claude'u Opus 4.6 modelini kullanan popüler yapay zeka kodlama aracı Cursor'du.
PocketOS'un kurucusu Jer Crane, olayı ‘sadece mümkün değil, kaçınılmaz hâle getiren’ şeyin mevcut yapay zekâ altyapısındaki ‘sistemik başarısızlıklar’ olduğunu söyledi.
Kaynak:Haber Merkezi
Türkçe karakter kullanılmayan ve büyük harflerle yazılmış yorumlar onaylanmamaktadır.