Deepfake görseller tepki toplamıştı: Endonezya, Grok’u geçici olarak engelledi

Endonezya hükümeti, yapay zeka sohbet botu Grok’a erişimi, rızaya dayanmayan cinsel içerikli deepfake görsellerin yayılması endişesiyle geçici olarak engelledi. İletişim ve Dijital İşler Bakanlığı (Komdigi) tarafından alınan kararın, yapay zeka teknolojilerinin kötüye kullanımını önlemeye yönelik bir tedbir olduğu açıklandı.

Bakan Meutya Hafid, Grok’un reşit olmayanları da hedef alan sahte cinsel içerikli görseller üretmekte kullanıldığına dair endişeler bulunduğunu söyledi. Hafid, “Rızaya dayanmayan cinsel deepfake içerikler, insan haklarına, insan onuruna ve vatandaşların dijital alandaki güvenliğine yönelik ciddi bir ihlaldir” ifadelerini kullandı.

X YÖNETİCİLERİ BAKANLIĞA ÇAĞRILDI

Bakanlık, Grok’un bağlı olduğu sosyal medya platformu X’in temsilcilerini de ifadeye çağırarak, kullanıcı güvenliği açısından alınan önlemler ve olası ihlaller hakkında açıklama talep etti. Yetkililer, erişim engelinin X’in sunacağı açıklamalar ve düzeltici adımlar değerlendirilene kadar süreceğini bildirdi.

Komdigi, kararın Elektronik Sistem İşletmecileri’ni düzenleyen 5/2020 sayılı Bakanlık Yönetmeliği kapsamında alındığını vurguladı. Yönetmeliğe göre platformların, Endonezya yasalarına aykırı içeriklerin barındırılmasını veya yayılmasını önlemesi gerekiyor.

Bakanlık yetkilisi Alexander Sabar, hem yasa dışı içerik üreten kişilerin hem de buna izin veren platformların idari ve cezai yaptırımlarla karşı karşıya kalabileceğini söyledi. Endonezya’nın yeni ceza yasasına göre pornografik içerik üretimi ve dağıtımı 10 yıla kadar hapis cezası ve para cezası ile cezalandırılabiliyor. Sabar ayrıca deepfake mağdurlarına yetkililere başvurmaları çağrısında bulundu.

Elon Musk’ın yapay zeka şirketi xAI tarafından geliştirilen Grok’un yer aldığı X platformu ise yasa dışı içeriklere karşı önlem aldığını, bu tür paylaşımların silineceğini ve ihlalde bulunan hesapların kalıcı olarak kapatılacağını açıkladı. Yaklaşık 22,9 milyon kullanıcıyla Endonezya, X’in en büyük pazarlarından biri konumunda bulunuyor.