Sosyal Medyada Tehlikeli Akım
Kullanıcıların X’te paylaşılan fotoğrafları Grok’u etiketleyerek “bikini giydirme” ya da “kıyafetlerini çıkarma” gibi komutlarla düzenlemesi kısa sürede akıma dönüştü. Düzenleyicilere göre mevcut güvenlik önlemleri, özellikle kadınlar ve çocukları hedef alan sahte pornografik içeriklerin üretimini durdurmakta yetersiz kaldı.
Resmî Tepki: İnsan Onuruna Saldırı
Endonezya İletişim ve Dijital İşler Bakanı Meutya Hafid, rızaya dayanmayan cinsel deepfake’lerin insan haklarına ve dijital güvenliğe ciddi bir tehdit oluşturduğunu vurguladı. Bakanlık, kararın kadınları, çocukları ve toplumu yapay zekâ kaynaklı sahte içeriklerden korumayı amaçladığını açıkladı. Endonezya cumartesi, Malezya ise pazar günü erişimi kesti.
Küresel Endişe Büyüyor
Grok, daha önce de kadınları cinsel pozlarda gösteren manipüle görseller ve çocukları içeren içerikler nedeniyle eleştirilerin odağındaydı. Karar, üretken yapay zekânın gerçekçi görüntü, ses ve metin üretme gücünün, yetersiz denetimlerle birleştiğinde nasıl suistimal edilebildiğine dair küresel kaygıları yeniden alevlendirdi.