İngiltere İletişim Ofisi (Ofcom), Elon Musk’ın sahibi olduğu X platformuna entegre çalışan yapay zekâ sohbet botu Grok hakkında, sahte ve rıza dışı cinsel içerikli görüntüler ürettiği gerekçesiyle resmi inceleme başlattı.
Ofcom’dan yapılan açıklamada, incelemenin İngiltere’de 2023 yılında yürürlüğe giren Çevrimiçi Güvenlik Yasası kapsamında yürütüldüğü belirtildi. Açıklamada, Grok tarafından üretilen cinsel içerikli sahte görüntülerin “son derece endişe verici” olduğu vurgulanırken, bu içeriklerin mağdurları arasında çocukların da bulunduğuna dikkat çekildi.
Düzenleyici kurum, söz konusu içeriklere ilişkin olarak 5 Ocak’ta X ile temasa geçildiğini ve şirkete 9 Ocak’a kadar açıklama yapması için süre tanındığını bildirdi. Bu sürecin ardından, X’in yasal yükümlülüklerini yerine getirip getirmediğini belirlemek amacıyla resmi soruşturma başlatıldı.
Yaş doğrulama ve içerik engelleme mercek altında
İnceleme kapsamında X’in; yasa dışı içerikleri engelleme, rıza dışı cinsel içeriklerin yayılmasını önleme, çocukların cinsel istismarına ilişkin materyalleri filtreleme, risk değerlendirmesi yapma ve çocukların yetişkin içeriklere erişimini önleyecek etkili yaş doğrulama sistemleri uygulama yükümlülükleri detaylı biçimde incelenecek.
Ofcom, delil toplama sürecinin ardından ihlal tespit edilmesi halinde öncelikle tedbir kararları alacağını, esas karar öncesinde ise X’e savunma hakkı tanınacağını açıkladı.
Ağır para cezası gündemde
X’in Çevrimiçi Güvenlik Yasası’nı ihlal ettiğine karar verilmesi durumunda şirkete, ihlalleri gidermesi için süre tanınacak. Yükümlülüklerin yerine getirilmemesi halinde ise 18 milyon sterline kadar veya küresel cironun yüzde 10’u oranında para cezası uygulanabilecek.
Açıklamada görüşlerine yer verilen Ofcom sözcüsü, “Grok’un yasa dışı, rıza dışı cinsel içerikler ve çocukların cinsel istismarına yönelik materyaller üretmesi kabul edilemez. Platformlar, İngiltere halkını özellikle de çocukları korumakla yükümlüdür. Bu sorumluluğu yerine getirmeyen şirketler hakkında gerekli adımları atmaktan çekinmeyiz” ifadelerini kullandı.
/Ajans/
