BBC’nin yaptığı bir araştırma, pedofillerin yapay zeka teknolojisi kullanarak çocuk istismarı için gerçek gibi görünen görsel malzemeler üretip sattıklarını ortaya çıkardı.
Bu malzemelerin bazılarına Patreon gibi belli başlı içerik paylaşım sitelerine ödenen abonelikler sayesinde ulaşıldığı anlaşıldı.
Patreon sitesinde bu gibi görsellerin yer alması konusunda “sıfır hoşgörü” politikasına sahip olduklarını belirtti.
Ulusal Polis Şefleri Konseyi’nden yapılan açıklamada “bazı platformların ahlaki sorumluluk almaksızın büyük kâr elde etmesinin” kabul edilemez olduğu ifade edildi.
İngiltere hükümetinin siber saldırılara ve tehditlerle mücadele eden güvenlik ve istihbarat kurumu GCHQ da konuyla ilgili açıklama yaptı:
Çocuk cinsel istismarına karışanlar her tür teknolojiyi kullanıyorlar ve bazıları çocuk cinsel istismarı içeren malzemelerin geleceğinin yapay zekaya dayalı içeriklerde olduğuna inanıyor.”
İstismar içerikli görselleri hazırlayanlar sanatsal ya da grafik tasarımında kullanılmak üzere görseller yaratma amacı taşıyan Stable Diffusion isimli yapay zeka yazılımını kullanıyorlar.
Yapay zeka bilgisayarların genellikle insan zekasına ihtiyaç duyan bazı görevleri yapabilmesine imkân tanıyor.
Stable Diffusion kullanıcıları kelimelerle komutlar vererek istedikleri herhangi bir görseli tarif etmelerini mümkün kılıyor, ardından program bu görselleri yaratıyor.
Ancak BBC’nin araştırması bu programın bebek ve çocukların tecavüzü gibi içerikler de dahil çocuk cinsel istismarı içeren ve gerçek gibi görünen görsellerin üretiminde kullanıldığını ortaya koydu.
İngiltere polisi çocuk istismarıyla mücadele ekiplerinin halihazırda bu gibi içeriklere dair incelemelerde bulunduğunu belirtti.
Gazeteci Octavia Sheepshanks aylardır bu haberi araştırıyordu. Bir çocuk yardım örgütü üzerinden BBC’ye ulaşarak elindeki bulguları paylaştı.
“Yapay zekanın görsel tasarlaması mümkün olduğundan beri müthiş bir artış söz konusu. Sadece küçük kız çocukları değil, çocuklardan bahseden pedofiller de var.”
İngiltere’de bir bilgisayar tarafından tasarlanmış ve çocuk istismarı içeren “sahte bir görsel” de yasalar önünde gerçek bir görsel gibi muamele görüyor ve bu tür malzemeleri taşımak, yayımlamak ya da transfer etmek suça tabi tutuluyor.
Ulusal Polis Şefleri Konseyi’nin çocukları koruma biriminin başındaki Ian Critchley, bu “sahte görsellerde” gerçek bir çocuk kullanılmadığı için kimsenin zarar görmediğini söylemenin yanlış olacağını ifade ediyor.
Critchley bir pedofilin düşünce aşamasından sahte görsel üretme aşamasına, oradan da gerçekten bir çocuğu fiziksel olarak istismar etme noktasına gelebileceğini söylüyor.
Bazı sahte görseller, genellikle manga ya da animeler tasarlayan sanatçıların kullandığı popüler Japon sosyal medya platformu Pixiv’de paylaşılıyor.
Cinsel içerikli çizgi romanların ya da çocukların çizimlerine yer vermenin yasak olmadığı Japonya’da yönetilen bu sitede, cinsel istismar içeren görselleri tasarlayanlar etiketler kullanarak bunları daha görünür hale getiriyor.
Pixiv’in bir sözcüsü bu konunun üzerine hassasiyetle eğildiklerini, çocukları içeren cinsel içerikli gerçekçi fotoğrafların tanımlamalarının 31 Mayıs’da tamamen yasaklandığını belirtti.
Şirket yapay zeka kaynaklı sorunlarla mücadele için büyük bir bütçe ayırdıklarını ve izleme sistemlerini de güçlendirdiklerini de ifade etti.
Gazeteci Octavia Sheepshanks, sahte çocuk istismarı görselleri hazırlayanların bunu endüstriyel bir ölçekte yaptıklarını belirtti.
Sheepshanks, “Öyle büyük bir hacim var ki insanlar ayda 1000 görsel hazırlamayı hedeflediklerini söylüyor” dedi.
Farklı ödeme seçenekleri
BBC’nin Octavia Sheepshanks’le birlikte yürüttüğü araştırma yapay zeka tarafından tasarlanan çocuk istismarı içeren görsellerin içeriklerine göre farklı fiyat seçenekleri üzerinden satışa sunulduğunu ortaya çıkardı.
Bir hesapta “Kızlarımı bilgisayarımda eğitiyorum,” denilirken “teslimiyet içinde” görüldüklerinin de altı çizildi.
Bir diğer hesap ayda 8,30 dolar karşılığı “sansürlenmemiş sanat” vaadinde bulundu.
BBC bu hesaplardan birini Patreon ile paylaştı ve platformun söz konusu içeriğin şirket politikalarını ihlal ettiğini tespit etmesinin ardından hesap askıya alındı.
Patreon bu konuda “sıfır hoşgörü” politikasına sahip olduklarını vurguladı ve “İçerik üreticileri çocukları içeren cinsel temalara dayalı malzemelere para aktaramaz” denildi.
Yapay zeka görselleri tasarlayan Stable Diffusion’ın üst kuruluşu İngiliz Stability AI firması da BBC’ye yaptığı açıklamada “platformlarında yasa dışı ya da ahlaksız niyetlere yönelik bütün kullanımların yasaklandığı, bunun çocuk cinsel istismarına dair malzemeleri de içerdiği belirtildi.
Açıklamada Stability AI ürünlerini kötü niyetler için kullananlara karşı emniyet güçlerinin yürüttüğü soruşturmalara destek verildiği de ifade edildi.
Yapay zeka hızla gelişmeyi sürdürürken, bunun gelecekte ne gibi riskler doğuracağı, insanların özel hayatlarını, haklarını ya da güvenliklerini nasıl etkileyeceği hakkında soru işaretleri doğdu.
Ulusal Polis Şefleri Konseyi’nden Ian Critchley toplumun bir dönüm noktasında olduğu görüşünde.
Critchley, “İnternetin ve teknolojinin gençler için harika fırsatlar yaratmasını teminat altına alabilirız, yoksa internet çok daha zararlı bir yer haline gelecek” dedi.
Hükümetten yapılan açıklamada ise şu ifadeler yer aldı:
“İnternet Güvenliği Yasası her tür çevrimiçi çocuk cinsel istismarına karşı firmaların proaktif tedbirler almalarını öngörecek. Aksi takdirde ağır cezalara çarptırılmaları söz konusu olacak.”
