BBC’nin Seul muhabiri Jean Mackenzie hayli ilgi çeken ve dünya çapında herkesi tehdit altına alabilecek ‘’deepfake’’ konusuna yani yapay zeka kullanılarak oluşturulan ses ve video dosyalarına ilişkin hayli çarpıcı bir haber-analiz yazısı yayımladı.
Jean Mackenzie’nin ‘’ Güney Kore okullarını saran ’Deepfake’ porno krizinin iç yüzü’’ başlıklı yazısında şu görüşlere yer verildi.
‘’Geçtiğimiz cumartesi günü, Heejin’in telefonuna anonim bir göndericiden bir Telegram mesajı geldi. “Fotoğraflarınız ve kişisel bilgileriniz sızdırıldı. Tartışalım.”
Üniversite öğrencisi mesajı okumak için sohbet odasına girdiğinde, birkaç yıl önce hala okuldayken çekilmiş bir fotoğrafını aldı. Ardından aynı fotoğrafı kullanan ikinci bir görüntü geldi, sadece bu cinsel içerikliydi ve sahteydi.
Dehşete düşen Heejin, gerçek adı bu olmasa da, tepki vermedi, ancak görüntüler gelmeye devam etti. Hepsinde, yüzü, karmaşık deepfake teknolojisi kullanılarak, cinsel eylemde bulunan bir vücuda iliştirilmişti.
Çoğunluğu gerçek bir kişinin yüzüyle, cinsel içerikli sahte bir vücudun birleştirilmesiyle oluşturulan deepfake’ler, giderek daha fazla yapay zeka kullanılarak üretiliyor.
Heejin BBC’ye yaptığı açıklamada, “Çok korkmuştum, kendimi çok yalnız hissediyordum.” dedi.
Ama yalnız değildi.
İki gün önce, Güney Koreli gazeteci Ko Narin kariyerinin en büyük haberini yayınlamıştı. Polisin ülkenin iki büyük üniversitesinde deepfake porno şebekelerini araştırdığı yakın zamanda ortaya çıkmıştı ve Bayan Ko daha fazlasının olduğunu artık biliyordu.
Sosyal medyayı araştırmaya başladı ve mesajlaşma uygulaması Telegram’da kullanıcıların tanıdıkları kadınların fotoğraflarını paylaştığı ve yapay zeka yazılımı kullanarak saniyeler içinde sahte pornografik görüntülere dönüştürdüğü düzinelerce sohbet grubunu keşfetti.
Ko bize, “Her dakika insanlar tanıdıkları kızların fotoğraflarını yükleyip bunların deepfake’e dönüştürülmesini istiyorlar” dedi.
Ko, bu grupların yalnızca üniversite öğrencilerini hedeflemediğini keşfetti. Belirli liselere ve hatta ortaokullara ayrılmış odalar vardı. Belirli bir öğrencinin görüntüleri kullanılarak çok fazla içerik oluşturulursa, ona kendi odası bile verilebilirdi. Genel olarak “aşağılanma odaları” veya “arkadaşların arkadaşları odaları” olarak etiketlenen bu odalar, genellikle katı giriş şartlarıyla birlikte oluşturulmuştu.
Ko’nun Hankyoreh gazetesindeki haberi Güney Kore’yi şok etti. Pazartesi günü, polis, yakın zamanda Telegram’ın Rusyalı kurucusu hakkında Fransa’nın söz konusu uygulama ile ilgili bir soruşturma açmayı düşündüğünü duyurdu. Hükümet, olaya karışanlar için daha katı cezalar getirme sözü verdi ve başkan genç erkeklerin daha iyi eğitim alması çağrısında bulundu.
Telegram, BBC’ye yaptığı açıklamada, “Yasadışı pornografi de dahil olmak üzere platformundaki zararlı içeriklerle aktif olarak mücadele ediyoruz” dedi.
Açıklamada, “Telegram’ın moderatörleri, uygulamanın herkese açık bölümlerini proaktif bir şekilde izliyor, yapay zeka araçlarını kullanıyor ve kullanıcı raporlarını kabul ederek her gün Telegram’ın hizmet şartlarını ihlal eden milyonlarca içeriği kaldırıyor” ifadelerine yer verildi.
‘Sistematik ve organize bir süreç’
BBC bu sohbet odalarının birçoğunun açıklamalarını inceledi. Bunlardan biri, üyelerin birinin adını, yaşını ve yaşadığı bölgeyi de içeren dörtten fazla fotoğrafını yayınlamasını istiyor.
Ko, “Sürecin ne kadar sistematik ve organize olduğuna şaşırdım,” dedi. “Keşfettiğim en korkunç şey, bir okulda 2.000’den fazla üyesi olan reşit olmayan öğrenciler için bir grubun olmasıydı’’ diyor.
Ko’nun yazısının yayınlanmasından sonraki günlerde kadın hakları aktivistleri de Telegram’ı araştırmaya ve ipuçlarını takip etmeye başladılar.
O haftanın sonunda, 500’den fazla okul ve üniversite hedef olarak belirlendi. Etkilenen gerçek sayı henüz belirlenmedi, ancak birçoğunun Güney Kore’nin reşit olma yaşı 16’nın altında olduğuna inanılıyor. Şüpheli faillerin büyük bir kısmı ergenlik çağındaki gençler.
Heejin, krizin boyutunu öğrenmenin kaygısını daha da kötüleştirdiğini, artık deepfake’lerini kaç kişinin gördüğünden endişe ettiğini söyledi. Başlangıçta kendini suçladı. “Fotoğraflarımı sosyal medyaya yüklediğim için mi oldu diye düşünmeden edemedim, daha dikkatli mi olmalıydım” diyor.
Ülke genelinde çok sayıda kadın ve genç, bir sonraki saldırının kendilerinden kaynaklanabileceği korkusuyla fotoğraflarını sosyal medyadan kaldırdı veya hesaplarını tamamen kapattı.
Akranları hedef alınan üniversite öğrencilerinden Ah-eun, “Hiçbir yanlışımız olmadığı halde davranışlarımızı ve sosyal medya kullanımımızı sansürlemek zorunda kalmaktan dolayı hayal kırıklığına uğramış ve öfkeliyiz” diyor.
Ah-eun, üniversitesindeki bir mağdurun, faili yakalamanın çok zor olacağı için davayı takip etmemesi gerektiğinin polis tarafından söylendiğini ve “fotoğrafların sahte olması” nedeniyle bunun “aslında bir suç” olmadığını söyledi.
Bu skandalın merkezinde mesajlaşma uygulaması Telegram var. Yetkililerin kolayca erişebildiği ve ardından görsellerin kaldırılmasını talep edebildiği kamuya açık web sitelerinin aksine Telegram, özel ve şifreli bir mesajlaşma uygulamasıdır.
Kullanıcılar genellikle anonimdir, odalar “gizli” moda ayarlanabilir ve içerikleri iz bırakmadan hızla silinebilir. Bu, onu suç davranışının gelişmesi için birincil alan haline getirmiştir.
Geçtiğimiz hafta siyasetçiler ve polis, bu suçları araştırıp failleri adalete teslim etme sözü vererek güçlü bir şekilde karşılık verdi.
Seul Ulusal Polis Teşkilatı Pazartesi günü, Telegram’ın çocuklara ait sahte pornografik görüntülerin dağıtılmasına olanak sağlamasındaki rolü nedeniyle soruşturma başlatacağını duyurdu.
Uygulamanın kurucusu Pavel Durov, geçen hafta Fransa’da , çocuk pornosunun paylaşılmasına olanak sağlamak da dahil olmak üzere bir dizi suça ortak olmakla suçlandı.
Ancak kadın hakları aktivistleri, Güney Kore’deki yetkilileri Telegram’da cinsel tacizin uzun süre kontrolsüzce devam etmesine izin vermekle suçluyor. Çünkü Kore daha önce de bu krizle karşı karşıya kalmıştı. 2019’da bir seks çetesinin Telegram’ı kullanarak kadınları ve çocukları kendilerinin cinsel içerikli resimlerini oluşturmaya ve paylaşmaya zorladığı ortaya çıktı.
Polis o sırada Telegram’dan soruşturmaları için yardım istedi ancak uygulama yedi talebinin hepsini görmezden geldi. Bu olayın elebaşı sonunda 40 yıldan fazla hapis cezasına çarptırılsa da sansürle ilgili korkular nedeniyle platforma karşı hiçbir işlem yapılmadı.
Gazeteci Ko, “Baş aktörleri cezalandırdılar ancak durumu başka türlü ihmal ettiler ve bunun durumu daha da kötüleştirdiğini düşünüyorum” dedi.
2019’da genç bir öğrenci gazeteci olarak oda seks çetesini ortaya çıkaran Park Jihyun, o zamandan beri dijital seks suçlarının mağdurları için siyasi bir savunucu oldu. Deepfake skandalı patlak verdiğinden beri öğrencilerin ve velilerin kendisini günde birkaç kez ağlayarak aradığını söyledi.
“Okullarının sosyal medyada paylaşılan listede yer aldığını gördüler ve dehşete düşüyorlar” diyor.
Park, hükümetin Güney Kore’de uygulamayı düzenlemesi veya hatta yasaklaması yönündeki çağrılara öncülük ediyor. “Bu teknoloji şirketleri kolluk kuvvetleriyle iş birliği yapmazsa, o zaman devlet vatandaşlarını korumak için onları düzenlemelidir,” diye ekliyor.
Bu son kriz patlamadan önce, Güney Kore Çevrimiçi Cinsel Taciz Mağdurları Savunma Merkezi (ACOSAV), deepfake pornografi mağduru reşit olmayanların sayısında keskin bir artış olduğunu fark etmişti.
2023’te 86 genç mağdura danışmanlık yaptılar. Bu sayı, bu yılın sadece ilk sekiz ayında 238’e yükseldi. Sadece geçen hafta, 64 genç mağdur daha ortaya çıktı.
Merkezin liderlerinden biri olan Park Seonghye, geçen hafta personelinin çağrılarla boğulduğunu ve gece gündüz çalıştığını söyledi. “Bizim için tam ölçekli bir acil durumdu, savaş zamanı durumu gibi,” dedi.
Seonghye , ‘’en son deepfake teknolojisiyle artık eskiden olduğundan çok daha fazla görüntü var ve bunun daha da artacağından endişeleniyoruz” diyor
Merkez, mağdurlara danışmanlık hizmeti vermenin yanı sıra zararlı içerikleri takip ediyor ve bunların kaldırılması için çevrimiçi platformlarla birlikte çalışıyor. Park, Telegram’ın kendi istekleri üzerine içerikleri kaldırdığı bazı durumlar olduğunu söyledi. “Bu yüzden imkansız değil,” diye belirtti.
Kadın hakları örgütleri, yeni yapay zeka teknolojisinin Güney Kore’de çevrimiçi ortamda yaşanan kadın düşmanlığının en son örneği olduğunu savunuyorlar.
Önce kadınlar çevrimiçi olarak sözlü taciz dalgalarına maruz kaldı. Sonra casus kamera salgını geldi, burada kamusal tuvaletleri ve soyunma odalarını kullanırken gizlice filme alındılar.
84 kadın örgütünün imzaladığı bildiride, “Bunun kökeninde yapısal cinsiyetçilik, çözümü ise toplumsal cinsiyet eşitliği” ifadeleri yer aldı.
Bunu, yapısal cinsiyetçiliğin varlığını reddeden, mağdur destek gruplarına verilen fonları kesen ve hükümetin cinsiyet eşitliği bakanlığını kaldıran ülkenin Devlet Başkanı Yoon Suk Yeol’a yönelik doğrudan bir eleştiri olarak yönetiyorlar.
Genç cinsel suçluları tedavi eden Lee Myung-hwa, deepfake tacizinin patlak vermesinin ani görünse de, uzun zamandır yüzeyin altında gizlendiğini kabul etti. Aha Seul Gençlik Kültür Merkezi’ni yöneten danışman, “Ergenler için deepfake’ler kültürlerinin bir parçası haline geldi, bir oyun veya şaka olarak görülüyorlar” dedi.
Lee, genç erkekleri eğitmenin çok önemli olduğunu belirterek, suçlulara tam olarak neyi yanlış yaptıklarını söylediğinizde, cinsel taciz olarak neyin sayıldığının daha fazla farkına vardıklarını ve bu sayede tekrar suç işlemelerinin önlendiğini gösteren araştırmalara atıfta bulundu.
Bu arada hükümet, deepfake görüntüleri oluşturan ve paylaşanlara yönelik cezaların artırılacağını ve pornografiyi görüntüleyenlerin de cezalandırılacağını söyledi.
Bunu, yeterli sayıda failin cezalandırılmadığı yönündeki eleştiriler takip ediyor. Sorunlardan biri de suçluların çoğunluğunun, genellikle gençlik mahkemelerinde yargılanan ve daha hafif cezalar alan gençler olmasıdır.
Sohbet odaları ifşa edildiğinden beri birçoğu kapatıldı, ancak yerlerini neredeyse kesinlikle yenileri alacak. Bu haberi ele alan gazetecileri hedef almak için bir aşağılama odası zaten oluşturuldu. Haberi duyuran gazeteci Ko, bunun kendisine uykusuz geceler yaşattığını söyledi. “Fotoğrafımın yüklenip yüklenmediğini görmek için odayı kontrol etmeye devam ediyorum,” dedi.
Bu tür kaygılar Güney Kore’deki hemen hemen her genç kıza ve genç kadına yayılmış durumda. Üniversite öğrencisi Ah-eun, bunun kendisini erkek tanıdıklarına karşı şüpheci yaptığını söyledi.
“Artık insanların benim arkamdan, benim haberim olmadan bu suçları işlemeyeceğinden emin olamıyorum, İnsanlarla olan tüm iletişimimde aşırı dikkatli oldum, bu iyi çok iyi bir şey değil” diyor
//BBC Word/
