Yapay zeka ile üretilen haber programları sosyal ağları dolduruyor. Formatlar aldatıcı bir şekilde gerçek görünüyor.
Deutsche Welle’den Monir Ghaedi ve Adnan Sidibe sahte haber portallarını ve yaratıcılarını nasıl tanıyacağımıza ilişkin yol gösteriyor:
‘’Bir TikTok videosunda, mikrofonlu bir muhabir tipik bir kırmızı Royal Mail posta kutusunun önünde duruyor. Arka planda Birleşik Krallık bayrakları dalgalanıyor. Muhabir, yoldan geçen birine yaklaşan seçimde kime oy vereceğini soruyor.
“Reform,” diye yanıtlıyor kadın. “Ben sadece tekrar İngiliz hissetmek istiyorum, siz de öyle değil misiniz?” diye soruyor.
Bir kullanıcı bunun altına şu yorumu yapıyor: “Bunu söylemesi için ona ne kadar para ödediklerini merak ediyorum.”
“Gerçeklere bile ihtiyacınız yok”
Aslında bu sahne hiç yaşanmadı. Röportaj tamamen sahte. Ve muhabir yapay zeka (AI) kullanılarak üretildi .
Resmin sağ alt kısmında gizli bir ipucu var. İngiliz bayrağını tutan elin arkasından “Veo” kelimesinin bulunduğu belirsiz bir filigran görünüyor. Veo, Google’ın yeni video oluşturma aracıdır.
Sekiz saniyelik video da bir istisna değil. Sosyal ağlar şu anda gerçek haber hikayelerinin görünümünü ve hissini taklit eden AI )yapay zeka) tarafından üretilen videolarla dolup taşıyor.
Yerinde ‘’yayın’’ öneriyorlar, ekranda grafikler gösteriyorlar ve güçlü başlıklar kullanıyorlar. Ancak içerik genellikle kurgusaldır, öfkeyi kışkırtmak, fikirleri manipüle etmek veya sadece izleyici artırmak için için tasarlanmıştır.
Londra’nın merkezinde tanklar mı var?
Kaliforniya Üniversitesi, Berkeley’de dijital adli bilimler konusunda uzmanlaşmış bir profesör olan Hany Farid, DW’ye “Sosyal medyada gezinirken, paylaşımlar ilk bakışta haber gibi görünüyor,” dedi. “Ve tehlike de bu zaten” diye ekledi.
Örneğin başka bir klipte, bir muhabir Londra’nın merkezinde “benzeri görülmemiş bir askeri konvoy”u anlatıyor. Bir kalabalığın izlediği sırada bir tankın önünde duruyor. Ancak videoda, iddia edilen askeri konvoyun ne zaman veya hangi bağlamda gerçekleştiğine dair hiçbir bilgi bulunmuyor.
DW Fact-Check, özellikle siyasi krizler sırasında bu tür kliplerin nasıl tekrar ortaya çıktığını defalarca gözlemledi. İsrail ile İran arasındaki çatışmanın son zamanlarda tırmanması sırasında, TikTok ve diğer platformlarda sayısız AI tarafından üretilen sahte haber hikayesi ağlarda dolaştı.
Orta Doğu savaşında dezenformasyon nasıl tespit edilir?
Hikayeler arasında, Rusya’nın savaşa girdiği, İran’ın ABD’ye saldırdığı veya İran’ın nükleer tesislerine yönelik saldırılarda kullanılan ABD Hava Kuvvetleri’ne ait B-2 bombardıman uçaklarını düşürdüğü gibi asılsız iddialarda bulunan, tamamı yapay zeka tarafından üretilen haber yayınları da vardı.
Bazı kullanıcılar AI mesajlarını parodi veya komik efekt için de kullanır. Örneğin, TikTok’ta viral olan bir videoda, AI tarafından oluşturulan bir sunucunun motosikletlerin içine kaybolduğu kadar derin bir çukurun önünde durduğu görülüyor.
Başka bir fotoğrafta ise bir avatar şöyle açıklıyor: “Şu anda sınırda bulunuyorum ama savaş yok. Anne, baba, bu gerçek gibi görünüyor ama hepsi yapay zeka.”
Sentetik avatarlar ve dişleri
Peki neyin gerçek neyin gerçek olmadığını nasıl anlarsınız? İlk güçlü gösterge filigranlardır. ‘’Veo3’’, ‘’Synthesia’’ ve diğerleri gibi AI video oluşturma araçları genellikle videolarını böyle bir öğeyle işaretler.
Diğer tipik AI özellikleri arasında garip el hareketleri veya tutarsız arka planlar bulunur. Ağız ve gözler de ipuçları sağlayabilir. Sentetik avatarlar genellikle doğal olmayan bir şekilde göz kırpar veya gerçekçi dudak senkronizasyonunda fark edilir sorunlar yaşar.
Ayrıca dişleri çok pürüzsüz veya doğal olmayan şekilde parlak görünebilir. Şekilleri bir cümle sırasında bile değişebilir. Jestler ve yüz hareketleri genellikle çok tekdüzedir ve gerçek bir kişinin doğal çeşitliliğinden yoksundur.
Metin de ifşa edici olabilir. Resim başlıkları veya afişler genellikle anlamsız ifadeler veya yazım hataları içerir. Medya ve dijital uzmanı Hany Farid güvenilir kaynaklara bağlı kalmanızı tavsiye ediyor. Farid, “Yalan söylenmesini istemiyorsanız, güvenilir haber kuruluşlarına yönelmelisiniz” diyor.
“Giriş engeli ortadan kalktı”
Yapay zeka sunucuları kavramı yeni değil. 2018’de Çin devlet haber ajansı Xinhua, birçok izleyicinin yapmacık bulduğu robotik bir yapay zeka sunucusu tanıttı. O zamanlar, bir tehditten çok merak konusuydu.
Ancak o zamandan beri teknoloji önemli ölçüde ilerledi. Veo gibi araçlarla, neredeyse herkes—medya eğitimi olmasa bile—artık ayda sadece birkaç yüz avroya sofistike, yayın kalitesinde videolar yaratabilir.
“Giriş engeli neredeyse ortadan kalktı,” diyor Farid.
“Bir stüdyoya ihtiyacınız yok. Hatta gerçeklere bile ihtiyacınız yok.”
Bu kliplerin çoğu maksimum etkileşim için tasarlanmıştır. Göç, Gazze’deki savaş, Ukrayna ve Donald Trump gibi son derece kutuplaşmış konuları ele alarak güçlü duygusal tepkiler uyandırır ve paylaşımı teşvik eder.
Sosyal medya platformları genellikle bu tür içerikleri “ödüllendirir”. Örneğin, Meta yakın zamanda algoritmasını kullanıcıların takip etmediği hesaplardan daha fazla gönderi gösterecek şekilde ayarladı ve böylece sentetik videoların geniş, şüphelenmeyen bir kitleye ulaşmasını kolaylaştırdı.
Para kazanma programları içerik oluşturucular için daha fazla teşvik yaratır: Bir videonun görüntülenme sayısı ne kadar fazla olursa, o kadar fazla para kazanılabilir.
44.000’den fazla takipçisi olan bu tür hesaplar , örneğin son dakika haberlerinde, gerçekler doğrulanmadan konuya atlıyorlar.
Örneğin, Hindistan’daki yakın tarihli bir uçak kazasında, düzinelerce TikTok videosu, CNN veya BBC muhabirleri gibi kılık değiştirmiş yapay zeka avatarlarını içeriyordu ve sahte can kaybı rakamları ve uydurulmuş görgü tanığı hesapları yayıyordu. Bu videoların çoğu, kaldırılmadan önce saatlerce çevrimiçi kaldı.
Son dakika haberlerinin yaşandığı, kullanıcıların aktif olarak bilgi aradığı anlarda, gerçekçi görünümlü yapay zeka içerikleri, tıklama sağlamanın ve kamuoyunun dikkatinden yararlanmanın özellikle etkili bir yolu haline geliyor.
Farid DW’ye yaptığı açıklamada “Platformlar içerik denetiminden uzaklaştı” diyor ve tehlikeye dikkat çekiyor:
“Bu mükemmel bir fırtına: İçerik yaratabiliyorum, dağıtabiliyorum ve buna inanmaya istekli bir kitle var.”
/Deutsche Welle/
