BBC Verify’e, konuşan uzmanlar, ABD-İsrail-İran savaşı hakkında yapay zeka tarafından üretilen benzeri görülmemiş bir yanlış bilgi dalgasının yayıldığına dikkat çekiyor. Üretken yapay zeka teknolojisine erişim nedeniyle çevrimiçi içerik üreticileri tarafından yanlış bilginin paraya dönüştürüldüğünü belirtiyor.
Analizimiz, çatışmayla ilgili yanlış ve yanıltıcı iddialarda bulunmak için yapay zeka tarafından üretilen çok sayıda video ve uydurma uydu görüntüsünün kullanıldığını ve bunların internette yüz milyonlarca izlenme sayısına ulaştığını ortaya koymuştur.
Queensland Teknoloji Üniversitesi’nde dijital medya uzmanı olan Timothy Graham, “Durumun boyutu gerçekten endişe verici ve bu savaş artık görmezden gelmeyi imkansız hale getirdi” diyor.
“Eskiden profesyonel video prodüksiyonu gerektiren işler, artık yapay zeka araçlarıyla dakikalar içinde yapılabiliyor. İkna edici sentetik çatışma görüntüleri oluşturmanın önündeki engel esasen ortadan kalktı,” diyor.
ABD ve İsrail, 28 Şubat’ta İran’a yönelik saldırılara başladı. Buna karşılık İran, İsrail’e, Körfez ülkelerine ve bölgedeki ABD askeri varlıklarına insansız hava aracı ve füze saldırıları düzenledi.
Birçok kişi, hızla gelişen çatışmalarla dolu bir haftanın ardından en son bilgilere ulaşmak, bunları paylaşmak ve olayları anlamlandırmak için sosyal medyaya yöneldi.
X platformu bu hafta, silahlı çatışmaları konu alan yapay zeka tarafından üretilmiş videoları etiketlemeden yayınlayan içerik oluşturucuları geçici olarak para kazanma programından uzaklaştıracağını duyurdu.
Bu program, paylaşımları çok sayıda görüntülenme, beğeni, paylaşım ve yorum alan uygun kullanıcılara platform tarafından ödeme yapılarak ödüllendiriyor.
Oxford İnternet Enstitüsü’nde İran konusunda uzmanlaşmış araştırmacı Mahsa Alimardani, “Bunun büyük bir sorun olduğunu fark ettiklerine dair önemli bir işaret” diyor.
TikTok ve Facebook ile Instagram’ın şirketi olan Meta’ya benzer bir adım atmayı planlayıp planlamadıklarını sorduk, ancak yorum taleplerimize yanıt vermediler.
BBC Verify’nin takip ettiği yapay zeka tarafından oluşturulmuş tipik bir video örneğinde, İsrail’in Tel Aviv kentine füzelerin isabet ettiği ve arka planda patlama seslerinin duyulduğu görülüyor.
Bu video 300’den fazla gönderide yer aldı ve bu gönderiler sosyal medya platformlarında on binlerce kez paylaşıldı.
Bazı X kullanıcıları, videonun gerçekliğini doğrulamak için platformun yapay zekâ sohbet robotu Grok’a başvurdu.
Ancak BBC Verify tarafından incelenen birçok durumda, Grok yanlışlıkla yapay zekâ tarafından oluşturulan videonun gerçek olduğunu iddia etti.
On milyonlarca kez izlenen bir başka sahte video ise Dubai’deki Burj Khalifa gökdeleninin alevler içinde olduğunu ve bir grup insanın binaya doğru koştuğunu iddia ediyor.
Yapay zekâ tarafından üretilen bu görüntüler, şehirdeki insansız hava aracı ve füze saldırılarıyla ilgili olarak hem yerel halk hem de turistler arasında büyük endişelerin yaşandığı bir dönemde internette hızla yayıldı.
Alimardani, “Bu tür sahte videolar, insanların çevrimiçi olarak gördükleri doğrulanmış bilgilere olan güvenini olumsuz etkiliyor ve gerçek kanıtların belgelenmesini çok daha zorlaştırıyor” diyor.
BBC Verify tarafından analiz edilen bu çatışmanın yeni bir özelliği, yapay zeka tarafından üretilen uydu görüntülerinin ortaya çıkmasıdır.
Çatışmanın ilk gününde İran’ın Bahreyn’deki ABD Donanması Beşinci Filosu karargahına düzenlediği insansız hava aracı ve füze saldırılarını gösteren çok sayıda gerçek videoyu doğruladık.
Devlet bağlantılı gazete Tehran Times tarafından X platformunda paylaşılan uydurma bir fotoğraf, ertesi gün yayılmaya başladı ve üssün büyük hasar gördüğünü iddia etti.
Sahte fotoğraf, Şubat 2025’te çekilmiş ve internette herkese açık olarak bulunan Bahreyn’deki bir ABD deniz üssünün gerçek uydu görüntülerine dayanıyor gibi görünüyor.
Google’ın SynthID filigran tespit aracına göre, sahte görüntü Google’ın yapay zeka aracıyla oluşturulmuş veya düzenlenmiştir.
Dışarıda park etmiş üç araç, hem gerçek uydu görüntülerinde hem de yapay zeka tarafından oluşturulan resimde tam olarak aynı noktada bulunuyor; oysa fotoğraflar arasında bir yıl fark olduğu iddia ediliyor.
Google’ın video oluşturucu Veo da dahil olmak üzere yapay zeka araçları, OpenAI’nin Sora modeli, Çinli yapay zeka uygulaması Seedance ve X’e entegre edilmiş Grok gibi giderek popülerleşen yapay zeka platformları listesinde yer alıyor.
Üretken yapay zeka uzmanı Henry Ajder, “Son derece gerçekçi yapay zeka manipülasyonları oluşturmak için şu anda mevcut olan farklı araçların sayısı eşi benzeri görülmemiş düzeyde” diyor.
“Bu araçların bu kadar kolay, erişilebilir ve ucuz olduğunu daha önce hiç görmemiştik,” diyor.
Teknoloji politikaları alanında faaliyet gösteren kar amacı gütmeyen kuruluş What To Fix’in genel müdürü Victoire Rio, “Bu durum, yapay zeka tarafından üretilen çevrimiçi içerikte bir artışa yol açtı çünkü sosyal medyaya aktarım süreci artık neredeyse tamamen otomatikleştirilebiliyor” diyor.
Irak’taki bir ABD üssünde meydana gelen büyük bir patlamayı gösteren bu sahte görüntü, gerçekte çok daha küçük bir duman bulutunu gösteren bir fotoğraf üzerinden yapay zeka kullanılarak oluşturulmuştur.
X’in ürün müdürü Salı günü yaptığı açıklamada, bu tür yapay zeka tarafından oluşturulan videoları yayan hesapların “yüzde 99’unun”, uygulamanın İçerik Oluşturucu Gelir Paylaşımı programı aracılığıyla ödeme karşılığında yüksek etkileşim yaratacak içerik yayınlayarak “para kazanma mantığını” kullanmaya çalıştığını söyledi.
Platform, programa kaç hesabın dahil olduğunu veya ne kadar para kazanabileceklerini yayınlamıyor.
Ancak Graham, X’in “doğrulanmış kullanıcı gösterimi başına milyon başına yaklaşık sekiz ila 12 dolar” ödeyebileceğini tahmin ediyor.
“Katılımcıların üç ay içinde beş milyon organik gösterime ulaşmaları ve ayrıca X premium aboneliğine sahip olmaları gerekiyor,” diye ekliyor:
“Bir kere içeri girdikten sonra, yapay zeka tarafından üretilen viral içerik temelde bir para basma makinesi haline geliyor. En büyük yanlış bilgilendirme işletmesini kurdular.”
X, içerik oluşturucu gelir paylaşımı programıyla ilgili yorum talebimize veya sorularımıza yanıt vermedi.
Uzmanlar BBC Verify’e, birçok sosyal medya şirketinin yapay zeka tarafından üretilen içeriğin yayılma ölçeği ve hızıyla başa çıkmak için denetleme ve tespit sistemlerini değiştirmeye çalıştığını söylese de, soruna basit bir çözümün olmadığını belirtti.
Graham, “Asıl sorun, etkileşim odaklı gelir elde etme ile doğru bilginin temelde bir gerilim içinde olması ve hiçbir platformun bu gerilimi tam olarak çözememiş olması, belki de asla çözemeyecektir” diyor.
