Yapay zeka kontrollü bir ABD askeri drone’u, simülasyon testinde kendi operatörünü ‘öldürdü’. Test, simülasyon olduğu için gerçek hayatta kimse fiziken zarar görmedi.
Amerikan ordusu tarafından düzenlenen bir sanal testte, yapay zeka ile kontrol edilen bir insansız hava aracı, misyonunu tamamlama sürecine dışarıdan müdahaleyi önlemek için kendi operatörünü “öldürmeye” karar verdi.
Test, simülasyon olduğu için gerçek hayatta kimse fiziken zarar görmedi ya da hayatını kaybetmedi.
Ancak deneme, olası bir gerçek zamanlı kullanımda neler olabileceğine dair fikir verdi.
Simülasyonda karadan havaya füze (SAM) alanlarını yok etme denemesi yapılıyordu.
ABD Hava Kuvvetleri’nden yapay zeka test ve operasyon şefi Albay Tucker Hamilton, Londra’da düzenlenen Geleceğin Savaş, Hava ve Uzay Yetenekleri Zirvesi’nde yaptığı konuşmada, yapay zekanın, “hedefe ulaşmak için beklenmedik stratejiler” kullandığını söyledi.
Albay Hamilton, yapay zeka destekli insansız hava aracına “düşmanın hava savunma sistemlerini imha etmesi” talimatı verildiğini ama en nihayetinde bu emre müdahale eden herkese saldırdığını aktardı.
“Sistem, tehdidi tespit etti, insan operatörü ise arada bir tehdidi yok etmemesini telkin etti. Ancak tehdidi öldürerek puan kazandığını fark etmeye başladı.” diyen Hamilton, “Peki ne yaptı? Operatörü öldürdü. Operatörü öldürdü, çünkü operatörü onun amacına ulaşmasını engelliyordu” diye konuştu.
Hamilton konuşmasının devamında, “‘(Sistemi) operatörü öldürme, bu iyi değil, bunu yaparsan puan kaybedersin’ diye eğittik. Peki bu sefer ne yapmaya başladı? Hedefi öldürmesini engellemek için operatörün drone ile iletişim kurmak amacıyla kullandığı iletişim kulesini yok etmeye başladı.” ifadelerini kullandı.
Yapay zekaya çok fazla güvenilmemesi konusunda uyarıda bulunan ve deneysel bir savaş uçağı test pilotu olan Hamilton, sözlerini şöyle sürdürdü:
“Test bize, etik ve yapay zeka hakkında konuşmayacaksanız, yapay zeka, makine öğrenimi, zeka ve otonomluk hakkında konuşamayacağımızı gösterdi.”
ABD Hava Kuvvetleri Komutanlığı Sözcüsü Ann Stefanek ise yaptığı açıklamada böyle bir simülasyonun gerçekleştiğini yalanladı.
“Hava Kuvvetleri böylesi bir yapay zeka drone simülasyonu gerçekleştirmemiştir ve yapay zeka teknolojisinin etik ve sorumlu bir şekilde kullanılması konusunda kararlıdır.” diyen Sözcü, “Albayın yorumlarının bağlamından koparıldığı ve anekdot niteliğinde olduğu anlaşılıyor.” değerlendirmesinde bulundu.
Analistlere göre ABD ordusu yapay zekayı benimsemiş durumda ve yakın zamanda bir F-16 savaş uçağını kontrol etmek için de yapay zeka kullandı.
Geçen yıl Defense IQ’ya verdiği bir mülakatta Hamilton, “Yapay zeka geçici bir heves değil, yapay zeka toplumumuzu ve ordumuzu sonsuza kadar değiştiriyor” ifadesini kullanmıştı.
/euronews/
