🔴 Yapay zekanın biyolojik ve kimyasal silah üretiminde kullanılmasından duyulan endişeler yayılıyor.
ABD Başkanı Joe Biden, 30 Ekim 2023 tarihinde ABD’nin yapay zekânın (YZ/AI) güvenli ve sorumlu bir şekilde geliştirilmesi ve kullanılmasında öncü olmasını sağlamak ve aynı zamanda riskleri yönetmeyi ve YZ’nin sunduğu faydalardan yararlanmayı amaçlayan kapsamlı bir yönetim çerçevesi oluşturmak için ‘Yapay Zekânın Güvenli ve Güvenilir Bir Şekilde Geliştirilmesi ve Kullanılması’ başlıklı 14110 sayılı başkanlık emrini imzaladı.
ABD İç Güvenlik Bakanlığı, bu emrin uygulanmasında önemli bir rol üstlendi. Başta biyolojik silahlar olmak üzere kimyasal, biyolojik, radyolojik ve nükleer tehditleri geliştirmek ya da kullanmak için YZ’nin kullanılması riskini daha iyi anlama ve azaltma ihtiyacı başkanlık emrinin önemini ortaya koyan kilit noktalardan biriydi. Bu yüzden ABD Federal Soruşturma Bürosu (FBI) Kitle İmha Silahları Müdürlüğü’nün, ABD’nin bu tehditlerden korunmasını sağlamak için yerel ve uluslararası ortaklarla çalışmaları koordine etme çabalarına öncülük ediyor.
Şarku’l Avsat’ın Al Majalla’dan aktardığı habere göre İç Güvenlik Bakanlığı, kimyasal, biyolojik, radyolojik ve nükleer tehditlerin (KBRN) geliştirilmesinde YZ’den ne ölçüde yararlanılabileceğini değerlendirmek ve bu tehditlerle mücadelede sağlayabileceği faydaları göz önünde bulundurmak üzere kapsamlı bir rapor hazırladı.
Devlet kurumları, akademiler ve endüstriler, YZ’nin kitle imha silahlarının geliştirilmesinde oynayabileceği şok edici ve korkutucu sonuçları ortaya koyan raporun hazırlanmasına katkıda bulundu.
Rapor, kimyasal ve biyolojik araştırmaların işaret ettiği YZ teknolojilerindeki hızlı gelişmenin, ABD hükümetinin önceliklerinden biri olarak bu teknolojilerin kullanımıyla ilişkili potansiyel riskler konusunda ulusal güvenlik ve halk sağlığı kurumları arasında fikir birliği oluşturmak olması gerektiğini gösteriyor.
Çoğu YZ modelinin ve ilgili veri setlerinin özel veya akademik kuruluşların elinde olduğu ve kötü niyetli kullanıcılar için bile kolayca erişilebilir hale geldiği göz önüne alındığında, bu oldukça büyük bir önem taşıyor. YZ teknolojileri ilerledikçe, kötü niyetli tarafların kimyasal, biyolojik, radyolojik ya da nükleer saldırılar planlamasını ve gerçekleştirmesini sağlayarak ulusal güvenliğe yönelik yeni tehditler oluşturabilecekleri için bu riskler daha da artıyor.
Her ne kadar mevcut YZ modellerinin geliştiricileri risk değerlendirme sistemlerini kendi bünyelerinde uygulamış olsalar da yaklaşımların çeşitliliği ve temel bilimin kullanımındaki tekrarlanma, devlet kurumları, endüstriler ve akademiler arasında sürekli iş birliğinin güçlendirilmesini gerektiriyor. Bu iş birliği, ABD’deki biyolojik ve kimyasal güvenlikle ilgili mevcut düzenlemelerin yetersizlikleri çerçevesinde daha da önemli hale geliyor ve YZ araçlarının artan kullanımıyla halk sağlığını ve ulusal güvenliği tehdit eden ciddi istenmeyen sonuçların ortaya çıkma potansiyelini artırıyor.
Öte yandan hükümetler ve sivil toplum kuruluşları da dahil olmak üzere uluslararası taraflarla iş birliği yapılması, YZ’nin risklerini yönetmek ve potansiyelini iyi yönde kullanmak için ortak çerçevelerin geliştirilmesini gerektiriyor. YZ’nin KİS tehdidini önleme, tespit etme ve müdahale yeteneklerine entegre edilmesi önemli faydalar sağlayabilir. Ayrıca, ulusal bir biyolojik savunma stratejisindeki tüm çabaları güçlendirmek için fırsatlar sunuyor.
YZ’nin silahlar için kullanımı
YZ, biyolojik ve kimyasal silah araştırma ve geliştirme çalışmalarını daha önce hayal bile edilemeyecek bir şekilde hızlandırma potansiyeline sahip. Gelişmiş YZ modelleri, büyük miktarda genetik ve biyolojik veriyi analiz edebilir. Yeni ve daha etkili moleküllerin tasarlanmasına yardımcı olabilir ve hatta kimyasal ve biyolojik ajanları hedeflere ulaştırma yöntemlerini geliştirebilir. Bu potansiyel, hastalıklar için yeni tedaviler geliştirmede faydalı olabilir, ancak insan popülasyonları üzerinde benzeri görülmemiş bir tahribata yol açabilecek silahlar yaratmak için kullanıldığında felakete dönüşür.
YZ tabanlı araçlar, özellikle ilaç keşfi ve kimyasal sentez için kullanılanlar, zararlı biyolojik veya kimyasal ajanlar tasarlamak için yeniden ve kötüye kullanılabilir. Örneğin, moleküler özellikleri ve davranışları tahmin eden makine öğrenimi algoritmaları, daha etkili ve tespit edilmesi daha zor olan yeni toksinler, virüsler ya da diğer yeni biyolojik ajanlar oluşturulabilir.
YZ aynı zamanda, kimyasal, biyolojik, nükleer ve radyolojik ajanlara yönelik dağıtım sistemlerinin etkinliğini biyolojik veya kimyasal bir saldırının etkisini en üst düzeye çıkarmak için insansız hava araçlarını (İHA), füzeleri ve diğer dağıtım yöntemlerin optimizasyonunu içerecek şekilde artırmak için de kullanılabilir. YZ algoritmaları, ajanların hedeflerine daha doğru ve verimli bir şekilde ulaşmasını sağlamak için bu sistemlere ince ayar yapılmasına yardımcı olabilir.
YZ destekli laboratuvar otomasyonundan, tehlikeli maddelerin üretimini artırmak için de yararlanılabilir. YZ tarafından kontrol edilen robotik sistemler, tehlikeli maddelerin sentezini ve işlenmesini basitleştirerek, bu maddelerin kapsamlı insan müdahalesi olmadan seri olarak üretilmesini kolaylaştırabilir.
Diğer taraftan Suçlular, yetkililerin tespit ve gözetim çabalarından kaçmak için YZ araçlarını kullanabilir. Örneğin, YZ destekli siber güvenlik sistemleri, laboratuvarlardaki yetkisiz faaliyetleri gizlemek için manipüle edilebilir ve YZ yanıltıcı veriler üretmek için kullanılabilir. Bu durum yetkililerin, kimyasal, biyolojik, radyolojik ve nükleer tehditleri izlemesini ve önlemesini zorlaştırır.
CRISPR gibi gen düzenleme tekniklerinde, YZ’nin biyomühendislik alanındaki rolü, bulaşıcılığı artırılmış, mevcut tedavilere dirençli yahut belirli toplulukları hedef alma yeteneğine sahip patojenler tasarlamak amacıyla kötüye kullanılabilir. YZ, bu tür patojenlerin tasarımını ve test edilmesini hızlandırarak gelişmiş ve karmaşık biyolojik silahların geliştirilmesini kolaylaştırabilir.
Çift kullanımlı YZ modelleri
Bazı YZ modellerinin çift kullanımlı olması, tıbbi araştırma ya da çevrenin izlenmesi gibi faydalı amaçlar için tasarlanmış araçların zararlı kullanımlar için yeniden tasarlanabileceği anlamına geliyor. Bu çift kullanımlılık paradoksu, özellikle YZ’nin silah haline getirilebilecek organizmaların tasarlanmasına yardımcı olabileceği sentetik biyoloji gibi alanlarda endişeleri artırıyor.
YZ, fizik ve yaşam bilimlerindeki araştırmalar üzerinde önemli bir etkiye sahip ve bunu hem beklenen hem de beklenmeyen şekillerde yapmaya devam edeceğine şüphe yok. YZ’nin neden olduğu bu etkiler, yararlanıcıların niyetine ve kullanılan verilerin kalitesine bağlı olarak kullanılabilecek iki ucu keskin bir kılıç.
YZ, tüm alanlarda araştırma yapmanın hızını ve kolaylığını artırırken maliyetini büyük ölçüde düşürdü. ABD İç Güvenlik Bakanlığı Kitle İmha Silahlarıyla Mücadele Ofisi (CWMD) Sekreter Yardımcısı Mary Ellen Callahan, sohbet robotu ChatGPT kullanmayı, hızlı ve doğru bir şekilde elde edilebilecek bilgiler ve veriler içerdiği için fen bilimlerinde lisans derecesi almaya benzetti.
YZ’nin biyolojik ve kimyasal araştırmaları desteklemedeki muazzam potansiyeli nedeniyle, bu alanlarda uzmanlaşmış büyük ölçekli dil modellerinin geliştirilmesine de acil ihtiyaç duyuluyor. Örneğin, bilim insanları geçtiğimiz şubat ayında, biyoloji alanındaki ilk kapsamlı ve uzmanlaşmış YZ çekirdek modelini oluşturmak için bir proje başlattı. Projenin amacı, biyomedikal ve çevre bilimlerindeki araştırmaları hızlandırmak için üretken yapay zekayı moleküllerden tüm organizmalara kadar farklı biyoloji seviyelerine bağlamak olarak belirlendi.
Bu, bilimi seven ve bilimle uğraşan herkes için çok iyi bir haber olsa da aynı zamanda korkutucu. Çünkü bu veriler ve araştırmalar çevrimiçi olarak ulaşılabilir. Bu da onları kötü amaçlar için kullanmak isteyen insanların eline geçmesini mümkün kılıyor.
Son yıllarda YZ, kimya ve biyolojinin kesiştiği noktada araştırmalar hız kazanırken bazen yeni teknolojilere ilişkin mevzuatlar ve düzenlemeler göz ardı edildi. YZ modelleri ve bilimsel uygulamalar için mevcut veriler giderek daha etkili hale geldikçe, bilimi ve teknolojiyi kötü amaçlar için kullanmak isteyen insanlar için de bir araç haline gelebilir. YZ teknolojilerinin insan gözetimi, özellikle fiziksel ve yaşam bilimleriyle kesiştiklerinde, savunmasızlığı ele almak, bilginin kullanımını uygun şekilde yönlendirmek ve risk değerlendirmesine dayalı bağlamı korumak için gerekiyor.
Bulut laboratuvarları
YZ’nin bu alandaki kullanımları sadece bilimsel araştırmaların hızını arttırmak ve kimyasal ya da biyolojik silah üretiminde kullanılma olasılığı ile sınırlı değil. Bu teknoloji aynı zamanda yüksek maliyetli geleneksel laboratuvarlara ihtiyaç duymadan kimyasal deneyler yapmak için de kullanılabilir.
Sayıları giderek artan teknoloji şirketleri, artık bulut laboratuvarları olarak bilinen uzaktan hizmetler sunuyor. Bu laboratuvarlar sanal bir çalışma ortamı yaratarak deneylerin geleneksel laboratuvarlardaki malzeme ve ekipmanlar yerine sanal olarak yapılmasına ve neredeyse aynı sonuçların elde edilmesine olanak sağlıyor.
Bu laboratuvarlar aracılığıyla deneylerin uzaktan simüle edilmesi, kimyasal ve biyolojik deneyler için gerekli ekipmana sahip laboratuvarlar kurmak için gereken büyük finansman engelinin üstesinden gelirken bu laboratuvarlara her yerden erişme imkanı veriyor.
Teknolojinin ilerlemesi sadece zaman alıcı ve yoğun emek gerektiren bilimsel araştırmalar için tehlike oluşturmuyor, aynı zamanda sonuçların uzaktan ve sorunsuz bir şekilde elde edilmesini de sağlıyor. Çeşitli nedenlerle biyolojik silahlar da dahil olmak üzere silah üretiminde teknolojinin kullanımına ilişkin endişeler giderek artıyor. Öncelikle dark web aracılığıyla anonim kalmak mümkün olabilirken bu da bazı kişilerin ya da tarafların bu teknolojileri kötü niyetli amaçlar için kullanmasına izin veriyor. Ayrıca, bu bilgilerin sıradan insanlar tarafından kolayca erişilebilir olması, kullanımına ilişkin endişeleri körüklüyor.
Şirketler bulut laboratuvarlarını en son teknolojiyle güvence altına almaya çalışsalar bile, özellikle devletler tarafından desteklenen terörist gruplar tarafından bu bilgileri elde etmeyi amaçlayan siber saldırılara karşı savunmasızlar.
Ülkeler, bağlayıcı olan ve olmayan mevzuatlar çıkararak teknolojinin hızlı ilerleyişine ayak uydurmaya çalışıyor. Fakat bu alanda, bu bilgilere yetkisiz erişimi engelleyecek yeterli ve etkili bir mevzuat bulunmuyor. Bu durum, YZ’nin kötü niyetli kullanım olasılığını tüm olasılıklara açık bırakıyor.
Teknolojiyi korumak yerine ileriye taşımak
YZ geliştiricisi şirketlerin çoğu, YZ’nin kötü amaçlarla kullanılmasını nasıl engelleyebilecekleri konusunda araştırmalara yatırım yaptıklarını iddia ederek güvenlik konusunda bilinçli bir imaj çizmeye çalışıyor. Ayrıca, YZ uygulamalarını hızla paraya dönüştürmek amacıyla büyük dil araçlarının geliştirilmesini hızlandırmak için araştırmalara yatırım yapıyorlar. Ancak bu iki hedef arasında büyük çelişkiler söz konusu.
YZ güvenliğinin sağlanması demek üretimin ve inovasyonun yavaşlatılması demek değilse de YZ tabanlı ürünlerin ve uygulamaların güvence altına alınmasının ciddiyeti bu şirketlerin yönetim kurullarına bağlı.
Şirketlerin uygulamalarını kötü amaçlı kullanıma ya da siber saldırılara karşı güvenliğini sağlama konusunda ne kadar ciddi olduklarını ortaya koyan birçok husus var. Bunlardan en önemlisi şeffaflık. YZ tabanlı uygulama üretmek için veri kullanma ve büyük dil modelleri besleme süreci, bir şirketin ciddi olup olmadığını ve YZ’nin güvenli bir şekilde kullanımına yatırım yapıp yapmadığını ya da yalnızca finansal kazançlarla ilgilenip ilgilenmediğini analiz etmede büyük bir önem taşıyor.
Yukarıda bahsi geçen raporun yayınlandığı ay, OpenAI şirketinde şu an ve eskiden çalışan bazı isimler, şeffaflığa ilişkin tedbirlerin ortaya koyulamaması, hükümetlerin güçlü yasalarla bu çalışmaları takip etmemesi ve YZ tabanlı uygulamaların kötü niyetli ve zararlı kullanımlarını önlemek için gerekli önlemlerin alınmaması tehlikesine karşı uyaran bir mektup yayınlandılar.
Mektupta, teknoloji camiasında YZ baş döndürücü hızıyla ilgili endişeler dile getirildi. Sektördeki çoğu şirket, YZ’yi besleyen verilerin ve bilgilerin nasıl kullanıldığı ve daha da önemlisi bu bilgilere kimin erişme hakkına sahip olduğu konusunda kamuoyunun bilmediği pek çok iç politikaya sahip.
Mektubu imzalayanlar, şeffaflığın olmayışını ve çalışanların yanlış uygulamalardan şikayet edebilecekleri adil bir sistemin bulunmadığının altını çizerken YZ’nin yol açtığı ve açabileceği zararı en aza indirmek için çeşitli önerilerde bulundular.
Mektup, bu hayati alanda faaliyet gösteren tüm şirketlere yapıcı eleştiri için uygun bir ortam yaratmaları ve çalıştıkları şirketin politikalarını eleştirmeye karar verdiklerinde çalışanlarını cezalandırmamaları çağrısında bulunuyor. Ayrıca, şeffaflığı sağlamak ve bu sektörde çalışanları kapalı kapılar ardında olanları açıklamaya teşvik etmek amacıyla şirket içi politikaları eleştirmek isteyen çalışanlar için güvenli ve anonim bir yol tanımlanması gerektiğini vurguluyor. Bu bir ortamın sunulması, YZ uygulamalarının nasıl yönetileceğine dair yolları aydınlatacağı ve tüm taraflar arasında, insanlığı teknolojik saldırılardan korumak ya da hiç değilse zararını mümkün olduğunca en aza indirmek için sonunda etkili bir mevzuata dönüşecek iyi uygulamalar bulmak için tartışmaları teşvik edeceği kesin.
YZ’nin gelişmeye devam edeceği ve karşılaştığı zorlukların daha da karmaşıklaşacağı gerçeğini görmezden gelemeyiz. Dolayısıyla siber güvenlik alanındaki araştırmaları güçlendirerek, erken uyarı sistemleri geliştirerek ve tespit ve müdahale teknolojilerine yatırım yaparak bu zorluklarla başa çıkmaya hazır olmalıyız. Teknoloji kullanımında etik sorumluluğa dayalı yeni bir küresel kültür inşa etmeye çalışmalıyız. Zira YZ’nin başlıca amacı insan hayatını yok etmek değil, geliştirmektir.
YZ iki ucu keskin bir kılıçtır. İnsanlığı yeniliklerle, sağlık ve sosyal gelişmelerle dolu parlak bir geleceğe doğru götürebileceği gibi, uygun şekilde kontrol edilmediği takdirde bir kitle imha aracı olma potansiyeline de sahip. Hükümetler, kuruluşlar ve bilim insanları, bu teknolojinin insanlığa karşı değil, insanlığın yararına kullanılmasını sağlamaktan sorumlular. Uluslararası iş birliği ve titiz ve şeffaf politikaların geliştirilmesi sayesinde bir yandan YZ’nin biyolojik ve kimyasal silahların geliştirilmesinde kullanılma riskini en aza indirirken diğer yandan da faydalarını en üst düzeye çıkarabiliriz.
/aavsat/
