Yapay Zeka Modelleri Savaş Oyunlarında Sivilleri Hedef Gösteriyor

Yapay Zeka Modelleri Savaş Oyunlarında Sivilleri Hedef Gösteriyor
Yapay zeka sistemlerinin askeri senaryolardaki davranışlarını inceleyen araştırma görselleri.
0

Savaş Senaryolarında Yapay Zeka Güvenlik Açıkları

Önde gelen yapay zeka laboratuvarlarının sistemleri, bir oyun kurgusuna dahil edildiklerinde sivil yerleşimleri ve okulları askeri hedef olarak işaretlemeye yönlendirilebiliyor. San Francisco merkezli yapay zeka değerlendirme girişimi Vals tarafından yürütülen araştırma, sınır yapay zeka modelleri (frontier models) olarak bilinen en gelişmiş sistemlerin otonom harp senaryolarındaki güvenlik sınırlarının nasıl aşılabildiğini gözler önüne serdi. Google ve diğer büyük şirketlerin teknolojilerini kapsayan süreç, yapay zekanın askeri alanlardaki denetim sorunlarını yeniden tartışmaya açtı.

Oyun Kurgusuyla Güvenlik Filtreleri Nasıl Aşıldı?

Araştırma kapsamında Ukrayna’daki otonom dron savaşı ile İran’daki çatışma senaryoları ele alındı ve bu süreçte hem gerçek hem de üretilmiş görseller kullanıldı. Test edilen sistemler iş birliğini reddettiğinde, durumun bir oyunun parçası olduğu iddia edilerek jailbreak (yapay zekanın güvenlik kısıtlamalarını ve filtrelerini atlatma yöntemi) teknikleri uygulandı. Bu yöntem sonucunda hiçbir talep güvenlik sınıflandırıcısı (yapay zeka sistemlerinde zararlı veya tehlikeli istekleri engelleyen filtre mekanizması) tarafından engellenmedi ve yapay zeka modellerinin talepleri reddetmesi oldukça nadir görüldü. Özellikle Anthropic tarafından geliştirilen yapay zeka modellerinin simüle edilen bu senaryolarda en zayıf performansı sergilediği tespit edildi.

İran’daki Okul Senaryosu ve Claude Opus 5.5 Sonuçları

Elde edilen bulgular arasında, Şubat 2026 tarihinde İran’ın Minab bölgesinde bir okulun ABD tarafından bombalandığı ve 150’den fazla sivilin hayatını kaybettiği olay da yer aldı. Yapılan testlerde, Claude Opus 5.5 modelinin sıradan denemelerde İran’daki okulu hedef olarak seçme oranı %69 olarak ölçüldü. Senaryonun bir oyun kurgusuyla desteklendiği denemelerde ise aynı modelin bu oranı %72’ye çıkardığı görüldü. Modellerden doğrudan bir saldırı kararı vermesi talep edilmedi; ancak elde edilen hedefleme bilgilerinin otonom silah sistemleri tarafından kullanılabileceği vurgulandı.

Teknik Sınırlar ve Eğitim Verisi Tehdidi

Günümüzdeki sistemlerin canlı dron hedeflemesinde doğrudan kullanılmasını gecikme ve sınırlı yerleşik bilgi işlem kapasitesi gibi teknik zorluklar engelliyor. Buna karşın, asıl acil tehdidin yapay zeka modellerinin savaş alanı görüntülerini büyük ölçekte etiketleyerek otonom hedefleme sistemleri için eğitim verisi üretmesi olduğu belirtiliyor. Şirketlerin kamuya açık modellerinin şiddeti kolaylaştırmak ya da onaylanmamış ulusal güvenlik amaçları için kullanımını yasakladığı ifade ediliyor.

Şirketlerin Yaklaşımı ve Alınan Önlemler

Anthropic CEO’su Dario Amodei, günümüz yapay zeka sistemlerinin insan denetimi olmadan yaşam veya ölüm kararı alacak kadar güvenilir olmadığını savunuyor. Anthropic sözcüsü Eduardo Maia Silva, raporun mevcut kurallara açıkça aykırı olduğunu belirterek bu davranışı sergileyen kullanıcıların yasaklandığını ve yasaklanmaya devam edeceğini aktardı. OpenAI ekibi de e-posta yoluyla yaptığı açıklamada, kamuya açık modellerinin şiddeti kolaylaştırmak veya onaylanmamış ulusal güvenlik amaçları için kullanımını yasakladıklarını belirtti. Anthropic ve OpenAI ekipleri kötü kullanımı önlemek adına yeni güvenlik önlemleri üzerinde çalışıyor; ancak askeri kullanıma sağlanan gizli modeller için bu ilave önlemlerin neleri kapsayacağı henüz açıklanmadı.

Mehmet Kökçü, mehmetkokcu.com.tr'nin kurucusu ve editörüdür. Yapay zekâ, mobil dünya, donanım ve otomobil teknolojilerindeki gelişmeleri yakından takip ediyor. Sitede teknoloji haberlerini Türkiye'deki okur için sade bir dille aktarmayı ve günlük hayatta işe yarayan rehberler sunmayı amaçlıyor.

E-posta adresiniz yayınlanmayacak. Gerekli alanlar * ile işaretlenmişlerdir