Savaşta yapay zekâ alarmı

Yapay zekânın savaş alanlarında kullanımı artık teorik bir tartışma olmaktan çıktı. G7 liderleri ve teknoloji devleri Fransa’da bir araya gelirken, Birleşmiş Milletler de Cenevre’de askeri yapay zekânın nasıl düzenleneceğini masaya yatırıyor.

Yapay zekânın savaşlarda kullanımı, dünya gündeminin en kritik başlıklarından biri haline geliyor. Küresel teknoloji liderleri 15-17 Haziran tarihleri arasında Cenevre Gölü kıyısındaki Evian’da G7 zirvesi için bir araya gelirken, aynı günlerde Birleşmiş Milletler de Cenevre’de askeri yapay zekânın düzenlenmesine yönelik üç günlük görüşmeler başlatıyor.

Bu eş zamanlılık tesadüf gibi görünse de, birçok uzmana göre önemli bir fırsat yaratabilir. Çünkü yapay zekânın savaş alanındaki rolü büyürken, bu teknolojiyi sınırlayacak uluslararası kurallar konusunda yıllardır ciddi bir ilerleme sağlanamıyor.

TEKNOLOJİ DEVLERİ SAHNEDE

G7 zirvesine OpenAI CEO’su Sam Altman, Anthropic CEO’su Dario Amodei ve Mistral AI kurucularından Arthur Mensch gibi yapay zekâ dünyasının önde gelen isimleri de katılıyor. Zirvede yapay zekânın ekonomi, güvenlik ve savunma üzerindeki etkilerinin geniş biçimde ele alınması bekleniyor.

Ancak bu tartışmalar, teknoloji şirketleri ile devletler arasındaki gerilimin arttığı bir döneme denk geliyor. Özellikle yapay zekâ sistemlerinin savunma, istihbarat, hedef tespiti ve gözetleme gibi alanlarda kullanılması, şirketlerin etik sınırlarını da zorluyor.

Tartışmanın merkezindeki şirketlerden biri Anthropic. Eski OpenAI çalışanları tarafından kurulan şirket, ocak ayında bazı yapay zekâ modellerinin “otonom silahlar” veya kitlesel gözetleme amacıyla kullanılmasına izin vermeyeceğini açıklamıştı.

Bu kararın ardından ABD Savunma Bakanlığı ile şirket arasında gerilim yaşandığı belirtiliyor. ABD yönetiminin, ulusal güvenlik risklerini gerekçe göstererek Anthropic’in en yeni yapay zekâ modeline yabancı uyrukluların erişimini kesmesini istemesi, teknoloji şirketleri üzerindeki devlet baskısının geldiği noktayı gösteren dikkat çekici bir adım olarak değerlendiriliyor.

BM MASASINDA

Cenevre’deki görüşmeler, Birleşmiş Milletler Silahsızlanma İşleri Ofisi çatısı altında yürütülüyor. Bu toplantı, Aralık 2025’te BM Genel Kurulu’nda kabul edilen ve askeri alanda yapay zekânın uluslararası barış ve güvenlik üzerindeki etkilerini ele alan kararın ardından geliyor.

Amaç, yıl sonuna kadar Belirli Konvansiyonel Silahlar Sözleşmesi’ne yapay zekâ konusunda yeni bir ek protokol eklenmesi için müzakerelerin başlatılması. 1983’ten bu yana yürürlükte olan sözleşme, geçmişte yangın çıkarıcı silahlar ve kör edici lazer silahları gibi bazı yıkıcı silah türlerinin yasaklanmasında kullanılmıştı.

Uzmanlara göre bu sözleşme kusursuz uygulanmasa da, savaş suçlarına ilişkin hukuki soruşturmalar için hâlâ önemli bir uluslararası dayanak oluşturuyor.

İNSAN KARARI ŞART

Askeri yapay zekâ konusunda en temel uzlaşı noktası, ölümcül karar süreçlerinde insan yargısının korunması. Ancak bunun nasıl uygulanacağı hâlâ büyük bir soru işareti.

Yapay zekâ bugün savaş alanında en çok hedef belirleme, görüntü analizi, istihbarat değerlendirme ve karar destek sistemlerinde kullanılıyor. Bu sistemler teorik olarak hataları azaltabilir gibi sunulsa da, uzmanlar tam tersine savaşın hızını artırabileceği, yanlış hedeflemeleri büyütebileceği ve yıkımı daha otomatik hale getirebileceği uyarısında bulunuyor.

Uluslararası Kızılhaç Komitesi’ne göre yapay zekâ, uluslararası insancıl hukuka uymayan aktörlerin hedefleme pratiklerini daha iyi hale getirmez. Aksine, mevcut ihlalleri daha hızlı ve daha geniş ölçekte üretme riski yaratabilir.

Uluslararası insancıl hukuk zaten ayrım gözetmeyen silahları, biyolojik ve kimyasal silahları yasaklıyor. Ancak yapay zekâ destekli silahlar için daha somut ve özel kurallar gerektiği düşünülüyor.

Kızılhaç Komitesi, otonom silah sistemlerinin kullanım süresi ve coğrafi kapsamı için sınırlar belirlenmesini, ayrıca bu sistemlerin doğrudan insanları hedef almasının yasaklanmasını öneriyor.

Bu öneriler, yapay zekânın tamamen yasaklanmasından çok, en tehlikeli kullanım alanlarına kırmızı çizgi çekilmesi anlamına geliyor.

TEKNİK ENGEL BÜYÜK

Sorunun yalnızca etik değil, teknik bir yönü de var. Yapay zekâ sistemlerinin nasıl karar verdiğini her zaman açık biçimde izlemek mümkün olmayabiliyor. Bu da savaş alanında hesap verebilirlik sorununu büyütüyor.

Bir saldırının sorumluluğu kimde olacak? Yapay zekâ modelini geliştiren şirkette mi, sistemi kullanan orduda mı, komutu veren askerde mi? Bu soruların henüz net cevabı yok.

Bu nedenle bazı uzmanlar, ilk aşamada çok teknik ve ayrıntılı kurallar yerine çerçeve anlaşmalar yapılmasının daha gerçekçi olduğunu savunuyor.

Askeri yapay zekâyı düzenlemek, yalnızca hukuki bir mesele değil; aynı zamanda büyük bir jeopolitik güç mücadelesi. ABD, Çin ve Avrupa, yapay zekâ alanında geride kalmak istemiyor. Bu nedenle ülkeler, teknolojiyi sınırlayacak anlaşmalara temkinli yaklaşıyor.

OpenAI CEO’su Sam Altman daha önce yapay zekâ için Uluslararası Atom Enerjisi Ajansı’na benzer bir küresel denetim kurumu kurulmasını önermişti. Anthropic de gelişmiş yapay zekâ sistemlerinin geliştirilmesini yavaşlatacak veya askıya alacak küresel bir moratoryum çağrısı yaptı.

Ancak bu öneriler sektör içinde de tartışmalı. Mistral AI kurucularından Arthur Mensch, bu tür çağrıların büyük şirketlerin pazardaki konumunu güçlendirebileceğini savunuyor.

KIRMIZI ÇİZGİ ARAYIŞI

Uzmanlara göre kısa vadede tüm askeri yapay zekâ kullanımını yasaklamak gerçekçi görünmüyor. Ancak ülkelerin kabul edilemez riskler konusunda ortak bir zemin bulması mümkün olabilir.

Bunlar arasında sivillere yönelik orantısız zarar riski, insan denetimi olmadan ölümcül hedefleme yapılması ve nükleer silah sistemlerinde yapay zekâ kullanımı gibi başlıklar öne çıkıyor.

Özellikle yapay zekâ ile nükleer silahlar arasındaki bağlantı, ABD ve Çin arasında hâlihazırda ikili düzeyde konuşulan az sayıdaki güvenlik başlığından biri olarak görülüyor.

Yapay zekâ savaş alanını yalnızca daha akıllı değil, daha hızlı hale getiriyor. Asıl tehlike de burada başlıyor. İnsanların saatler veya günler içinde vereceği kararlar, yapay zekâ sistemleriyle saniyeler içinde alınabilir hale geliyor.

Bu hız, askeri avantaj sağlayabilir. Ancak aynı zamanda yanlış kararların, hatalı hedeflemelerin ve sivil kayıpların da çok daha hızlı gerçekleşmesine yol açabilir.

Cenevre’deki görüşmeler bu nedenle kritik önem taşıyor. Dünya, yapay zekâ destekli silahları tamamen durduramayabilir. Ancak bu sistemlerin hangi sınırlar içinde kullanılacağını belirlemek için geç kalmadan harekete geçmek zorunda.