I. GİRİŞ
Askeri teknolojinin hızla geliştiği son yıllarda yapay zekâ temelli otonom silah sistemleri, savaş hukukunun geleneksel mantığını zorlayan yeni bir paradigma yaratmıştır. Bu sistemler insan denetimi olmaksızın hedef seçimi ve ateş etme kararı verebilmekte ve bu durum hem etik hem hukuki soruları derinleştirmektedir. Uluslararası hukuk, savaşan tarafın eylemlerini niyet, öngörü, mahiyet ve komuta kontrol kavramları çerçevesinde değerlendirir. Ancak yapay zekâ algoritmalarının öğrenme sürecinde ortaya çıkardığı belirsizlik, veri kaynaklı önyargı ve sensör hatalarına açıklık gibi unsurlar, hukuki değerlendirmelerde merkezi rol oynayan kavramları muğlak hale getirmektedir. Bir sistemin hedefi yanlış sınıflandırması veya orantısız güç kullanması durumunda fiilin failinin kim olduğu, komutanın hangi aşamada sorumluluk üstlendiği ve niyet unsurunun nasıl belirleneceği gibi sorular cevaplanması zor hukuki sorunlar ortaya çıkarmaktadır. Bilgi notu bu bağlamda otonom silah sistemlerinin uluslararası hukuk açısından nasıl konumlandığını açıklığa kavuşturmayı amaçlamaktadır.
II. DEVLET SORUMLULUĞUNUN TEMELLERİ VE OTONOM SİLAHLARIN MEYDAN OKUMASI
Uluslararası hukukta devlet sorumluluğunun doğması için hukuka aykırı bir fiilin devlete atfedilebilir nitelikte olması gerekir. Otonom bir sistem tarafından gerçekleştirilen fiiller dahi devlet sorumluluğunu ortadan kaldırmamaktadır; zira bir makine uluslararası hukuk bakımından fail olarak kabul edilmez. Nihai sorumluluk, söz konusu sistemi geliştiren, kullanan veya kontrol eden devlete aittir.
Bununla birlikte derin öğrenme temelli algoritmaların karmaşık ve öngörülemez yapısı, insan operatörlerin sistemi her durumda önceden tahayyül edip kontrol edebilmesini güçleştirmekte; bu da sorumluluğun kapsamına ilişkin yeni tartışmalar doğurmaktadır. Bu belirsizlik, özellikle kuvvet kullanımının meşruiyetini belirleyen savaşa başvurma hukuku bakımından önemlidir. Zira devletler, otonom sistemlerin hata veya yanlış alarm nedeniyle istemsiz saldırılar gerçekleştirmesi riskini taşımaktadır. Mevcut uluslararası hukuk ise devletin objektif sorumluluk rejimini esas almakta ve otonomluğun artması sorumluluk zincirini zayıflatmamaktadır. Aksine, otonom sistemlerin tasarlanması, test edilmesi ve sahada kullanılması süreçlerinde devletlere daha kapsamlı denetim ve özen yükümlülükleri yüklemektedir.
III. JUS AD BELLUM: KUVVET KULLANIMINDA OTONOM SİSTEMLERİN ETKİSİ
Jus ad bellum çerçevesinde kuvvet kullanımının hukuka uygunluğu; meşru müdafaa hakkı, hedef devletin açık rızası veya Birleşmiş Milletler Güvenlik Konseyi tarafından verilen yetkilendirme ile mümkündür. Bu bağlamda otonom silah sistemleri kullanmak, tek başına kuvvet kullanımını hukuka aykırı hale getirmez. Bununla birlikte, bu sistemlerin karar alma süreçlerini hızlandırması ve askeri personel açısından maliyeti düşürmesi, devletlerin kuvvete başvurma eşiğini fiilen aşağı çekebilmektedir. Böyle bir eğilim, caydırıcılık mekanizmalarının işlevselliğini zayıflatmakta ve özellikle düşük yoğunluklu ya da sınırlı maliyetli operasyonların daha kolay tercih edilmesine yol açabilmektedir.
Ayrıca otonom sistemlerin sensör algılama hataları, veri işleme yanılgıları veya çevresel koşullardan kaynaklanan yanlış sınıflandırmaları sonucunda başlatılan angajmanlar, ilk saldırıyı gerçekleştiren tarafın tespitini güçleştirmektedir. Bu durum, kriz yönetiminde yanlış hesaplamaların artırdığı gerilimlerle birlikte bölgesel veya küresel ölçekte daha geniş çatışmalara kapı aralayabilmektedir. Dolayısıyla otonom sistemlerin varlığı, jus ad bellum rejiminin fiili uygulanmasını zorlaştıran yeni riskler doğurmaktadır.
IV. JUS IN BELLO: AYIRT ETME, ORANTILILIK VE İNSANİYET İLKELERİ
Savaş hukukunun uygulanmasını düzenleyen jus in bello, çatışmalar sırasında kullanılan araç ve yöntemleri sınırlayan ilkelerden oluşur. Bu ilkelerin merkezinde ayırt etme, orantılılık ve gereksiz acının önlenmesi kuralları yer alır. Otonom silah sistemleri bağlamında bu ilkelerin uygulanması, mevcut teknolojilerin teknik kapasitesi nedeniyle ciddi hukuki tartışmalara neden olmaktadır.
Yapay zekâya dayalı sistemlerin veri setlerindeki yanlılıklar, sensör hataları, çevresel koşullara bağımlı performans dalgalanmaları ve hedef tespitindeki tutarsızlıklar, sivillerin askeri hedeflerden güvenilir bir şekilde ayrılmasını güçleştirmektedir. Bu durum uluslararası insancıl hukukun sivil nüfusu korumanın merkezi bir unsuru olduğu yönündeki temel yaklaşımıyla çelişir bir nitelik taşımaktadır.
Cenevre Sözleşmeleri Ek I Protokolü’nün 36. maddesi, devletlere yeni silah sistemlerinin uluslararası hukuka uygunluğunu değerlendirme yükümlülüğünü getirmektedir. Otonom silah sistemleri, karmaşık karar alma mekanizmaları ve öngörülemez davranış örüntüleri nedeniyle bu kapsamda en yoğun incelemeyi gerektiren teknolojiler arasında yer almaktadır. Ayrıca Protokol’ün 51. maddesi, doğası gereği sivil hedefler ile askeri hedefleri ayırt etme kabiliyetine sahip olmayan silahların kullanımını yasaklamaktadır. Otonom sistemlerin bağımsız hareket kabiliyeti ve algoritmik kararlarının tahmin edilebilir olmaması, bu kriterlerin sağlanıp sağlanmadığı konusunda önemli hukuki belirsizlikler yaratmaktadır.
V. YAPAY ZEKÂ, İNSAN DENETİMİ VE SORUMLULUK ZİNCİRİ
Otonom silah sistemlerinin karar alma süreçlerinin büyük ölçüde insan müdahalesi dışında gerçekleşebilmesi, uluslararası hukukta sorumluluk rejimi bakımından yeni sorunlar ortaya çıkarmaktadır. Bir angajmanın hukuka aykırı şekilde gerçekleşmesi halinde sorumluluğun komutan, geliştirici, üretici firma, yazılımcı veya veri setini oluşturan kişiler arasında kime ait olduğu açık şekilde tanımlanmış değildir. Yapay zekâ modellerinin çalışma mantığının çoğu zaman şeffaf olmaması ve algoritmik kararların açıklanabilirlik bakımından sınırlı düzeyde olması, sorumluluk zincirinin kurulmasını daha da zorlaştırmaktadır.
Bu nedenle birçok devlet ve uzman, otonom sistemlerde “anlamlı insan denetimi”nin normatif bir zorunluluk haline getirilmesini savunmaktadır. Ancak insan denetiminin hangi seviyede yeterli kabul edileceği, insan operatörün müdahale imkânının zaman bakımından nasıl tanımlanacağı ve komutanın hangi koşullarda hukuki sorumluluk üstleneceği konusunda uluslararası düzeyde bir mutabakat henüz oluşmamıştır.
VI. ULUSLARARASI HUKUKTA BOŞLUKLAR VE DÜZENLEME TARTIŞMALARI
Otonom silah sistemlerine ilişkin bağlayıcı nitelikte özel bir uluslararası düzenlemenin bulunmaması, bu teknolojilerin hızla geliştiği dikkate alındığında önemli bir hukuki boşluk yaratmaktadır. Uluslararası toplumda tartışmalar üç ana yaklaşım etrafında şekillenmektedir: sistemlerin tamamen yasaklanması, etik çerçevede sınırlı şekilde izin verilmesi veya mevcut normatif düzenin yeterli olduğu varsayımıyla ek bir düzenleme yapılmaması. Bu yaklaşımlar, otonom silahların hukuki sorumluluk, kontrol ve öngörülebilirlik sorunları karşısında hangi düzeyde düzenleme gerektirdiğine ilişkin farklı değerlendirmeleri yansıtmaktadır.
Avrupa devletlerinin büyük bir bölümü anlamlı insan denetimini zorunlu kılan normların oluşturulmasını desteklerken; ABD, Rusya ve Çin gibi teknolojik kapasitesi yüksek devletler, bağlayıcı bir düzenlemenin rekabet avantajlarını sınırlayabileceği gerekçesiyle daha esnek bir yaklaşımı savunmaktadır. Cenevre Sözleşmeleri ve Ek Protokollerin otomatik ve otonom sistemlere ne ölçüde uygulanabileceği konusunda da görüş ayrılıkları bulunmaktadır. Bu normatif belirsizlikler, hesap verebilirlik mekanizmasının güçlendirilmesini zorlaştırmakta ve devletlerin sınırsız kapasite artırımıyla uluslararası barış ve güvenliği daha kırılgan hale getirme riskini büyütmektedir.
VII. TÜRKİYE PERSPEKTİFİ: ULUSAL HUKUK, TEKNOLOJİ POLİTİKALARI VE ULUSLARARASI YÜKÜMLÜLÜKLER
İnsansız sistemler ile yapay zekâ temelli platformlara ilişkin daha geniş hukuki ve teknolojik çerçevede Türkiye’nin yaklaşımı, genel olarak uluslararası gelişmelerin dikkatle takip edildiğini ve yerleşik küresel normlarla uyumlu bir etkileşim içinde olunduğunu göstermektedir. 1949 Cenevre Sözleşmeleri’ne taraf bir devlet olarak Türkiye, Ek Protokol I’in 36. maddesinde yansıtılan ilkeler de dâhil olmak üzere uluslararası insancıl hukukun parametreleri içinde hareket etmektedir. Bu ilkeler, yeni silah sistemlerinin değerlendirilmesine yönelik hukuki bağlamın önemli bir parçasını oluşturur. Otonom silah sistemlerini doğrudan düzenleyen özel bir ulusal hukuki düzenleme henüz kabul edilmemiş olsa da mevcut hukuki çerçeve, politika tartışmaları ve kurumsal uygulamalar, Türkiye’nin bu alandaki gelişen uluslararası tartışmaları ve karşılaştırmalı düzenleyici eğilimleri dikkatle izleyen bir yaklaşım benimsediğini göstermektedir.
Savunma ihracatı bağlamında akademik analizler, ihraç edilen sistemlerin diğer devletler tarafından kullanılması halinde uluslararası hukuk açısından doğabilecek olası hukuki sonuçlara dikkat çekmekte, bu konu devlet sorumluluğu üzerine yapılan literatürde halen incelenmeye devam etmektedir. Türkiye’nin artan bölgesel etkinliği ve savunma sektöründeki süregelen teknolojik gelişmeler, komuta-kontrol mekanizmalarının otonom sistemlere entegrasyonu, hedefleme parametrelerinin ayarlanması ve en düşük insan katılımı düzeylerinin belirlenmesi gibi çeşitli hukuki ve operasyonel soruların gelecekteki akademik ve politika değerlendirmeleri için önemli kalacağı bir zemin yaratmaktadır. Bu bakımdan Türkiye’nin izlediği yol, önceden belirlenmiş ya da ilan edilmiş bir ulusal taahhütten ziyade, uluslararası hukukî tartışmaların, teknolojik gelişmelerin ve daha geniş küresel uygulamaların eş zamanlı olarak takip edildiği bir gelişim süreci olarak değerlendirilmektedir.
VIII. SONUÇ
Otonom silah sistemleri, uluslararası hukukun hem normatif hem de pratik düzenlerini köklü biçimde dönüştürebilecek potansiyele sahip bir teknolojik dönüşümü temsil etmektedir. Bu sistemler yeni bir fail yaratmamakta; hukuka aykırı fiillerin sorumluluğu yine devlete atfedilmektedir. Bununla birlikte otonomluğun yarattığı teknik belirsizlikler, özellikle savaş hukukunun uygulanması bakımından ciddi zorluklar doğurmakta ve geleneksel hukuki kavramların yeterliliğine ilişkin tartışmaları derinleştirmektedir. Savaşa başvurma hukuku açısından otonom silahların kullanımı doğrudan bir meşruiyet sorunu yaratmasa da, kuvvete başvurma eşiğini düşürme ve çatışmaların daha kolay tırmanmasına yol açma potansiyeli uluslararası istikrarı tehdit eden önemli bir risk olarak karşımıza çıkmaktadır.
Türkiye bakımından mesele daha da önem kazanmaktadır; zira hem uluslararası yükümlülükler hem de hızla gelişen savunma teknolojileri, ulusal düzeyde bütüncül, öngörülebilir ve hukuki açıdan tutarlı bir çerçevenin acilen oluşturulmasını gerektirmektedir. Bu çerçeve yalnızca teknik standartlar veya kullanım prosedürleriyle sınırlı kalmamalı; aynı zamanda sorumluluk ilkeleri, denetim mekanizmaları, şeffaflık yükümlülükleri ve etik değerler bakımından da net düzenlemeler içermelidir.
Sonuç olarak yapay zekâ destekli otonom sistemlerin savaş alanına girişi geri döndürülemez bir süreci başlatmış olup, bu sürecin uluslararası hukuku, etik ilkeleri ve insan güvenliğini zedelememesi için bağlayıcı, şeffaf ve evrensel bir düzenleme oluşturulması zorunlu hale gelmiştir. Bu düzenleme, devletlerin teknik kapasite farklılıklarını, güvenlik kaygılarını ve etik hassasiyetlerini dengeli biçimde yansıtmalı; aynı zamanda hızla değişen teknolojik gelişmelere uyum sağlayabilecek esneklikte tasarlanmalıdır. Aksi takdirde otonom silahların kontrolsüz yayılımı, uluslararası düzenin temel ilkelerini aşındırarak yeni ve öngörülmesi güç riskler doğuracaktır.
B. ANA ÇIKARIMLAR
(i) Otonom silah sistemleri, savaş hukukunun insan merkezli sorumluluk paradigmasını zorlayarak ciddi bir normatif boşluk yaratmaktadır.
(ii) Yapay zekâ temelli karar alma süreçleri, devlet sorumluluğunun niyet ve öngörülebilirlik unsurlarını belirsizleştirmektedir.
(iii) Algoritmik özerklik, hatalı saldırı hallerinde fiilin kime atfedileceğine ilişkin hukuki zinciri karmaşıklaştırmaktadır.
(iv) Ayırt etme, orantılılık ve gereksiz acının önlenmesi ilkeleri yapay zekânın hata payı nedeniyle risk altındadır.
(v) Uluslararası kuruluşlar, silahlı otonomi için anlamlı insan kontrolünü asgari standart olarak gündeme getirmektedir.
(vi) Tam otonom ile yarı otonom sistemler arasındaki sınır hem teknik hem hukuki olarak net değildir.
(vii) Ek Protokol I madde 36 kapsamındaki silah doğrulama testleri otonom silah sistemleri bakımından pratikte yetersiz kalabilmektedir.
(viii) Yapay zekâ temelli angajman algoritmaları, sivil-asker ayrımında yüksek belirsizlik taşımaktadır.
(ix) Türkiye’nin otonom silah sistemleri geliştiren ve ihraç eden bir ülke olarak konumu, uluslararası hukuk ve dış politika alanlarında bir dizi değerlendirmeyi gündeme getirmektedir.
(x) Uzun vadeli çözüm, teknolojik gelişmeyi engellemeyen fakat insan denetimini güvence altına alan bağlayıcı bir uluslararası rejim oluşturulmasıdır.
