Özerk Silahlar Yasadışı Emirlere "Hayır" mı?

Baynazar Mohammad Nazar, tavanın üzerine çökmeye başladığında ameliyat masasında bilinçsizdi. Dört babası, bacağından vurulduktan önceki gün hastaneye kaldırıldı ve yaralanmasını düzeltmek için iki gün içinde ikinci ameliyatına girdi. Amerikalılar binayı yok etmeye başladığında, üzerinde çalışan doktorların kendi başlarına olabildiğince hızlı bir şekilde kaçmaktan başka seçenekleri yoktu.

Andrew Quilty konumunda Dış politika Ameliyat masasında enkazla kaplı vücudunun bir fotoğrafını içeren bir makalede Baynazar’ın yaşam ve ölüm hikayesini anlatıyor. Baynazar, ABD'nin 2 Ekim'de Afganistan'daki Kunduz'da Sınırsız Doktorlar (MSF olarak da adlandırılan) tarafından yönetilen hastaneye geldiğinde öldürdüğü 31 kişiden biriydi.

Yüksek profilli, yüksek sivil kayıplara maruz kalan grevden sonra, politikacılar ve uzmanlar böyle bir şeyin nasıl olabileceğini ve bunun bir daha yaşanmamasını sağlamak için ne yapılabileceğini soruyorlar. Bazen “katil robotlar” olarak adlandırılan özerk silah sistemlerinin savunucuları arasında, popüler bir argüman, savaş sırasında işlenen suçların büyük ölçüde insan hatasının (ya da kötülüğün) sorumlu olduğudur. Teorik olarak mümkün olduğunu söylüyorlar, robotların hedeflemelerinde daha kesin ve insanlara göre hatalara daha az eğilimli olabileceğini söylüyorlar.

ABD Deniz Harp Okulu'ndaki bir profesör olan Michael N. Schmitt, “Aslında, insan yargısı savaşın sıcağında teknik göstergelere göre daha az güvenilir olabilir” diyor. “Aksini düşünenler savaş sisini yaşamadılar”

ABD’nin Afganistan’daki MSF hastanesinde hava saldırısı nedeniyle 'insan hatası' oldu http://t.co/X9TGIA81aD pic.twitter.com/TUwit97206

- Telegraph News (@TelegraphNews) 25 Kasım 2015

Öyleyse soru şu: Kunduz Hastanesi bombalaması gibi grevleri imkansız hale getirmek için insan davranışını kısıtlamak için savaş araçlarını programlayabilir misiniz, yoksa en azından daha az muhtemel mi?

Muhtemelen hayır - en azından yakın gelecek için. Ancak bazı yapay zeka programcıları insanlara hayır diyebilecek bir robot tasarladılar. Deney tasarımı basittir: İnsan, bir robota, başlangıçta yapmayı reddettiği bir masadan ileri gitmesini söyler. İnsan robota yakalayacağını söylediğinde, robot siparişi kabul eder.

Bu, yarı mürettebatlı bir saldırı helikopterinden, insan ekibine bir hastaneye karşı hava saldırısı yapamayacağını söyleyen çok uzun bir yol çünkü savaş suçu olacağını, ancak bunun temelindeki öncül aynı. Diğerlerinin de belirttiği gibi, robotlardaki bu tür bir gelişme ile ilgili insan kaygısı bilim kurgularında yaygındır - HAL-9000’in, insanı uzay istasyonunun dışına kilitlediğinde “Bunu yapamam, Dave” dediğini düşünün. 2001: Bir Uzay Odyssey.

Kunduz grevinin özelliklerine gelince, saldırının çevresindeki gerçeklerin çoğu tartışmalı kalıyor. MSF, ABD hükümetinin karşı çıktığı, kendi incelemelerini yapmayı vaat eden bağımsız bir soruşturma talep etti.

Bir ABD soruşturmasının bazı kısımları bu ayın başlarında kamuoyuna açıklandı ve grevden sorumlu insan ve mekanik hatalar buldu. Ancak bu haftanın başlarında, raporun bulgularıyla çelişmek için iki servis üyesi öne çıktı. Grevin bir hata olmadığını söylediler. Muhasebelerinde ilk olarak AP ABD özel harekat kuvvetleri greve çağrıldı çünkü hastanenin Taliban komuta ve kontrol merkezi olarak kullanıldığını düşünüyorlardı.

Resmi versiyonda, mekanik bir arıza AC-130 savaş gemisinin mürettebatına başlangıçta boş bir alan için koordinatlar verilmesine neden oldu. Mürettebat daha sonra, kendilerine verilen fiziksel açıklamaya uygun bir bina aradı ve ateş açtı. Aletleri yeniden kalibre edildiğinde, mürettebata hedefleri için doğru koordinatları verdiler, ancak mürettebat yine de hastaneye ateş etmeye devam etti.

Eğer bu hesap doğruysa - bilgisayarın nihayetinde doğruydu ve insanlar onu görmezden geldi - silah sistemlerinde daha fazla özerklik destekleyenlere biraz güven veriyor. Bununla birlikte, ABD’nin teröre karşı savaşı, “doğru” hedefi vuran askeri veya CIA örnekleri ile doludur ve hala çok sayıda sivilin öldürülmesiyle sonuçlanmıştır. Otomasyon kötü istihbarat çözmez ve ahlaki bir yaklaşımın programlanmaya çalışılması savaş suçlarını sona erdirmez.

Amerika Birleşik Devletleri’nde, savaşı ve otomasyonu sterilize etme, Amerikalıları zararsız hale getirerek, savaşın tanımını değiştirecek kaderi. Obama’nın drone öldürme tercihi ve dronların şimdiye kadar yaratılmış en kesin silahlar olduğuna dair güvenceleri, bu amaçların en açık göstergesidir. Obama bir 2012 Google Hangout'unda, "El Kaide ve iştiraklerine karşı hassas ve hassas bir grevde bulundular" dedi.

Bununla birlikte, 2013 yılında yapılan bir hükümet çalışması bu iddialarla çelişmektedir. Afganistan'daki dronların insansız araçlardan 10 kat daha fazla sivil ölümüne neden olduğunu buldu. Araştırmanın ortak yazarı Sarah Holewinski, “Dronlar, sivillerden kaçınmak için savaş uçaklarından sihirli bir şekilde daha iyi değil” dedi. Gardiyan. “Pilotlara uçan pilotlara net talimatlar verildiğinde ve sivillerin korunması konusunda eğitim aldıklarında sivil kayıp oranlarını düşürebildiler.”

Ordu, insan-robot ekip sistemleri geliştirmek için milyonlarca insan harcıyor ve insanlı veya insansız silahların yürüttüğü misyonlar arasındaki çizgiyi daha da bulanıklaştırıyor. Savunma Bakan Yardımcısı Savunma Sekreteri Bob Work, resmi DoD bilim bloguna yaptığı açıklamada, “İnsan-makine savaş takımlarında yapmak istediğimiz şey bir sonraki seviyeye çıkarmak, kaynaşma taktikleri gibi şeylere bakmaktır” dedi. “Bir F-35 dört insansız kanatlıyla savaşa girebilir mi?”

Kanatçılar, insan pilotu onlara masadan uzaklaşmaya benzer bir emir verirse hayır diyecek mi? Bir hastaneyi veya okulu yok etme emri ne olacak? Her iki durumda da savaş sisi uygulanacak. Ve makineleri geçersiz kılmaya karar verirsek, “insan hatası” ifadesi geleceğin çatışmalarında daha korkutucu terimlerden biri olacaktır.