Sürücüsüz Arabalar Etik Katiller Olacak mı?

Sürücüsüz arabaların insanları öldürmesi gerekecek mi? Yarım saniye düşününceye ve “evet” diye sonuca varıncaya kadar düşününceye kadar kulağa saçma geliyor, bir saniye daha düşünün ve “hayır” deyin. Oyundaki ahlaki bilmecenin bir adı olacak kadar eski. Troley Problemi. ”Klasik formülünde şöyle devam eder: Beş kişinin bağlı olduğu bir pistte ilerliyorsunuz, ancak üzerinde sadece bir kişi olan başka bir piste geçmek için bir anahtar atabilirsiniz - ne yapmalı? Yapmalısın? Soruyu cevaplamak zorunda değilsiniz; Bu bir düşünce alıştırması. Ayrıca, kendi kendini süren otomobiller yapan insanlar bunu hepimiz için cevaplamak zorunda kalacaklar.

Ekim ayında arXiv'de yayınlanan bilgisayar bilimcileri ve psikologların üçlüsünden bir analiz, sürücülerin otomobillerinde insanların psikolojisini araştırıyor. Araştırmacılar, 400 kişiyi kalabalığı kurtarmak için insan yolcularına zarar verecek sürücüsüz bir otomobil hakkında okudu. Sonuç söylüyordu. İnsanlar fikri beğendiler, ama araba istemiyorlardı. Düşünce gibi insanlar gerçek olmadıklarında ve hayatları hatta olmadıklarında çok daha fazla egzersiz yaparlar. Bu senaryonun sorduğu soru, gerçek dünya açısından, programlama hakkındadır. Sürücüsüz bir otomobil herkesin, yolcunun güvenliğini ön planda tutmalı mı yoksa hiç kimsenin güvenliğini mi önemsemeli?

Soruyu bilim yazarlarımıza koyarız. İşler tuhaflaştı.

Ben Guarino: Sürücüsüz otomobillerin insanları etik olarak öldürmeleri gerekip gerekmediğini (veya bildiğiniz gibi) değerlendirmek zorunda kalacaklarına ikna olmadım. Ama siz ne düşünüyorsunuz?

Neel Patel: Otomobil üreticilerinin bu köprüyü geçmesi ve teknolojiyi bu yargı veya değerlendirmeleri yapan bir şekilde değiştirmesi gerektiğini düşünüyorum. Bu çok fazla sorun olmazsa her yolda araba otomatik, ancak bazı otomobillerin sürücüsüz, bazılarının ise olmadığı bir geçiş dönemi olacak. Ve bu süre zarfında, araçların bir tür yargı çağrısı yapması gerekecek.

Şu anda, bir kaza meydana gelmek üzereyken, herhangi bir otomobilin her bir sürücüsü kendini korumaya çalışır. Bir kişinin eylemleri aslında bitişik araçlarda daha fazla insanın yaralanmasına veya ölmesine neden olsa bile, bu hareketi yapmak için sürücüyü gerçekten suçlayamayız - bu, şimdiye kadar yaşayan herkesin içine yerleştirilmiş bir hayatta kalma içgüdüsüdür. Bunu anlayabilir ve onunla özdeşleştirebiliriz.

Fakat otonom araçlar bu ahlaki lüksün dışında kalmayacak. ABD’de her yıl kaç kaza meydana geldiği (2012’de 30.000’den fazla ölüm vardı) bazı Bir arabanın hareketlerinin diğerlerinden daha fazla ölümle sonuçlanacağı durum. Bir dedeye karşı dört beden küçük çantadan bahsediyorsak, bu sorun olmayacak.

Ve hala problemler olacak çünkü kimse yolcuları feda etmeye programlanmış bir arabaya binmek istemiyor. Amerikalılar hiç bir zaman faydacılığa sahip olmadılar.

BG: Özerk araçlara “içgüdü” ile programlanmayacağını - ancak daha iyi bir farkındalığa ve reflekslere sahip olacaklarını iddia ediyorum, ki bu onlara insan tepkilerine karşı bir avantaj sunuyor ve bu felsefi köşe vakalarının çoğunda etik kararlara olan ihtiyacı ortadan kaldırıyor.. Bir çocuğun bir şeritte yola daraldığı ve diğerinde gelen bir minibüsün bulunduğu senaryoda, bir insan çok fazla bilgi işlemeli ve hızlı bir şekilde karar vermelidir. Fakat otonom veya teknolojik olarak geliştirilmiş bir otomobil, yolda tutması gereken öne bakan iki gözden daha fazlasına sahip değil mi? Sadece lastiklerinizin yolunda bir çocuk olduğunda ve arabanın ölü çocuk ya da kamyonet kazasını seçmesi gerektiğinde cevap vermek yerine, bir insanın tepki gösterebilmesi için bir şey kaldırımdan ve sokağa girer girmez yavaşlayabilir.

Bu insan üstü tepkiler, araç kullanmadan kaynaklanan kazaların birçoğunun arka uçlar olmasının nedenidir, çünkü bu kadar dönüşlü olabilen sürücülere alışkın değiliz.

NP: Meselelerinize kesinlikle katılıyorum, ancak insan sürücülerden robot olanlara geçerken hala geçiş dönemi hakkında endişeliyim. İnsanlar hala tüm makineyi mahveden anahtar değil mi? Yoksa teknolojinin, diğer otomobillerin parçalarındaki insan hatası için yeterince iyi hesap verebileceğini mi düşünüyorsun? Düşünceler?

Yasmin Tayag: Özerk otomobillerin insanlara göre avantajı, çoğu araba kazasında, panik gibi tezahür eden duygulara eğilimli olmamalarıdır. Çıldırmış bir insanın çocuktan veya minibüsünden kaçınmak için manyak yoldan sapması durumunda, kendi kendine süren araba Ben'in noktasına kadar yavaşlar. Özerk arabaları insan sürücülerden daha üstün hale getirecek tek şey olan nesnelliği korumak mantıklı değil mi? Yolda, sürücüsüz araba için önemli olan tek şey eldeki verilerdir.

İnsan sürücülerin her zaman robotun otomobillerine tamamen geçiş yapsak bile - otomobilin kararını geçersiz kılma seçeneğini talep edeceğini düşünüyorum ve bence endişenin asıl nedeni budur. Geçiş döneminin gerçekten biteceğinden emin değilim.

BG: İnsanlar kötü anahtarlar ve daha kötüsü faydacılar. Robotlarımızın bir şekilde etik katiller olmasını istememiz iddiasıyla ilgili sorunum, insanların ne zaman etik katiller olacağını bildiklerini varsaymasıdır. Hız sınırını zorluyorsam ve bir şey önümde zıplarsa, kimse bana bu durumda daha büyük bir iyilik yapmaz. Ya çocuğa ya da minibüse çarptın ve katılan herkes için berbat. Neden hiç kimse insanlardan böyle bir şey beklemiyorsa, bu senaryolarda neden araçsız otomobillerin üstün ahlaki bir çağrı yapmasını beklemeliyiz? Biz Kant evreni veren biziz ve hala yapamıyoruz. Sürücüsüz otomobiller, olabilecekleri en iyi çarpışma önleyici olmaya odaklanmalı.

NP: Ama sanırım biz aslında kutu Sürücüsüz otomobillerin üstün ahlaki bir çağrı yapmasını beklersiniz Bu, elbette, üzerinde anlaşılan etik kurallara dayanır, ancak varsayımlara bakalım.

Genel olarak konuşursak, çocukların yetişkinlere karşı güvenliğine öncelik vereceğiz. Gelecekte, tüm araçlara, yoldaki her araçtaki tüm yolcuların genel yaşını bilen teknolojiyle donatılmış - bu verilere erişilebilir ve belirli bir yoldaki tüm araçlarla paylaşılıyor. Öngörülemeyen durumlar nedeniyle bir kaza meydana gelmek üzereyse, bu araçlar çocukların yoldaki diğer yaşlı yolculara karşı güvenliğini sağlamak için birbirleriyle iletişim kurabilir. Bu tür bir anlaşmaya karşı başarılı bir argüman ortaya koyan pek çok insanı hayal etmiyorum.

Otomobiller bunu insanlardan daha iyi yapabiliyorlar çünkü insanların yapabileceği daha fazla bilgiye erişebiliyorlar ve bu değerlendirmeleri daha hızlı yapabiliyorlar - yüksek stresin yarattığı duygular veya hormonal tepkiler gibi karar vermeyi etkileyebilecek fizyolojik etkilerden etkilenmeden durumlar. Bu örnekte, aslında kutu ahlaki açıdan üstün seçimler yapmak.

Ancak böyle bir şeyi ne kadar iyi programlayabildiğiniz görülüyor.

YT: Yo Neel, kim çocukların yetişkinlere karşı güvenliğini ön planda tutacağımızı söylüyor? Bir yürümeye başlayan çocuğun hayatına yaşlı bir vatandaşın hayatına farklı bir değer vermede çok yanlış bir şey yok mu? Ahlaki bir araba yoluna gideceksek, tüm hayatları kurtarmak için eşit çaba sarf etmenin anahtar olduğunu düşünüyorum. İnsanlar araba şirketlerinin kendilerine değer değerlendirmeleri yaptığını öğrendiklerinde nasıl tepki verecekler? hayatları ? Daha önce de söylediğim gibi, insan öznelliğini mümkün olduğunca programlamadan uzak tutmamız gerekiyor. Her zaman işleri mahveder.

BG: Titanik'teki erkeklerle, filikalardaki kadınlara ve çocuklara yerlerinden vazgeçtikleri için kendimi feda ediyorum. Erkekleri kadınlardan ve çocuklardan boğulacak şekilde ayıran bir robot olsaydı, bu robot bir Avengers filmindeki kötü adam olduğu için Mjolnir ile paramparça olurdu.

Ayrıca, hiçbir sigorta şirketi veya kanun koyucu, insan kontrolü olmadan bir tür ölümcül hesaplama yapabilecek bir araçla hiç de iyi olmaz.

NP: Hiçbir zaman öznelliği otomatik programlamanın dışında tamamen ortadan kaldırmayacaksınız. Önyargı, deneyimden öğrenmek için tasarlanan otomatik sistemlere özgüdür. Bu sorunu hafifletmeye çalışmak yerine, sorunu çözmeliyiz ve bu önyargıyı insanlara daha iyi hizmet edebilecek şekilde şekillendirmeliyiz. Bu bizim sevip sevmememizin geleceğidir.

2016 yılında Ultron'u oyluyorum.