A. I. Uzman Virginia Dignum: Araba Sorunu Neden Şeffaflığa İhtiyacımız Olduğunu Gösteriyor

Bir araştırmacının iddia ettiği gibi yapay zekanın şeffaflığa ihtiyacı var, bu yüzden insanlar bunu hesaba katabilir. Delft Teknoloji Üniversitesi Doçenti Virginia Dignum, Cuma günü New York Üniversitesinde bir izleyiciye, makinelerin neden böyle davrandığını anlamadığımız takdirde kararlarını yargılayamayacağımızı söyledi.

Dignum, bir bilim yazarı ve araştırmacı olan David Berreby tarafından yayınlanan ve Psikoloji Bugün: “Kanıtlar, insanlar makinelerle çalışırken, tek başlarına ya da diğer insanlarla çalıştıklarında olduğundan daha az acente duygusu hissettiğini göstermektedir.”

Dignum, “tramvay sorunu”, insanların doğru sonucu seçmek için bir makineye kör inanç yerleştirebilecekleri bir alan olduğunu belirtti. Asıl mesele, kolu beş varsayımsal kaçak bir trene çevirip değiştirmemek. İnsanlar makinelerin sorunu en rasyonel şekilde çözmelerini bekliyorlar. Yine de, her zaman durum böyle olmayabilir ve şeffaflık, makinenin kararına nasıl geldiğini açıklamaya yardımcı olur.

“Bu hiç kimsenin anlayamadığı çok derin, sinirsel bir ağ ağı zinciri değil, bu açıklamaları insanların anlayabileceği şekilde yapmak” dedi.

A. I. Bu, çalışmalarını netleştiren DARPA'nın araştırdığı bir alan. Ajans, Ağustos ayında açıklanabilir A.I. ile ilgilenen ekipleri aradığını açıkladı. XAI olarak bilinen projeler. Bu sistemler araştırmacıların neden A.I. Makineye kör güvenmek yerine elde edilen bilgilerle ne yapılması gerektiğine karar vermek için daha fazla alan vererek karar vermiştir.

Makine öğrenimi ile Dignum şeffaflığın her zamankinden daha önemli olduğunu belirtti. “Sistemlerin, özellikle de makine öğrenim makinelerinin öğrenmesini ve her şeyi bilmesini bekleyemeyiz” dedi. “Sürücülerimizin araç kullanırken trafik yasalarını tam olarak anlamalarını beklemiyoruz. Pek çok ülkede, “Öğreniyorum, yapabileceğim hatalar için özür dilerim” göstermek için bu “L” plakalarını kullanıyorlar. ”“ AI izlemek, bunun belirli kararlara nasıl geldiğini anlamak ve buna dayanarak hareket etmek çok önemli olacaktır. Hala kötü kararlar almayı öğrenen makineleri durdurmak.