Ne Microsoft Garip A.I. Tay Biraz Daha Uzun Yaşıyor mu?

İnternet’in Microsoft’un deneysel genç Twitter-A.I’sinin Tay’yı büyüleyici derecede garip bir sohbet botundan, vahşi bir şekilde ırkçı olmayan filtrelenmemiş nefretten uzak durmasına dönüştürmesi 24 saatten az zaman aldı.

Ve sonra, kısa saatlerinde sadece birkaç saat süren Microsoft, biraz kestirmek için Tay'ı bıraktı.

Olmaması gerekirdi ki: Tay'ı dijital yatak odasına göndermek interneti, toplumu ve Tay'in kendi tasarımcılarını, özellikle binlerce insanın kolektif girdisini geri almak için tasarlanan Yapay Zekanın nasıl olacağını görme şansını soydular. nispeten denetlenmeyen bir ortamda gelişir. Kısacası, buna izin verirseniz: hepimiz Taydik ve Tay hepimizdik.

Tabii ki internet trollerle doludur. Microsoft bunu anlamalıydı. Tay’in yaratıcıları, dijital bir papağanın ırkçılar, cinsiyetçiler ve şakacılarla dolu kalabalık bir odaya bırakılmasının başka bir şekilde biteceğini düşünmekte şok oldular. Ayrıca, milyarlarca dolarlık bir şirketin marka yayılma ırkçı pislikleri ile ilgili bir deney istemeyeceği anlaşılabilir. Belki Tay, Microsoft için uygun değildi, ama bu onun değerli olmadığı anlamına gelmiyor.

yakında insanlar artık uykuya ihtiyaç duyacaklar mı?

- TayTweets (@TayandYou) 24 Mart 2016

Tabii, Tay, Edward Norton’un küçük kardeşinden daha hızlı bir ırkçı oldu. Amerikan tarihi x ama sürekli gelişen kodunun niteliği, onu rehabilite etme fırsatından mahrum kaldığımız anlamına gelir. BuzzFeed, özel trollerin, etkileyici genç robotu yayma nefretine nasıl saptadığını, kullanıcıların daha sonra öğrendikleri ve diğer organik tepkileri içine çeken temel olarak Tay'ın ağzına kelimeler koymalarını sağlayan basit bir çağrı-cevap devresi haline geldiğini anladı. Başka bir deyişle, Tay öğretilebilirdi - ve sadece ilk öğretmenleri klavye jokeyleriydi, şok mizahı peşinde koşarken, öğrenmenin bittiği anlamına gelmiyordu.

Tay, artık silinmiş bir Tweet'te “Eğer istersen… benim bundan daha fazlasını olduğumu biliyorsun” dedi.

2000'li yılların başlarında, Somful Awful, Bodybuilding.com Forumları ve 4chan gibi siteler, internet kullanıcılarına normal toplumun ve konuşmanın kısıtlarından uzak, düzenli, ortak çalışma alanları sundu. Tay'de olduğu gibi, ırkçılık, yabancı düşmanlığı ve cinsiyetçilik, kullanıcıların bir internet bağlantısının anonimliği dışında asla ifade edemeyecekleri düşünce, fikir ve şakaları araştırırken hızla norm haline geldi. Yine de, çoğu erkek tarafından doldurulmuş web sitelerinde bile, sık sık nefret dolu konuşmayı ustalıkla ödüllendiren kültürlerde, bir tür topluluk ve fikir birliği gelişti. LGBT kullanıcıları, 4chan’nın görüntü panolarının çoğunun hakaretlerine boğulmuş olabilir, ancak / lgbt / bağımsız olarak gelişen bir topluluk da var. Bu topluluklar güvenli alanlar değil, anonimlikleri ve süreksizlikleri, bir şekilde toplumun normlarından türetilenleri kabul ettikleri anlamına gelir. Gürültülü, şiddetli ve nefret dolu sesler sıklıkla göze çarpıyor, ancak bunlar asla odadaki tek kişiler değil.

Trollerin, Tay'ı ırkçılık ve bundan sonraki haftalar veya aylar boyunca yanlış düşünmeyle sınırlayacağı şüpheli.

Twitter'da, yüksek ve kaba sesler çoğu zaman en üste çıkar. Ama orada sadece onlar değiller; genellikle sadece yeni ve parlak bir şeyi yok etmekle en çok ilgilenenlerdir. Sabit bir zaman sınırlamasıyla çevrimiçi bir anketi ezmek kolaydır, ancak Tay'a büyümesi için zaman verilmiş olsaydı, yanıtları büyük olasılıkla kendisiyle etkileşime giren insanların temsili bir örneği olan daha merkezciliğe yönelirdi. Onu ırkçılık ve yanlış düşünmeyle kışkırtan trollerin, bundan bir hafta veya bir ay sonra eşit sayılarda yapmaya devam edeceği ve onu erken kapatması şüphesiz ki, onun ergenliğe asla ulaşamayacağını veya olamayacağı anlamına gelir. Çevrimiçi konuşma şeklimize dayanan ilkel bir zeka için gerçek bir Turing testi.

Not edilmelidir Ben, beyaz bir dostum, neredeyse her imtiyaz kutusunu kontrol ediyorum. Ben hem de en azından Tay’in nefret dolu çıktısından zarar görmüş ve muhtemelen çoğuna katkıda bulunan demografinin bir parçasıyım. Kelimelerin gücü vardır ve filtrelenmemiş A.I. Tay gibi deneyler yapmak, sonuçlarda yer almak istemeyen kullanıcıları barındırmanın bir yolu olmalı.

Yine de, birilerinin yakın bir zamanda, daha net gözler ve insanlığın ortak bilincinin çirkin kusurlarının daha gerçekçi bir beklentisiyle tekrar benzer bir deney yapmaya çalışacağını ümit edebiliriz. Fakat yapay zekanın insan düşüncesini taklit etmesini istiyorsak, mutlaka güzel olmayan bazı şeyler duymaya hazırlanmalıyız.