UC Berkeley’in Yeni Merkezi A.I.’yi Nasıl Önleyebilir? vahiy

California Üniversitesi Berkeley, adını, yapay yapay zekanın, insanlığı yok etmesini önlemek için çalışan saygın kurum listesine ekledi. Pazartesi günü açıklanan yeni İnsan Uyumlu Yapay Zeka Merkezi, A.I. faydalı olmaya devam etmekte ve ayrıca bir A.I. kıyamet.

Berkeley'in kendi A.I. uzman Profesör Stuart Russell, bu girişime liderlik ediyor. Açık Hayırsever Projesi, Merkeze 5.5 milyon dolarlık bir hibe sağladı ve diğerleri de paramparça etti. Berkeley, Cornell Üniversitesi ve Michigan Üniversitesi'nden birkaç uzman daha ortak araştırmacı olarak görev yapacak.

Cornell Profesör Bart Selman anlattı Ters Merkez hakkında, A.I. meli Korku ve neden dünya muhtemelen bir el cihazında cehenneme gitmedi?

İnsan-Uyumlu A.I. Merkezi ile neler başarmayı umuyorsunuz?

Bu merkezler nispeten yeni bir gelişmedir. İnsanlar yatırım yaparlar - örneğin Geleceğin Enstitüsü, hayatın geleceği ile ilgili soruları ve hayatın ve toplumun geleceği ile ilgili olası tehditleri ele almak için Elon Musk'tan yatırım yapar. Berkeley'deki yeni merkez böyle bir kurumun bir başka örneğidir.

Yapay zekanın ve bilişimin toplumumuzdaki rolünün değişmesinden esinlenmiştir. Bu teknolojiler toplumumuza giriyor ve bizi de etkileyecek. Bu kurumlar, olası olumsuz etkileri incelemek ya da olumsuz bir etkinin olmadığından nasıl emin olacaklarını araştırmak için araştırmacıları bir araya getirmek için var.

Merkezin başlığı, A.I. ve insanlık doğal olarak bağdaşmaz. Bu senin görüşün mü?

İnsanların ilk tepkisi, bu şeylerin uyumsuz olabileceği yönünde. Aslında, doğru önlemlerle ve uygun kılavuzlarla ve araştırmalarla, çıkarları gerçekten hizalayabileceğimize ve bu teknolojilerin yararlı olduğundan emin olabileceğimize inanıyoruz. A. I. teknolojinin muazzam olumlu yönleri var ve toplumun amacı, olumlu yönlerimizde kalmamızı sağlamak. Enstitüye katılan araştırmacılar bunun mümkün olduğuna inanıyor.

Eğer bir mahkumun bakış açısını benimseyebilseydiniz, muhtemelen A.I.'nin neden olduğu kıyamet senaryosu nasıl olurdu?

Net bir risk, ülkeler arasında bir A.I.-silah savaşına yol açabilecek askeri bir yapay zeka gelişimi olacaktır: Özerk silahlar, birbirlerine düşman olan farklı ülkeler tarafından geliştirilen kendi emirlerini takip eden özerk dronlar. Bu gördüğüm en somut risk. Sanırım A.I. Kendi kendini süren otomobiller için geliştirilen, örneğin - toplumdaki düzenli roller için - çok faydalı olacaktır. Ancak askeri yönü endişe verici bir bileşendir.

Bu zaten bir yokuş yukarı savaş mı?

Ülkeler aslında bu konuyu düşünüyor. Belli bir anlamda, bu bir yokuş yukarı savaş: Ordu, A.I. teknolojisi. Ancak, bazı ülkelerdeki ülkelerin tüm ülkelere faydası olacağına karar verdiği biyolojik silahlar muhtemelen en bilinen durumdur - anlaşmalar yapıldı. değil biyolojik silahları büyük ölçüde geliştirmek. Ülkelerin olumsuz tarafının herkes için bir all-out’a giremeyecek kadar büyük olduğunun farkına varacağını umuyoruz. silâhlanma yarışı.

Her iki taraf da bu teknolojiyi geliştirirse, kimse öne geçemez.

Merkez veya kötü niyetli A.I. hakkında bilmem gereken başka bir şey var mı? Genel olarak?

Olumlu tarafı vermek önemlidir. Riskleri vurgulamak kolaydır - ve elbette, bu merkezlerin kurulmasının kısmen nedeni budur - ama aynı zamanda birçok araştırmacının bu riskin yönetilebilir olduğunu ve üstlerin çok büyük olacağını düşündüğünü belirtmek önemlidir.

Sen zaten kıyamet günü perspektifini verdin. A.I.'nin bazı potansiyel olumlu kullanımları nelerdir? Gerçekten heyecanlandın mı?

Olumlu tarafı, bu teknolojiden destek aldığımız bir toplum olacaktır. Eşzamanlı konuşma çevirileri - örneğin Çince ve İngilizce arasında - insanların, sanki bir ana dili konuşuyormuş gibi, dünyanın dört bir yanında birbirleriyle sohbet edebildikleri yer. Yaşlı bakımı: İnsanlar evlerinde istedikleri süre kalabilir, çünkü bağımsız bir şekilde yaşamalarını sağlayan bir ev yardımcısı robotu var.

Bu muhtemelen genel olarak yaşam üzerinde oldukça etkileyici bir etkiye sahip olacak - istihdam ve öncelik sırasındakiler.

Evet. Bir de ayrı ayrı bir tartışma olan bir iş tartışması var. Herkesi desteklemek için yeterli kaynaklar olacak, bu yüzden herkesin bu gelişmelerden faydalanmasını sağladığımızdan emin olun. Çalışmanın ne anlama geldiğinin, insanların ne tür bir iş yapacağının yeniden fark edilmesi söz konusu olacaktır. Ancak, ilke olarak, insanlar yapmaktan zevk alacakları aktiviteler için daha fazla özgürlüğe ve daha fazla zamana sahip olacaklar, çünkü makineler diğer birçok sıradan ile yardımcı olacak, iş tipi şeyler. Biraz zaman alacaktır, ancak toplumun uyum sağlayacağına ve bu değişiklikleri yavaş yavaş dahil edeceğine inanıyoruz.

Bu röportaj açıklık ve kısalık için düzenlenmiştir.