Elon Musk’un OpenAI’sı Güvenli Yapay Zeka Araştırması için Kas Olabilir

Haftasonu, Elon Musk, Sam Altman ve diğer Silikon Vadisi bigwigs beklenmedik bir şekilde, hedefini şöyle tanımlayan kar amacı gütmeyen bir şirket olan OpenAI'nin lansmanını duyurdular: “dijital zekayı insanlığın bir bütün olarak en fazla yarar sağlayacak şekilde ilerletmek, finansal getiri yaratma ihtiyacı tarafından kısıtlanmadı. ”

“Araştırmamız finansal yükümlülüklerden uzak olduğundan, olumlu bir insan etkisine daha iyi odaklanabiliriz. A.I.'ye inanıyoruz. Bireysel insan iradesinin bir uzantısı olmalı ve özgürlük ruhu içerisinde olabildiğince geniş ve eşit bir şekilde dağıtılmalıdır. ”

Bu duyurudan iki ana paket var. Birincisi, Musk ve şirketin A.I. Şu anda araştırma, kısa vadeli pratik değer elde etmeye çok dar bir odaklanmıştı ve A.I.'yi geliştirmek için daha geniş ve kapsamlı bir yaklaşım gösteren çabaları ilerletmeye yardımcı olmak istiyorlar. sistemleri. İkinci, daha örtülü paket servisi, Musk'un hala yarı pişmiş sistemler geliştirip tanıtırsak, A.I.’nın zarar verme potansiyeli konusunda endişeliydi. Musk daha önce A.I. “En büyük varoluşsal tehdidimiz” ve potansiyel tehlikeleri önlemek için düzenleyici gözetimin gerekli olabileceğini önerdi. OpenAI federal bir gözlemciye ihtiyaç duymadan bu gözetimi sağlamanın bir yolu olabilir.

Musk ve meslektaşlarının yaptıkları, diğerlerinin yaptıklarından farklı. Sonuçta, açık kaynak A.I. yeni bir şey değil. Google kendi A.I. Yazılım açık kaynak geçen ay ve bu oldukça standart bir prosedür haline geldi. Ancak 1 milyar dolarlık bir bağışla OpenAI zaten A.I.'de çalışan en büyük organizasyonlardan biri. araştırma, ve oldukça kolay bir şekilde en büyük kar amacı gütmeyen. Amacı, sonuçlarını halka açık hale getirmek ve tüm patentlerini telifsiz hale getirmektir. Bir havuç ve bir çubuğa sahipler ve onu bir endüstriyi yönlendirmek için kullanmayı düşünüyorlar.

Buradaki fikir, OpenAI'yi daha büyük şirketlere, özel araştırma laboratuvarlarına ve kendi A.I. dostça amaçlanamayacak ve bunun yerine zorlu uygulamalara sahip teknolojilere yol açabilecek araştırmalar. OpenAI ile çalışan araştırmacılar, temelde anında sonuç gösterme baskısı olmadan “dostça” A.I. Özel işletmelerin görmezden gelmeye eğilimli olabileceği güvenlik ve tasarım özellikleri için daha büyük bir dikkat olabilir. Seçici az sayıların A.I. yolunu kontrol ettiği beyaz bir kule olmayacak. gelişme. Herkese karşılama dünyası olacak.

İle röportajda arka kanal Musk ayrıca, çok çeşitli A.I. sistemleri. “A.I.'yi istiyoruz. Yaygın olmak ”dedi. “Muhtemelen çoğunun iyi olduğunu düşünüyoruz.”

Bu önemlidir, çünkü Musk ve Altman’ın A.I.’yi demokratikleştirmek istemelerinin birincil nedeni olduğunu düşünür. En iyi A.I.'ye inanıyorlar. - Robot geneline girmeden insanlığa olumlu bir şekilde fayda sağlayacak tür - Musk'un söylediği gibi “bireysel insan iradesinin bir uzantısı” gibi davranan tür. Söylemeye devam ediyor:

“A.I. Kendinizi genişletme, öyle ki, her bir kişi, AI'nın bir tür başka büyük bir merkezi istihbarat olmasına karşın, AI ile esasen simbiyotiktir. İnternetteki uygulamaları nasıl kullandığınızı, söyleyeceğinizi düşünüyorsanız, e-postanız var ve sosyal medyayı ve telefonunuzdaki uygulamaları da kullanıyorsunuz - etkili bir şekilde insanüstü davranıyorlar ve siz de onları düşünmüyorsunuz Diğer olmak, onları bir uzantısı olarak düşünürsün. Böylece AI'yı bu yöne yönlendirebiliriz, bunu yapmak istiyoruz. Ayrıca AI alanında benzer şekilde düşünen bir dizi benzer mühendis ve araştırmacı bulduk. ”

Temel olarak, OpenAI A.I. araştırma, insanları birbirine ve dünyaya bağlamaya yardımcı olan merkezi olmayan bir topluluktur.

Musk, OpenAI’nın kendi araştırmalarını (veya dış gruplar tarafından yeniden yapılanmaları) tehlikeli bir yöne gitmelerini nasıl önleyeceğini henüz açıklamadı. Ve burada dikkat edilmesi gereken başka bir şey var: Açık kaynaklı sistemler, yalnızca makine öğrenme algoritmaları oluşturmak için kullanılan verilerin serbestçe paylaşılması durumunda anlamlıdır. Akıllı bir sistemin yapması gereken öğrenmek nasıl akıllı olunacağını ve bunun için de veri ve deneyimlerden ders alması gerekiyor. Bir baraj inşa etmek gibi bir şey - aslında suyu durduracak bir şey yapmak için hem taslaklara (algoritma) hem de inşaat malzemelerine (veri) ihtiyacınız var.

Bu nedenle, insanlar Google’ın TensorFlow’unda neler yapabilecekleri konusunda hala sınırlılar - henüz Google’a ait veriye sahip değiller. OpenAI’den kurulan işbirlikleri, kurum içi araştırmacıların birlikte çalıştığı aynı verilere ücretsiz erişime izin vermediği sürece, Musk’un vizyonu mutlaka gerçekleştirilmeyecek - ya da en azından tanıtımını yapma biçiminde.

Musk, Altman ve diğer OpenAI kurucuları, A.I.’nın büyümesi üzerinde büyük bir etkisi olacak bir şey başlattı. buradan itibaren. Aynı zamanda, açık kaynaklı bir araştırma topluluğunu teşvik etme taahhüdünde dürüst olmaları gerekir; bu, kar amacı gütmeyen şirket için planlarında halka açık olma ve verileri paylaşmaya istekli olma anlamına gelir. Aksi takdirde, OpenAI sürü için tasarlanan sürü şirketlerinden çok farklı olmayacaktır.