Elon Musk'un OpenAI Projesi AI için 4 Büyük Sorun Belirledi

Gittikçe daha karmaşık yapay zekadan kaynaklanabilecek sorunların çoğu, SkyNet'ten çok daha incedir, ancak bu daha akıllı A.I. riskleri olmadan gelmiyor.

Bu yüzden Elon Musk ve diğer Silicon Valley büyük kurtları, A.I. önce gerçek hasara neden olabilirler. Bu gruba OpenAI denir ve bu konularda yardım arıyor.

“OpenAI kar amacı gütmeyen bir yapay zeka araştırma şirketidir” diyor grup Hakkında sayfasında. “Amacımız, dijital zekayı, bir bütün olarak insanlığa en fazla yarar sağlayacak şekilde, finansal getiri yaratma gereği ile sınırlandırılmadan ilerletmektir.”

“Özel projeler” başlıklı bir blog yazısı olarak gizlenen bir iş ilanı, “çok geniş etkileri” olan veya “AI gelişiminin ortaya çıkmakta olan önemli sonuçlarını ele alan” sorunlar olarak ortaya çıkan dört “projeyi” belirtir. Ve sonra yazarları - Ilya Sutskever, Dario Amodei ve Sam Altman - Herhangi bir güçlü makine öğrenme uzmanını “OpenAI'de bu sorunlardan biri için çaba göstermeye” davet etmeye davet ediyorlar. Sadece bir başvuru gönderin, soruyorlar. Yapay zekanın karşılaştığı dört büyük problem:

Gizli AI sistemlerini bulmak.

Çok akıllı bir A.I.'den daha kötüsü. yanlış amaç için kullanılabilir mi? Çok akıllı bir A.I. Bu zaten kimsenin haberi olmadan yanlış amaç için kullanılmış. OpenAI ekibi “AI araştırmasına tahsis edilen organizasyon ve kaynak sayısı arttıkça, bir kuruluşun açıklanmayan bir AI atılımı yapması ve sistemi potansiyel olarak kötü niyetli amaçlar için kullanması olasılığı artar” dedi. “Bunu tespit etmek önemli görünüyor. Bunu yapmanın birçok yolunu hayal edebiliyoruz - haberlere, finansal piyasalara, çevrimiçi oyunlara vb. Bakmak. ”

A.I. programlayabilir.

En iyi programcılardan bazıları tembel. Bu nedenle OpenAI'in bir A.I. oluşturmak istediği anlaşılıyor. kendi başlarına programlar oluşturabilir. A.I.’de vakit geçirmek daha iyi. İhtiyacınız olan her şeyi kodlamak için yeterince akıllıca, tüm bu şeyleri kendiniz kodlamaktan ziyade. Bu 2016, yüksek sesle ağlamak için ve kodlayıcıların ara vermesi gerekiyor!

A.I.'yi kullanmak Siber savunma için.

OpenAI “AI'nın erken kullanımı bilgisayar sistemlerine girmektir” diyor. “AI tekniklerini, AI yöntemlerini yoğun şekilde kullanan karmaşık hackerlara karşı savunmak istiyoruz.” Kulağa hoş geliyor, özellikle MIT'nin şu anki A.I. siber saldırılara karşı korumak için insanlara güvenir.

Gerçekten karmaşık simülasyonlar yapmak.

OpenAI ekibi, “Birbiriyle etkileşime girebilen, uzun bir süre boyunca öğrenebilecek, dili keşfedebilecek ve zengin çeşitli hedeflere ulaşabilecek çok sayıda farklı ajanla çok büyük bir simülasyon oluşturmak istiyoruz” diyor.

Ah, hadi ama. Şimdi sizler Musk'un bir simülasyonda yaşamanın haklı olduğunu kanıtlamaya çalışıyorsunuz.