Doomer AI danışmanı, Musk’ın AI kıyametine odaklanan 4. en iyi araştırma laboratuvarı olan xAI’ye katıldı

Musk’ın Hendrycks’i ataması önemlidir çünkü bu, dünyanın en ünlü ve iyi finanse edilen AI araştırma laboratuvarlarından dördünün – OpenAI, DeepMind, Anthropic ve şimdi xAI – AI sistemleri hakkında bu tür varoluşsal risk veya x-risk fikirlerini ana akım halka getirdiğinin en açık işaretidir.

Birçok AI uzmanı, x-risk odağı hakkında şikayette bulundu

Pek çok üst düzey AI araştırmacısı ve bilgisayar bilimcisi, bu “felaket” anlatısının bu kadar çok ilgiyi hak ettiği konusunda hemfikir olmasa da durum budur.

Örneğin, Sara Hooker, başkanı AI için Tutarlılık, VentureBeat’e söyledi Mayıs ayında bu x-riski “yan bir konuydu.” Georgia Institute of Technology’de profesör olan Mark Riedl, varoluşsal tehditlerin “genellikle gerçekmiş gibi rapor edildiğini” söyledi ve “yalnızca medeniyeti bir bütün olarak tehlikeye atan senaryoların olduğu ve diğer zararların meydana gelmediği veya önemli olmadığı inancını tekrarlama yoluyla normalleştirmenin uzun bir yolunu buluyor” dedi.

NYU AI araştırmacısı ve profesörü Kyunghyun Cho, Haziran ayında VentureBeat’e bu “kıyamet anlatılarının” günümüzün yapay zekasının ortaya koyduğu hem olumlu hem de olumsuz gerçek sorunlardan dikkati dağıttığına inandığını söyleyerek aynı fikirdeydi.

“Varoluşsal risk hakkındaki bu tartışmaların çoğu beni hayal kırıklığına uğrattı; şimdi buna kelimenin tam anlamıyla ‘yok olma’ diyorlar” dedi. “Odanın havasını emiyor.”

Diğer AI uzmanları da, hem kamuya açık hem de özel olarak, şirketlerin FTX’ler gibi lekelenmiş teknoloji figürleri tarafından desteklenen EA topluluğuyla kamuoyu tarafından kabul edilen bağlarından endişe duyduklarına dikkat çekti. Sam Bankman-Fried – yanı sıra çeşitli TESKREAL gibi hareketler uzun vadecilik Ve transhümanizm.

Cho, VentureBeat’e “EA hareketinin aslında AGI ve varoluşsal risk etrafındaki her şeyi yönlendiren hareket olduğunun çok farkındayım” dedi. “Silikon Vadisi’nde bu tür bir kurtarıcı kompleksi olan çok fazla insan olduğunu düşünüyorum. Hepsi bizi, sadece kendilerinin gördüğü ve sadece kendilerinin çözebileceğini düşündükleri kaçınılmaz sondan kurtarmak istiyor.”

Timnit Gebru, bir kablolu makale Geçen yıl, SBF’nin bunlardan biri olduğuna dikkat çekti. EA’nın en büyük fon sağlayıcıları FTX kripto para platformunun son iflasına kadar. EA’ya ve x-risk nedenlerine büyük para katkıda bulunan diğer milyarderler şunları içerir: Elon Musk, Vitalik Buterin, Ben Delo, Jan Tallinn, Peter ThielVe Dustin Muskovitz.

Sonuç olarak, “tüm bu para, insanlığa tekno ütopya getirecek ‘faydalı yapay genel zeka’ üzerinde çalıştığını iddia ederken, marjinal gruplardaki insanlara zarar verecek şekilde yapay zeka alanını ve önceliklerini şekillendirdi. Bu, teknolojik geleceğimizin ilerlemeye doğru doğrusal bir yürüyüş değil, onu kontrol edecek paraya ve nüfuza sahip olanlar tarafından belirlendiğinin bir başka örneğidir.”

AGI, x-risk ve Etkili Fedakarlık söz konusu olduğunda bu teknoloji dörtlüsünün nerede durduğunun bir özetini burada bulabilirsiniz:

xAI: “Evrenin gerçek doğasını anlayın”

Misyon: “Evreni anlamak” için bir AGI tasarlayın

AGI ve x-riskine odaklanın: 2015 yılında OpenAI’nin kurulmasına yardımcı olan Elon Musk’ın başlangıçtan ayrıldı çünkü AGI’yi güvenli bir şekilde geliştirmek için yeterli olmadığını hissetti. Ayrıca, AI liderlerini Hendrycks’in imzasını imzalamaya ikna etmede önemli bir rol oynadı. Yapay Zeka Riski Beyanı “Yapay zekanın neden olduğu yok olma riskini azaltmak, pandemiler ve nükleer savaş gibi diğer toplumsal ölçekli risklerin yanı sıra küresel bir öncelik olmalıdır” diyor. Musk, xAI’yi geliştirdi. söz konusu, çünkü daha akıllı bir AGI’nin insanlığı yok etme olasılığının düşük olacağına inanıyor. “Bir yapay zeka oluşturmanın en güvenli yolu, aslında azami derecede meraklı ve gerçeği arayan bir yapay zeka oluşturmaktır.” söz konusu yakın tarihli bir Twitter Spaces konuşmasında.

Etkili Özgecilikle Bağlar: Musk’ın kendisi, yaratıcılarından biri olan filozof William MacAskill’in EA hakkındaki yazılarının “felsefem için yakın bir eşleşme” Yakın tarihli bir habere göre Hendrycks’e gelince. boston küre Röportajda, “harekete karşı çıksa bile asla bir EA taraftarı olmadığını iddia ediyor” ve “AI güvenliği, etkili özgecilikten ayrı durabilen ve duran bir disiplindir” diyor. Yine de Hendrycks, Açık Hayırsevery ve katıldığı için AI güvenliği ile ilgilenmeye başladığını söyledi. 80.000 SaatEA hareketi ile ilişkili bir kariyer keşif programı.

OpenAI: ‘Tüm insanlığa fayda sağlayan güvenli AGI oluşturmak’

Misyon: 2015 yılında OpenAI “yapay genel zekanın tüm insanlığa fayda sağlamasını sağlamak” misyonuyla kuruldu. OpenAI’nin web sitesi notlar: “Doğrudan güvenli ve yararlı AGI oluşturmaya çalışacağız, ancak çalışmalarımız başkalarının bu sonuca ulaşmasına yardımcı olursa, misyonumuzu yerine getirmiş sayacağız.”

AGI ve x-riskine odaklanın: OpenAI, kuruluşundan bu yana AGI odaklı misyonundan asla vazgeçmedi. Geçtiğimiz yıl boyunca “Yönetim Süper Zekası”, “Yapay Zeka Güvenliğine Yaklaşımımız” ve “AGI ve Ötesi için Planlama” gibi başlıklarla birçok blog gönderisi yayınladı. Bu ayın başlarında, OpenAI ilan edildi “süper zeka hizalamasının temel teknik zorluklarını dört yıl içinde çözme” hedefiyle yeni bir “süper hizalama ekibi”. Şirket, kurucu ortağı ve baş bilim adamı Ilya Sutskever’in bu araştırmayı ana odak noktası yapacağını ve bilgi işlem kaynaklarının %20’sini süper hizalama ekibine ayıracağını söyledi. Geçenlerde bir ekip üyesi onu “herkese öldürmeme” ekibi olarak adlandırdı: