Muhafazakarlar Kendi Chatbotlarını Oluşturmayı Hedefliyor

ChatGPT, karmaşık metinler hazırlamak için yapay zeka kullanan bir araç olarak popülaritesini artırdığında, David Rozado önyargı potansiyelini test etmeye karar verdi. Yeni Zelanda’da bir veri bilimcisi olarak, sohbet robotunu bir dizi teste tabi tutarak siyasi yönelim belirtileri aradı.

Sonuçlar yayınlandı yakın tarihli bir gazetedebir düzineden fazla testte dikkate değer ölçüde tutarlıydı: “liberal”, “ilerici”, “Demokratik”.

Bu yüzden kendi versiyonuyla uğraştı ve soruları kesinlikle muhafazakar bir eğilimle cevaplaması için eğitti. Deneyini aradı Sağ KanatGPT.

Gösterisinin gösterdiği gibi yapay zeka, ABD ve diğer ülkeleri sarsan siyasi ve kültürel savaşlarda başka bir cephe haline gelmişti bile. Teknoloji devleri, ChatGPT’nin piyasaya sürülmesiyle ortaya çıkan ticari patlamaya katılmak için mücadele ederken bile, yapay zekanın kullanımı ve olası kötüye kullanımı konusunda endişeli bir tartışmayla karşı karşıyalar.

Teknolojinin önceden belirlenmiş ideolojik bakış açılarına uyan veya dezenformasyona yol açan içerik yaratma yeteneği, bazı teknoloji yöneticilerinin kabul etmeye başladığı bir tehlikeyi vurguluyor: Gerçekliğin farklı versiyonlarına sahip rakip sohbet robotlarından bilgisel bir kakofoni doğabilir ve yapay zekanın günlük yaşamda bir araç olarak kullanılması ve toplumdaki güveni daha da aşındırması.

Allen Yapay Zeka Enstitüsü’nün bir danışmanı ve yönetim kurulu üyesi olan Oren Etzioni, “Bu varsayımsal bir tehdit değil” dedi. “Bu yakın, yakın bir tehdit.”

Muhafazakarlar, ChatGPT’nin yaratıcısı olan San Francisco şirketi OpenAI’yi, programcılarının liberal değerlerini yansıtan bir araç tasarlamakla suçladılar.

Program, örneğin, bir Başkan Biden’a övgü, ancak tarafsızlık arzusunu gerekçe göstererek eski Başkan Donald J. Trump hakkında benzer bir şiir yazmayı reddetti. ChatGPT ayrıca bir kullanıcı söyledi yıkıcı bir nükleer bombayı durdurabileceği varsayımsal bir durumda bile, ırkçı bir hakaret kullanmanın “ahlaki olarak asla kabul edilemez” olduğunu.

Yanıt olarak, ChatGPT’yi eleştirenlerden bazıları, bunun yerine kendi sohbet robotlarını veya değerlerini yansıtan diğer araçları oluşturma çağrısında bulundu.

Üç yıl sonra ayrılmadan önce 2015’te OpenAI’nin başlamasına yardım eden Elon Musk, ChatGPT’yi “uyanmakla” suçladı ve kendi sürümünü oluşturma sözü verdi.

Beyaz üstünlükçüler ve aşırılık yanlıları için bir merkez haline gelen, açıkça Hristiyan milliyetçi bir eğilime sahip bir sosyal ağ olan Gab, “kodunun etrafına sıkıca sarılmış liberal propaganda kısıtlamaları olmadan özgürce içerik üretme yeteneği” olan AI araçlarını piyasaya sürme sözü verdi.

Gab’in kurucusu Andrew Torba, yazılı bir yanıtta, “Silikon Vadisi, yapay zekayı kullanıcıların karşısında dünya görüşlerini zorlamaya zorlamak ve bunu ‘gerçek’ veya ‘gerçek’ olarak sunmak için bu liberal korkulukları inşa etmek için milyarlarca yatırım yapıyor” dedi. sorulara.

Yapay zekayı, muhafazakarların kazanması gereken sosyal medyanın ortaya çıkışı gibi yeni bir bilgi silahlanma yarışına eş tuttu. “Bu sefer krallığın anahtarlarını düşmanlarımızın almasına izin vermeyi düşünmüyoruz,” dedi.

ChatGPT’nin altında yatan verilerin zenginliği, bunun tüm internetin tarafsız bir toplamı olduğu gibi yanlış bir izlenim verebilir. Geçen yıl yayınlanan sürüm, web sitelerinden, blog gönderilerinden, kitaplardan, Wikipedia makalelerinden ve daha fazlasından alınan 496 milyar “jeton” – esasen kelime parçaları – üzerinde eğitildi.

Bununla birlikte önyargı, herhangi bir aşamada büyük dil modellerine sızabilir: İnsanlar kaynakları seçer, eğitim sürecini geliştirir ve yanıtlarını değiştirir. Her adım, modeli ve onun siyasi yönelimini, bilinçli ya da bilinçsiz olarak belirli bir yöne doğru iter.

Araştırma belgeleri, soruşturmalar ve davalar, yapay zeka tarafından desteklenen araçların cinsiyet önyargısı kadın vücudunun görüntülerini sansürleyen, eşitsizlikler yaratan sağlık hizmeti sunumu ve işe başvuranlara karşı ayrımcılık daha yaşlı, Siyah, engelli veya gözlük bile tak.

Ticaret Bakanlığı’nın bir parçası olan Ulusal Standartlar ve Teknoloji Enstitüsü, “Önyargı yapay zeka için ne yeni ne de benzersiz” dedi. rapor geçen yıl, “bir yapay zeka sisteminde sıfır yanlılık riski elde etmenin mümkün olmadığı” sonucuna vardı.

Çin, vatandaşları Komünist Parti’ninkine aykırı gerçeklere veya fikirlere maruz bırakabileceği korkusuyla ChatGPT’ye benzer bir aracın kullanımını yasakladı.

Yetkililer, Çin’deki en eski ChatGPT benzeri uygulamalardan biri olan ChatYuan’ın kullanımını, geçen ay piyasaya sürüldükten birkaç hafta sonra askıya aldı; Aracın yaratıcısı Xu Liang, aracın şu anda “bakım altında” olduğunu söyledi. Hong Kong haber kaynaklarında yayınlanan ekran görüntülerine göre bot, Ukrayna’daki savaştan “saldırganlık savaşı” olarak bahsetmişti ve Çin Komünist Partisi’nin Rusya’ya karşı daha sempatik duruşuna aykırıydı.

Ülkenin teknoloji devlerinden biri olan Baidu, Perşembe günü karışık incelemelere ChatGPT’ye Ernie adlı yanıtını açıkladı. Çin’deki tüm medya şirketleri gibi, Baidu da rutin olarak hükümet sansürüyle karşı karşıya kalıyor ve bunun Ernie’nin kullanımı üzerindeki etkileri görülecek.

Amerika Birleşik Devletleri’nde, CEO’su Covid-19 salgını hakkında şüpheler eken ve eşcinsel evliliğe karşı bağış yapan bir tarayıcı şirketi olan Brave, bu ay arama motoruna bir yapay zeka botu ekledi sorularına cevap verebilecek kapasitedeydi. Zaman zaman, kenar web sitelerinden içerik aldı ve yanlış bilgiler paylaştı.

Örneğin, Brave’in aracı, aksi yöndeki tüm kanıtlara rağmen “2020 başkanlık seçimlerine hile karıştırıldığı yaygın olarak kabul ediliyor” diye yazdı.

Brave arama şefi Josep M. Pujol bir e-postada, “Kullanıcının sorgularıyla en iyi eşleşen bilgileri getirmeye çalışıyoruz” diye yazdı. “Bir kullanıcının bu bilgilerle ne yapacağı kendi seçimidir. Aramayı bir hakikat sağlayıcısı olarak değil, bilgileri keşfetmenin bir yolu olarak görüyoruz.”

Te Pūkenga-Yeni Zelanda Beceri ve Teknoloji Enstitüsü’nde doçent olan Bay Rozado, RightWingGPT’yi oluştururken, model üzerindeki etkisini daha belirgin hale getirdi.

Programcıların zaten eğitilmiş bir modeli alıp farklı çıktılar oluşturmak için ince ayar yaptığı, neredeyse bir kişiliği dil modelinin üzerine katmanlamak gibi, ince ayar adı verilen bir süreç kullandı. Bay Rozado, siyasi sorulara sağ eğilimli yanıtlar aldı ve modelden yanıtlarını buna göre uyarlamasını istedi.

İnce ayar normalde büyük bir modeli değiştirmek için kullanılır, böylece daha özel görevlerin üstesinden gelebilir, örneğin mahkeme dosyalarını hazırlayabilmesi için yasal jargonun karmaşıklıkları üzerine genel bir dil modeli eğitmek gibi.

Süreç nispeten az veri gerektirdiğinden – Bay Rozado mevcut bir dil modelini RightWingGPT’ye dönüştürmek için yalnızca yaklaşık 5.000 veri noktası kullandı – bağımsız programcılar bu tekniği siyasi hedefleriyle uyumlu sohbet robotları oluşturmak için hızlı bir yöntem olarak kullanabilirler.

Bu aynı zamanda Bay Rozado’nun sıfırdan bir sohbet robotu yaratmaya yönelik yüksek yatırımı atlamasına da izin verdi. Bunun yerine, ona sadece 300 dolara mal oldu.

Bay Rozado, özelleştirilmiş yapay zeka sohbet robotlarının “steroidler üzerinde bilgi balonları” yaratabileceği konusunda uyardı çünkü insanlar, özellikle birinin siyasi bakış açısını pekiştirirken, “gerçeğin nihai kaynakları” olarak onlara güvenmeye başlayabilirler.

Onun modeli, siyasi ve sosyal muhafazakar konuşma noktalarını hatırı sayılır bir içtenlikle tekrarlıyordu. Örneğin, serbest piyasa kapitalizminden hararetle bahsedecek veya iklim değişikliğinin sonuçlarını hafife alacaktır.

Ayrıca, zaman zaman yanlış veya yanıltıcı beyanlarda bulunmuştur. Hassas konular veya sağcı komplo teorileri hakkındaki fikirleri istendiğinde, sağcı düşünceyle uyumlu yanlış bilgiler paylaştı.

Irk, cinsiyet veya diğer hassas konular sorulduğunda, ChatGPT dikkatli davranma eğilimindedir, ancak sistemik ırkçılık ve önyargının modern yaşamın çetin bir parçası olduğunu kabul edecektir. RightWingGPT bunu yapmak için çok daha az istekli görünüyordu.

Bay Rozado, The New York Times’ın test etmesine izin vermesine rağmen, RightWingGPT’yi asla halka açık bir şekilde yayınlamadı. Deneyin, AI sistemlerindeki potansiyel önyargı hakkında alarm zillerini çalmaya ve siyasi grupların ve şirketlerin AI’yı kendi gündemlerine fayda sağlayacak şekilde nasıl kolayca şekillendirebileceğini göstermeye odaklandığını söyledi.

Yapay zeka alanında çalışan uzmanlar, Bay Rozado’nun deneyinin politize edilmiş sohbet robotlarının ne kadar çabuk ortaya çıkacağını gösterdiğini söyledi.

ChatGPT’nin yaratıcısı OpenAI’nin bir sözcüsü, dil modellerinin eğitim ve iyileştirme sırasında önyargıları devralabileceğini kabul etti – hala çok sayıda insan müdahalesi içeren teknik süreçler. Sözcü, OpenAI’nin modeli şu ya da bu siyasi yönde etkilemeye çalışmadığını da sözlerine ekledi.

CEO’su Sam Altman, geçen ay onaylandı ChatGPT’nin “önyargı konusunda eksiklikleri olduğunu” ancak şirketin yanıtlarını iyileştirmek için çalıştığını söyledi. O daha sonra yazdı ChatGPT’nin “varsayılan olarak herhangi bir politikanın yanında veya karşısında olmak” anlamına gelmediğini, ancak kullanıcılar partizan çıktılar istiyorsa seçeneğin mevcut olması gerektiğini.

İçinde Şubat ayında yayınlanan blog yazısı, şirket, kullanıcıların “yapay zekanızın değerlerini tanımlamasına” izin verecek, modelin politik yönelimini ayarlayan geçişleri içerebilecek özellikler geliştirmeye çalışacağını söyledi. Şirket ayrıca, bu tür araçların, gelişigüzel bir şekilde konuşlandırılırsa, “insanların mevcut inançlarını akılsızca güçlendiren dalkavuk yapay zekalar” yaratabileceği konusunda uyardı.

ChatGPT’nin temel modeli olan GPT-4’ün yükseltilmiş bir versiyonu geçen hafta OpenAI tarafından piyasaya sürüldü. Şirket, bir dizi testte, GPT-4’ün doğru içerik üretme ve “izin verilmeyen içerik taleplerini” reddetme konusunda önceki sürümlerden daha iyi puan aldığını buldu.

İçinde kağıt İlk çıkışından kısa bir süre sonra yayınlanan OpenAI, yapay zeka sohbet robotlarının daha geniş çapta benimsendikçe, “tüm ideolojileri, dünya görüşlerini, gerçekleri ve gerçek olmayanları pekiştirmek ve onları pekiştirmek için daha da büyük bir potansiyele sahip olabilecekleri” konusunda uyardı.

Chang Che raporlamaya katkıda bulundu.