Dezenformasyon Araştırmacıları Yapay Zeka Sohbet Robotları Hakkında Alarm Veriyor

2020’de, Middlebury Uluslararası Çalışmalar Enstitüsü Terörizm, Aşırılık ve Terörle Mücadele Merkezi’ndeki araştırmacılar, ChatGPT’nin temelindeki teknoloji olan GPT-3’ün “aşırılık yanlısı topluluklar hakkında etkileyici derecede derin bilgiye” sahip olduğunu ve polemik üretmeye yönlendirilebileceğini keşfettiler. kitlesel nişancı tarzı, Nazizm’i tartışan sahte forum konuları, QAnon’un savunulması ve hatta çok dilli aşırılık yanlısı metinler.

Bir sözcü, OpenAI’nin ChatGPT tarafından beslenen ve üretilen içeriği izlemek için makineler ve insanlar kullandığını söyledi. Şirket, ChatGPT’ye daha bilinçli yanıtlar üretmeyi öğretirken, zehirli eğitim verilerini belirlemek ve filtrelemek için hem insan yapay zeka eğitmenlerine hem de kullanıcılardan gelen geri bildirimlere güveniyor.

OpenAI’ler politikalar teknolojisinin sahtekarlığı teşvik etmek, kullanıcıları aldatmak veya manipüle etmek veya siyaseti etkilemeye çalışmak için kullanılmasını yasaklamak; şirket sunuyor ücretsiz denetleme aracı nefreti, kendine zarar vermeyi, şiddeti veya seksi teşvik eden içeriği ele almak. Ancak şu anda araç, İngilizce dışındaki diller için sınırlı destek sunuyor ve siyasi materyalleri, istenmeyen e-postaları, aldatmacaları veya kötü amaçlı yazılımları tespit etmiyor. ChatGPT, kullanıcıları “bazen zararlı talimatlar veya taraflı içerik üretebileceği” konusunda uyarır.

Geçen hafta, OpenAI ayrı bir araç duyurdu Kısmen otomatikleştirilmiş yanlış bilgilendirme kampanyalarını belirlemek için, metnin yapay zeka yerine bir insan tarafından ne zaman yazıldığını ayırt etmeye yardımcı olmak için. Şirket, aracının tamamen güvenilir olmadığı konusunda uyardı – yapay zeka metnini zamanın yalnızca yüzde 26’sında doğru bir şekilde tanımlıyor (zamanın yüzde 9’unda insan tarafından yazılan metni yanlış bir şekilde etiketliyor) – ve bundan kaçınılabilir. Araç ayrıca 1.000’den az karakter içeren veya İngilizce dışındaki dillerde yazılmış metinlerle de mücadele etti.

Princeton’da bilgisayar bilimi profesörü olan Arvind Narayanan, yazdı Aralık ayında Twitter’da, ChatGPT’ye bilgi güvenliği hakkında bir sınavda öğrencilere sorduğu bazı temel soruları sormuştu. Chatbot, akla yatkın görünen ancak aslında saçma sapan yanıtlarla yanıt verdi, diye yazdı.

“Tehlike şu ki, cevabı zaten bilmiyorsanız yanlış olduğunu söyleyemezsiniz.” o yazdı. “O kadar rahatsız ediciydi ki, aklımı kaçırmadığımdan emin olmak için referans çözümlerime bakmak zorunda kaldım.”

Araştırmacılar, teknolojinin İngilizcede dezenformasyon yaymayı uman yabancı ajanlar tarafından istismar edilebileceğinden endişe ediyorlar. Hootsuite gibi şirketler, müşterileri tercüman olmadan desteklemek için Heyday platformu gibi çok dilli sohbet robotlarını zaten kullanıyor.