yapay zeka tarafından oluşturulan metin ChatGPT gibi araçlar günlük hayatı etkilemeye başlıyor. Öğretmenler bunu sınıf derslerinin bir parçası olarak test ediyorlar. Pazarlamacılar biraz şampiyon stajyerlerini değiştir. Memler gidiyor vahşi geyik. Ben? değilim desem yalan olur biraz yazı işim için gelen robotlar konusunda endişeli. (Neyse ki ChatGPT, Zoom aramalarına atlayamaz ve henüz röportaj yapamaz.)
Üretken AI araçlarının artık herkesin erişimine açık olmasıyla, internette gezinirken muhtemelen daha fazla yapay içerikle karşılaşacaksınız. Bazı örnekler iyi huylu olabilir, örneğin otomatik oluşturulan BuzzFeed sınavı Hangi derin yağda kızartılmış tatlının politik inançlarınıza uygun olduğu konusunda. (Demokratik beignet misiniz yoksa Cumhuriyetçi zeplin misiniz?) Yabancı bir hükümetin sofistike bir propaganda kampanyası gibi diğer örnekler daha uğursuz olabilir.
Akademik araştırmacılar, bir kelime dizisinin ChatGPT gibi bir program tarafından üretilip üretilmediğini tespit etmenin yollarını arıyorlar. Şu anda, okuduğunuz her şeyin yapay zeka yardımıyla yazıldığına dair kesin bir gösterge nedir?
Sürpriz eksikliği.
Entropi, Değerlendirildi
Doğal yazı kalıplarını taklit etme yeteneğine sahip algoritmalar, tahmin edebileceğinizden birkaç yıldır ortalıkta dolaşıyor. 2019’da Harvard ve MIT-IBM Watson AI Lab deneysel bir araç yayınladı metni tarar ve sözcükleri rastgelelik düzeylerine göre vurgular.
Bu neden faydalı olabilir? Bir AI metin üreteci temelde mistik bir model makinesidir: taklitte mükemmel, eğri topları fırlatmada zayıf. Elbette, patronunuza bir e-posta yazdığınızda veya bazı arkadaşlarınıza bir grup mesajı gönderdiğinizde, tonunuz ve ritminiz tahmin edilebilir gelebilir, ancak insani iletişim tarzımızın altında yatan kaprisli bir kalite vardır.
Princeton’da bir öğrenci olan Edward Tian, viral oldu adlı benzer, deneysel bir araçla bu yılın başlarında GPTZero, eğitimcileri hedef aldı. Bir içeriğin ChatGPT tarafından “şaşkınlık” (rastgelelik olarak da bilinir) ve “patlama” (varyans olarak da bilinir) temelinde oluşturulmuş olma olasılığını ölçer. ChatGPT’nin arkasındaki OpenAI düştü başka bir araç 1.000 karakterden uzun metni taramak ve bir karar vermek için yapılmıştır. Şirket, yanlış pozitifler ve İngilizce dışında sınırlı etkinlik gibi aracın sınırlamaları konusunda açık sözlü. Nasıl İngilizce verileri, AI metin oluşturucuların arkasındaki kişiler için genellikle en yüksek önceliğe sahipse, AI metin algılamaya yönelik çoğu araç şu anda İngilizce konuşanlara fayda sağlamak için en uygun olanıdır.
Bir haber makalesinin en azından kısmen yapay zeka tarafından oluşturulup oluşturulmadığını hissedebiliyor musunuz? Tian, ”Bu AI üretici metinler, senin gibi bir gazetecinin işini asla yapamazlar, Reece,” diyor Tian. Bu iyi kalpli bir duygu. Teknoloji odaklı bir web sitesi olan CNET, birden fazla yayın yaptı. algoritmalarla yazılmış makaleler ve bir insan tarafından bitiş çizgisine sürüklendi. Şu an için ChatGPT’de belirli bir küstahlık yok ve ara sıra halüsinasyon görür, güvenilir raporlama için bir sorun olabilir. Nitelikli gazetecilerin psychedelics’i mesai sonrası için sakladığını herkes bilir.
Entropi, Taklit
Bu algılama araçları şimdilik yardımcı olsa da, ABD’de bilgisayar bilimi profesörü olan Tom Goldstein Maryland Üniversitesi, doğal dil işleme daha karmaşık hale geldikçe, daha az etkili olacakları bir gelecek görüyor. Goldstein, “Bu tür algılayıcılar, insan metni ile makine metni arasında sistematik farklılıklar olduğu gerçeğine dayanır” diyor. “Ancak bu şirketlerin amacı, insan metnine mümkün olduğunca yakın makine metni yapmaktır.” Bu, sentetik ortam tespiti için tüm umutların kaybolduğu anlamına mı geliyor? Kesinlikle hayır.
Goldstein’da çalıştı son makale AI metin oluşturucularına güç veren büyük dil modellerine yerleştirilebilecek olası filigran yöntemlerini araştırmak. Kusursuz değil, ama büyüleyici bir fikir. Unutmayın, ChatGPT bir cümledeki bir sonraki olası kelimeyi tahmin etmeye çalışır ve işlem sırasında birden çok seçeneği karşılaştırır. Bir filigran, AI metin oluşturucu için belirli kelime modellerini sınır dışı olarak belirleyebilir. Bu nedenle, metin tarandığında ve filigran kuralları birden çok kez ihlal edildiğinde, bu başyapıtı muhtemelen bir insanın patlattığını gösterir.
Kaynak : https://www.wired.com/story/how-to-spot-generative-ai-text-chatgpt/