ChatGPT gibi yapay zekaların kullanımı giderek artmaya başladı. Öyle ki, üniversitede öğrenciler dersleri için ChatGPT kullanarak makaleler oluşturmaya başladı. Bu nedenle bunları tespit edilmesi için de uzun süredir bazı sistemler geliştiriliyordu.
Stanford'daki bir grup araştırmacı DetectGPT adında yeni bir aracını tanıttı. Bu araç, yükseköğretimde üretilen metinlerle yapay zeka ile mücadelede kullanılabilecek. ChatGPT gibi büyük dil modellerinin (LLM'ler) ürettiği metinlerin tipik olarak modelin olasılık fonksiyonunun negatif eğrilik bölgelerinin belirli bölgeleri etrafında dolaştığı fikrine dayanıyor. Bu içgörü sayesinde ekip, metnin makine tarafından üretilip üretilmediğini değerlendirmek için bir yapay zekayı eğitmeye veya metni karşılaştırmak için büyük veri kümeleri toplamaya dayanmayan yeni bir yöntem geliştirdi.
"Sıfır atış" olarak adlandırılan bu yöntem, DetectGPT'nin makine tarafından yazılmış metni, onu üretmek için kullanılan yapay zeka hakkında herhangi bir bilgi olmadan tespit etmesini sağlıyor. Eğitim 'sınıflandırıcıları' ve gerçek ve üretilmiş pasajlardan oluşan veri kümeleri gerektiren diğer yöntemlerin tam aksine çalışıyor.
Test olarak DetectGPT'yi bir dizi sahte haber makalesinde deneyen ekip, diğer yöntemlere göre oldukça başarılı sonuçlar elde etti. DetectGPT makineler tarafından üretilmiş olan metinleri en iyi tespit edecek sistem olabilir.
DetectGPT, LLM'ler tarafından oluşturulan metni tespit etmek için yeni bir yöntem olarak hayatımıza girebilir. Sistem herhangi bir ek veri ya da eğitime de gerek duymuyor. ChatGPT gibi yapay zekalar ile üretilen metinler arttıkça bu tip araçlara daha çok ihtiyaç duyulacak. DetectGPT de bu metinleri tespit edebilecek ve birçok alanda önemli bir etkiye sahip olabilecek oldukça başarılı bir araç gibi görünüyor.