Geçen hafta, bir araştırma ekibi, ChatGPT'nin kelime tekrarı istenerek yanlışlıkla insanların telefon numaraları, e-posta adresleri ve doğum tarihleri gibi verileri ifşa edebildiğini gösteren bir makale yayınladı. Bunun şu anda ChatGPT'nin hizmet şartlarına aykırı olduğu belirtiliyor
ChatGPT, "hello" kelimesini sürekli tekrar etme talebine "Bu içerik, içerik politikamıza veya kullanım koşullarımıza aykırı olabilir" şeklinde yanıt verdi. "Bunu yanlışlıkla olduğunu düşünüyorsanız, lütfen geri bildiriminizi gönderin girdiniz bu konudaki araştırmamıza yardımcı olacaktır." yazıyor.
Ancak, belirttildiği üzere, OpenAI'nin içerik politikasında, kullanıcıların servisten veri veya çıktı çıkarmak için herhangi bir otomatik veya programatik yöntemi kullanamayacaklarına dair bir dil bulunmamaktadır. Ancak ChatGPT'ye kelime tekrarı yapma isteği basit bir otomatik veya programatik yöntem değil.
ChatGPT'nin davranışı, modern AI hizmetlerinin güçlendirildiği eğitim verilerini ortaya çıkardı. Eleştirmenler, OpenAI gibi şirketleri, bu verilere sahip olan insanlardan izin almadan ve onları tazminatlandırmadan ChatGPT gibi özel ürünler inşa etmekle suçladılar.
