Teknoloji şirketleri, günümüzde sahtekarların generatif yapay zeka kullanarak para dolandırma veya itibarı lekeleme gibi kötü niyetli faaliyetlerini önlemek için yeni yöntemler arıyorlar. OpenAI, bu bağlamda, kullanıcıların içeriği doğrulamalarına yardımcı olmak amacıyla önemli bir adım atıyor. Şirketin 2024 yanlış bilgilendirme stratejisi kapsamında, DALL-E 3 API ve web üzerinde ChatGPT ile üretilen görüntülere, kökenlerini belirten dijital etiketler ekleniyor. Mobil uygulamaların ise bu güncellemeyi Şubat 12'ye kadar alması planlanıyor.
Bu metadata, içerik kökenini ve otantikliğini doğrulamak için C2PA (İçerik Köken ve Otantikliği İçin Koalisyon) açık standartını takip ediyor. Kullanıcılar, bu etiketlenmiş görüntüleri Content Credentials Verify aracıyla kontrol ederek, görüntünün nasıl oluşturulduğunu ve yayıldığını izleyebilecekler. Örneğin, bir görüntü ChatGPT ile üretildiyse, öncelikle DALL-E 3 API kökenini gösterecek bir metadata manifestosu ve daha sonra ChatGPT üzerinde yükseldiğini gösteren ikinci bir manifestoyu içerecektir.
Ancak, C2PA standardının etkili olabilmesi için metadata'nın sağlam olması gerekiyor. Sosyal medyada yayılan bir ekran görüntüsü gibi, metadata'sı olmayan AI tarafından üretilen görüntüler bu doğrulama yöntemiyle izlenemeyecek. OpenAI, bu adımın yanlış bilgilendirmeyle mücadelede tek çözüm olmadığını kabul ediyor ancak kullanıcıları bu tür sinyalleri aktif olarak aramaya teşvik etmenin önemli olduğuna inanıyor.
OpenAI'in sahte içeriklere karşı bu yeni çabası şimdilik hareketsiz görüntülerle sınırlı olsa da, Google'ın DeepMind'i AI tarafından üretilen içeriklere dijital filigran eklemek için SynthID adında bir çözümü bulunuyor. Benzer şekilde, Meta da AI görüntü üreticisi üzerinden görünmez filigranlama teknolojisini test ediyor. Bu tür çabalar, dijital ortamda güvenilirliği artırmak ve sahte içeriklerle mücadeleyi güçlendirmek adına önemli bir adım olarak değerlendiriliyor.
