Discord artık yapay zeka tarafından üretilen fotogerçekçi istismar fotoğraflarını yasaklıyor. Üretken yapay zekadaki artış, çocukların cinsel tasvirleriyle gerçeğe yakın görüntülerin üretilmesine yol açtı. Çocukların uygunsuz görüntülerini oluşturmak için Discord'da metinden görüntüye üretken bir yapay zeka olan Midjourney'in kullanımı hakkında konuşma ekran görüntüleri Discord ve internet ortamında büyük yankı uyandırmıştı.
Discord, yapay zeka tarafından oluşturulan CSAM'yi yasaklamanın yanı sıra artık çocukları cinselleştiren diğer her türlü metin veya medya içeriğini de açıkça yasaklayacak. Platform, genç flört sunucularını da yasakladı ve bu davranışta bulunan kullanıcılara karşı yasal işlem yapma sözü verdi.
Genç flört sunucularını tamamen yasaklamak, sorunu hafifletmeye yardımcı olabileceği belirtiliyor.
Discord's Family Center is a new opt-in tool that makes it easy for teens to keep their parents and guardians informed about their Discord activity while respecting their own autonomy. pic.twitter.com/UFY0ybo0LR
— Discord (@discord) July 11, 2023
Discord, kurallarını güncellemenin yanı sıra yakın zamanda ebeveynlerin çocuklarının sohbet hizmetindeki aktivitelerini takip etmek için kullanabilecekleri bir Aile Merkezi aracını kullanıma sundu. Ebeveynler, çocuklarının mesajlarının gerçek içeriğini göremeyecek olsa da, katılım aracı, çocuklarının platformda kimlerle arkadaş olduğunu ve kiminle konuştuğunu görebilecek.
