Kodlayıcılar ve programcılar için bir soru-cevap sitesi olan Stack Overflow, kullanıcıların yapay zeka (YZ/AI) sohbet robotu ChatGPT tarafından oluşturulan yanıtları durdurmaya karar verdi.
ChatGPT, sitede büyük bir kaos yarattı
Sitenin modları, oto cevap yasağın geçici olduğunu ve nihai kararın, topluluğuyla istişare edildikten bir süre sonra verileceğini söyledi. Ancak, modların açıkladığı gibi, ChatGPT, kullanıcıların yanıt alması yerine siteyi genellikle yanlış olan yanıtlarla doldurdu ve büyük bir kaos yarattı.
Modlar, "ChatGPT'nin ürettiği yanıtların yüksek oranda yanlış olmasına rağmen, cevaplar üretmesi çok kolay." dedi.
"Bu geçici politika yayınlandıktan sonra bir kullanıcının ChatGPT kullandığına inanılırsa, kullanıcıların bu tür içerikleri göndermeye devam etmelerini engellemek için yaptırımlar uygulanacaktır.”
ChatGPT, OpenAI tarafından oluşturulan ve otomatik tamamlama metin oluşturucusu GPT-3.5'e dayanan deneysel bir sohbet robotudur. Bot için bir web demosu geçen hafta yayınlanmıştı ve o zamandan beri web'deki kullanıcılar tarafından benimsenerek kullanılmaya başlandı.
Şiirler ve şarkılar yazabilen yapay zeka bir çok farklı işlevi kolayca ama yanlış cevaplıyor
Yapay zeka botu, insanları soru sormaya teşvik eder ve karşılığında çeşitli etkileyici ve akıcı sonuçlar sunar. ChatGPT' in, şiirler, şarkılar ve TV senaryoları oluşturmaktan önemsiz soruları yanıtlamaya ve kod satırları yazmaya kadar bir çok işlevi bulunuyor.
Ancak birçok kullanıcı ChatGPT'nin yeteneklerinden etkilenirken, diğer kullanıcılar botun makul denebilecek ancak yanlış yanıtlar üretme konusundaki ısrarlı eğilimini fark etti.
(Örneğin, bottan tanınmış bir kişinin biyografisini yazmasını istediğinizde ve alakasız veya yanlış verileri kendi çalışmasına ekleyebilir. Hatta ve hatta belirli bir işlev için yazılımın nasıl programlanacağını açıklamasını istediğiniz zaman yine benzer şekilde inandırıcı gelen ancak nihayetinde yanlış olan kodlar üretebilir.)
Pek çok kullanıcı, botu kullanarak kendi deneyimlerini anlattı ve Hacker News forumundan bir kişi, kodlama sorunlarıyla ilgili sorulara verilen yanıtların genellikle doğrudan çok yanlış olduğunu söyledi. Kullanıcı, "Korkutucu kısım, yapay zekanın ne kadar kendinden emin bir şekilde yanlış olduğuydu" dedi.
Diğer kullanıcılar, yapay zeka denetimi sorununu ChatGPT'nin direkt kendisine yöneltti ve bottan yasağı lehinde ve aleyhinde bilgiler üretmemesini istedi.
