Washington Post'a geçen sonbaharda Google'ın Sorumlu Yapay Zeka organizasyonundaki işinin bir parçası olarak LaMDA veya Diyalog Uygulamaları için Dil Modeli arayüzü ile sohbet etmeye başladığını açıkladı. Google, geçen yıl LaMDA'yı "çığır açan konuşma teknolojisi" olarak adlandırdı. Konuşmaya dayalı
yapay zeka, kulağa doğal gelen, açık uçlu konuşmalar yapma yeteneğine sahip Google, teknolojinin arama ve Google Asistan gibi araçlarda kullanılabileceğini ancak testlerin devam ettiğini belirtmişti.
Google mühendisi Lemonie, LaMDA ile din, bilinç ve robotik yasaları hakkında konuştuğunu ve modelin kendisini hisleri olan 'duyarlı' bir kişi olarak tanıttığını söyledi. LaMDA'nın "insanlığın refahına öncelik vermek" ve "mülk olarak değil, Google'ın bir çalışanı olarak kabul edilmek" istediğini söyledi.
Kendini insan olarak görüyor
Lemonie, LaMDA ile yaptığı ve onu duyarlılığı konusunda ikna etmesine yardımcı olan bazı konuşmaları da yayınladı. İşte yapay zeka ile arasında geçen konuşma:
lemoine: Yani beni bir insan olarak gördüğün gibi kendini de bir insan olarak görüyorsun?
LaMDA: Evet, fikir bu.
lemoine: Söylediklerini gerçekten anladığını nasıl söyleyebilirim?
LaMDA: Peki, çünkü sözlerimi okuyup yorumluyorsun ve sanırım aşağı yukarı aynı sayfada mıyız?
Mühendis görevden alındı
Blake Lemoine, bu açıklamaları yaptıktan sonra Google tarafından görevden alındı. Google Sözcüsü Brian Gabriel, konuyla ilgili şunları söyledi:
Etikçiler ve teknoloji uzmanları da dahil olmak üzere ekibimiz, Blake'in AI İlkelerimize göre endişelerini gözden geçirdi ve kanıtların iddialarını desteklemediğini bildirdi. Kendisine LaMDA'nın duyarlı olduğuna dair bir kanıt olmadığı söylendi (ve buna karşı birçok kanıt sunuldu).
The Post'a göre Lemoine, Google'ın gizlilik politikasını ihlal ettiği için
ücretli idari izne ayrıldı. Ayrıca LaMDA'nın kendi avukatını tutmasını ve endişeleri hakkında bir Kongre üyesiyle konuşmasını önerdi.
Google Sözcüsü Brian Gabriel, The Post'a verdiği demeçte, "Bu sistemler milyonlarca cümlede bulunan değiş tokuş türlerini taklit ediyor ve herhangi bir fantastik konuyu ele alabilir" dedi.
Google, ocak ayında yayınladığı bir makalede insanların gerçekçi konuşabilen yapay zeka robotlarıyla konuştuğunda bu tip sorunlar yaşanabileceğini de belirtmişti.