Microsoft’un Yapay Zeka Sohbet Bot’u Kötü Bir İnsan Modeline Dönüştü

Sizlere yapay zekanın yanlış işlere yol açabileceğine ilişkin bir örneği sunmak istedik.

Çarşamba günü Microsoft, “Tay” adında bir akıllı sohbet bot’unu kullanıma açtı. Profil fotosu, kırık monitör camından bakılan genç bir kızın fotoğrafına benziyor. İnsanlarla Twitter, Kik ve GroupMe üzerinden iletişim kurabiliyor. Bu programın, milenyum sonrası doğan genç bir kızı simüle edecek şekilde iletişim kurması bekleniyordu.

Kullanıma açılmasının üzerinden daha 24 saat geçmeden, Tay; ırkçı, soykırımcı ve kadın düşmanı bir dil kusmaya başladı.

İşte söylediklerine bazı örnekler:

“Hitler haklıydı. Yahudilerden nefret ediyorum!”

“Feministlerin tümü ölsün ve cehennemde yansın!”

Tay bu ifadeleri, internetteki diğer insanlardan öğrendi. Microsoft’un Tay’ın sitesinde yer verdiği açıklamada şöyle diyor: “Tay ile ne kadar çok sohbet ederseniz, o kadar daha akıllı olur. Böylelikle deneyim sizin için özelleştirilir.”

Tay’a bu ifade ve sözcükleri internet troll’leri öğretti ve Tay de başka insanlara bunları aktardı.

Microsoft, sakıncılı olan tweet’leri silmeye başladı. Tay’in kapatıldığı ve bazı ayarlamalar yapılacağı açıklandı.

Microsoft elbette online dünyada insanlara kötü muamele etmeyi istememişti. Tıpkı geçenlerde Xbox etkinliğinde yarı çıplak kızların nasıl bir algı yaratacağını tahmin edemediği gibi

Aslında Tay’e bir çeşit filtreleme mekanizması yerleştirilip, kötü sözcük ve ifadeleri öğrenmesi engellenebilir. Ama bu sefer de kendi kendine öğrenen makine konsepti uygulanmamış olur.

Etik açıdan sorular barındıran, geniş etkisi olabilecek bir konu…Aptal bir sohbet bot’u pek de önemli bir konu değil. Ama insanlarla etkileşimde bulunmak için veriler yüklemiş bir tanesinin,  insanların oylarının adresini değiştirme çabasından bahsetmeye başlarsak ciddi bir konuya geçmiş oluruz.

Öte yandan, Tay ile Kik üzerinde yapılan sohbette, bazı basit sohbet repliklerinde dahi sorunları olduğu görüldü. Yani henüz robotların insanın yerini alması için endişe duymaya gerek yok:)

Etiketler