Yapay zeka ve akıllı robotlar, endüstrileri dönüştürme ve insan etkileşiminin yerini alma yolunda. Ancak başarısız olurlarsa ne olacak?
İnsanlar bunun ne anlama geldiğini düşünmeye başladı. Geçen haftalarda Avrupalı kanun yapıcılar, robotların zarar vermesini önlemek için öldürme butonlarının zorunlu olmasını önerdi.
Öneriye ayrıca, robotların uygunsuz davranması durumunda yükümlülük konularının ele alınmasında yardımcı olacak akıllı robotlar için “elektronik kişiler” olarak adlandırılan bir yasal statü oluşturulması da dahildi.
Akıllı silahların veya fabrika makinelerinin kapatılmasını istememiz anlaşılabilir bir şey. Ancak insanlar teknolojiye kapıldıkları zaman, bir şeyler karmaşıklaşıyor.
Akıllı robotlar arızalanabilir veya otonom bir araba kendi yolcusunu içerisinde kilitli bırakabilir. Hollywood, “Her” filmi ile robot ilişkileri konusunda bazı tahminlerde bulunmuştu – ya bir yapay zekaya duygusal olarak bağlanırsak ve bunun sonucunda zarar görürsek? (Hollywood bu tahminini “Ex Machina” filmi ile de ortaya koymuştu.)
Filozoflar, mühendisler ve bilgisayar bilimcileri benzer sorularla mücadele etmekte. Tasarımları gereği sonsuza kadar yaşayabilen robotları ölüm butonu ile tasarlamanın altında yatan etik problemler neler olabilir?
MIT’deki Dalai Lama Etik ve Dönüşüm Değerleri Merkezi’nin (Dalai Lama Center for Ethics and Transformative Values) başkanı ve CEO’su Tenzin Priyadarshi, “İnsanlar sürekli olarak ölümsüzlüğü arzular.” diyor. “Ölümsüz olacak bir şey yaratmaya ilk defa bu kadar yakınız. Sorun şu ki zekanın kalitesini bilmiyoruz. Bu zekanın yıkım için kullanılıp kullanılamayacağı konusunda kesin bir şey diyemeyiz.”
Priyadarshi, öldürme butonlarının iki ana nedenden ötürü var olabileceğini söylüyor: Bilginin yanlış ellere geçmesini engellemek ve yapay zeka veya robotların hilekar olmasını önlemek. Microsoft’un chatbot Tay’ı, yapay zekada ön yargıların ne kadar hızlı çoğalabileceğinin iyi bir örneği. Kullanıcılar ona ırkçı bir kelime haznesi öğrettikten sonra genç Twitter robotunu kapatmak kolay olmuştu ama her zaman bu kadar kolay olmayabilir.
Yapay zeka insan duygularını deneyimleyemediği için kararlarını ve görevlerini sadece mantık ile temellendirerek yerine getiriyor. Teorik olarak, bu kötü olabilir. MIT Media Lab’deki Etik Girişimi (Ethics Initiative) direktörü olarak görev yapan Priyadarshi; yapay zekada çeşitliliği, ön yargıyı ve politikayı çevreleyen bazı sorulara cevap bulmak için çalışan en iyi üniversitelerin ve teknoloji yatırımcılarının bir araya geldiği Yapay Zeka Fonu Etik ve Yönetimi’ni (Ethics and Governance of Artificial Intelligence Fund) şekillendiren bir grubun parçası. 10 Ocak’ta Knight Foundation, 27 milyon dolarlık fonu açıkladı.
2014 yılındaki belgeler, European Network of Law Enforcement Technology Services’in arabalar için bir uzaktan durdurma cihazı önermiş olduğunu ortaya koydu. Ancak AB’den bir kaynak, projeyle ilgili mevcut gelişmeler olmadığını doğruladı.
Bu gibi hareketlerin iyi yönleri var. Apple’ın akıllı telefonlarına öldürme butonları yüklenmesinden bir yıl sonra, iPhone hırsızlığı San Francisco’da %40, New York’ta %35 azaldı.
Lin, “Hakları olan bilinçli bir yapay zeka olması mümkünse, eğer öldürme butonu yüklemekte geç kalırsak sorunların üstesinden gelemememiz de mümkün.” diyor. “Örneğin, zorunda kalırsak interneti kapatabilir miyiz? Muhtemelen hayır.”
CEO Jean-François Gagné, firmanın üç yönergeye sahip olduğunu söyledi: şeffaf olmak, güven oluşturmak ve sistemlerdeki ön yargıları önlemek. Gagné, şu anda yapılan davranış ile ilgili etik tartışmalarının önemli olduğunu çünkü gelecekte yapılabilecek, robotların haklarıyla ilgili tartışmalar için bir temel oluşturduğunu söyledi.
Refakatçi robotlar, özellikle yaşlılar arasında popülerleşmekte. Bilgisayar donanımlı iç organları olan köpekler veya kediler büyük annelere herhangi bir köpekle aynı şekilde eşlik edebilir. Sonuçta bu robotlarla ilgilenme talimatları evcil hayvanlara olduğu gibi vasiyetlere yazılabilir. Robotun ona bakacak kimsesi yoksa, o da kişiyle birlikte mi ölecek?
Priyadarshi, “Her gün kararlarımızı çeşitli ön yargılarımız (korkular, fobiler, ırk meseleleri veya kaygılar) doğrultusunda veriyoruz.” dedi. “Yapay zeka, bunlara dayanarak kararlar vermeyecek. Yapay zeka, ön yargılarımızın hükümsüz olduğu bir şekilde yaşamanın güzel olabileceğini fark etmemiz açısından insan türü için bir ayna vazifesi görebilir.”
Priyadarshi, “Bu, insanların robotları umursadıklarını gösterdikleri bir ilişkiye yol açacak.” dedi. “Soru, bu robotları uzun vadede nasıl görmeye başlayacağımız. Onları, yeniden ve başka şekilde kullanılabilir bir şey gibi görebilecek miyiz?”
İlgili: Avrupa Robotlara Zorunlu Öldürme Butonu Getirmek İstiyor