Yapay zekanın öncülerinden Geoffrey Hinton geçtiğimiz günlerde Reuters’a verdiği bir röportajda, yapay zekanın insanlık için iklim değişikliğinden “daha acil” bir tehdit oluşturabileceğini söyledi.
“Yapay zekanın fikir babalarından” biri olarak bilinen Geoffrey Hinton, kısa bir süre önce Alphabet firmasında on yıl çalıştıktan sonra ayrıldığını açıkladı ve eski işverenini etkilemeden teknolojinin riskleri hakkında konuşmak istediğini söyledi
Hinton’un çalışmaları çağdaş yapay zeka sistemlerinin gelişimi için çok önemli kabul ediliyor. Hinton,1986 yılında, yapay zeka teknolojisinin temelini oluşturan sinir ağlarının geliştirilmesinde bir dönüm noktası olan “Hataları geri yayarak temsilleri öğrenme” adlı ufuk açıcı makalenin ortak yazarı. Ayrıca 2018 yılında, araştırma alanındaki atılımları nedeniyle Turing Ödülü’ne layık görüldü.
Ancak şimdi, makinelerin insanlardan daha fazla zekaya ulaşması ve gezegenin kontrolünü ele geçirmesi durumunda yapay zekanın yaratacağı olası tehditle ilgili endişelerini kamuoyuna açıklayan ve sayıları giderek artan teknoloji liderleri arasında yer alıyor.
“İklim değişikliğinin değerini düşürmek istemem. ‘İklim değişikliği konusunda endişelenmemelisiniz.’ demek istemem. Bu da büyük bir risk.” diyor Hinton. “Ama bence yapay zeka daha acil bir durum haline gelebilir.”
“İklim değişikliği söz konusu olduğunda, ne yapmanız gerektiğini tavsiye etmek çok kolay: karbon yakmayı durdurmanız yeterli. Eğer bunu yaparsanız, eninde sonunda her şey yoluna girecektir. Oysa yapay zeka için ne yapmanız gerektiği hiç de net değil.”
Microsoft destekli OpenAI, Kasım ayında yapay zeka destekli sohbet robotu ChatGPT’yi halka açarak teknolojik bir silahlanma yarışının fitilini ateşlemişti. Kısa sürede tarihin en hızlı büyüyen uygulaması haline gelen ChatGPT, iki ay içinde aylık 100 milyon kullanıcıya ulaştı.
Nisan ayında Twitter CEO’su Elon Musk, OpenAI’nin kısa süre önce piyasaya sürdüğü GPT-4’ten daha güçlü sistemlerin geliştirilmesine altı ay ara verilmesi çağrısında bulunan açık bir mektubu imzalayan binlerce kişiye katıldı.
İmzacılar arasında Stability AI CEO’su Emad Mostaque, Alphabet’e ait DeepMind’daki araştırmacılar ve diğer yapay zeka öncüleri Yoshua Bengio ve Stuart Russell da vardı.
Hinton, imzacıların yapay zekanın insanlık için varoluşsal bir tehdit olabileceği yönündeki endişelerini paylaşırken, araştırmaların durdurulmasına karşı çıktı.
“Bu tamamen gerçek dışı.” dedi. “Ben bunun varoluşsal bir risk olduğunu ve şu anda çok sıkı çalışmamız ve bu konuda ne yapabileceğimizi bulmak için çok fazla kaynak ayırmamız gerektiğini düşünen taraftayım.”
Avrupa Birliği’nde milletvekillerinden oluşan bir komite Musk destekli mektuba yanıt vererek ABD Başkanı Joe Biden’a Avrupa Komisyonu Başkanı Ursula von der Leyen ile birlikte teknolojinin gelecekteki yönü konusunda küresel bir zirve düzenlemesi çağrısında bulundu.
Geçtiğimiz haftalarda komite, OpenAI gibi şirketleri modellerini eğitmek için kullanılan tüm telif hakkı materyallerini açıklamaya zorlayacak, üretken yapay zekayı hedefleyen bir dizi önemli öneriyi kabul etti.
Bu arada Biden, Alphabet CEO’su Sundar Pichai ve OpenAI CEO’su Sam Altman da dahil olmak üzere bir dizi yapay zeka şirketi lideriyle Beyaz Saray’da görüşmelerde bulundu ve şirketlerin sistemleri hakkında daha şeffaf olmaları gerektiği konusunda “samimi ve yapıcı bir tartışma” sözü verdi.
Hinton, “Teknoloji liderleri bu konuyu en iyi anlayanlar ve politikacıların da bu konuya dahil olması gerekiyor.” dedi. “Bu konu hepimizi etkiliyor, bu yüzden hepimiz bunun hakkında düşünmeliyiz.”