Yapay zeka şirketi Anthropic’in kurucu ortağı Pazartesi günü, yapay zekanın gelişiminin yalnızca teknoloji şirketlerine bırakılamayacağını söyleyerek din adamlarını, hükümetleri ve sivil toplumu daha fazla denetim üstlenmeye çağırdı.
Papa Leo’nun yapay zekanın yarattığı zorluklara değinen ilk genelgesinin (encyclical) tanıtımında konuşan Chris Olah, yapay zekanın insan emeğini “çok büyük bir ölçekte” yerinden edebileceğine dair “gerçek bir ihtimal” bulunduğunu söyledi.
“Böyle bir şey yaşanırsa, yerinden edilenleri desteklemek tarihin gördüğü en büyük ahlaki zorunluluklardan biri olacaktır” diyen Kanadalı Olah, bu sözleri papanın yanı başında oturarak dile getirdi.
Olah ayrıca kendi şirketi gibi şirketlerin, zaman zaman toplumun geniş çıkarlarıyla çelişen yoğun ticari, jeopolitik ve kişisel baskılarla karşı karşıya olduğunu ekledi.
“Her sınır ötesi yapay zeka laboratuvarı… doğru olanı yapmakla zaman zaman çatışan teşvik ve kısıtlamalar içinde faaliyet gösteriyor” dedi ve iyi niyetli araştırmacıların bile bu güçlerin etkisinden kurtulamadığını vurguladı.
Olah, bu durumun dışarıdan denetimi zorunlu kıldığını belirtti.
Bu etkinlik, teknoloji sektörü ile hızla gelişen yapay zekanın sonuçlarında kendini ahlaki bir ses olarak konumlandırmaya çalışan Katolik Kilisesi arasındaki alışılmadık bir yakınlaşmayı simgeliyordu.
VATIKAN’DAKİ TEK BÜYÜK TEKNOLOJİ ŞİRKETİ TEMSİLCİSİ
Anthropic, Claude yapay zeka araçlarını üreten ABD merkezli bir şirket. Şirket, 2021 yılında Olah ve OpenAI’nin eski çalışanları tarafından kuruldu. OpenAI ise Sam Altman ve Elon Musk’ın da aralarında bulunduğu isimler tarafından kurulmuş olup ChatGPT’nin arkasındaki şirkettir.
Anthropic’in kurucuları, şimdiki rakipleri OpenAI’nin yeterli testler yapılmadan çok hızlı ilerlediği endişesiyle ayrıldı.
Anthropic, Başkan Donald Trump yönetimiyle de çatışmaya girdi; özellikle modellerinin silahların otonom olarak hedeflenmesi veya iç gözetleme gibi askeri amaçlarla kullanımını kısıtlayan güvencelerde ısrar ederek.
Reuters’ın Vatikan etkinliğine davet edilen tek büyük teknoloji temsilcisinin neden kendisi olduğunu sorması üzerine Olah, yapay zeka güvenliğine olan uzun süreli odağını ve dini topluluklarla kurduğu diyaloğu gerekçe gösterdi.
“Kimi davet edeceklerine karar vermek nihayetinde Vatikan’a aittir” diyen Olah, kariyerini yapay zeka sistemlerini daha güvenli hale getirmeye adadığını ve teknolojinin gündeme getirdiği sorular üzerine 15’ten fazla dinle diyalog kurduğunu ekledi.
‘KORKUTUCU BİR AN’
Konuşmasında Olah, Kilise’nin hızla gelişen bu teknolojiyle ilgilenmesini memnuniyetle karşıladı ve yapay zekanın gündeme getirdiği etik soruların mühendisliğin çok ötesine geçtiğini söyledi.
Olah, yapay zekaya ilişkin kamuoyundaki kaygıların —özellikle gençler arasındakinin— gelişimin hızı göz önüne alındığında anlaşılır olduğunu belirtti.
“Bunun korkutucu bir an olduğunu düşünüyorum. Her şey çok hızlı ilerliyor. Son derece güçlü bir teknoloji bu.” dedi Reuters’a.
“İşlerin kötüye gidebilme riski var ve bunu doğru yöne çekmek hepimizin sorumluluğu.”
Olah, acil dikkat gerektirdiğini düşündüğü üç alanın altını çizdi: yaygın iş kayıpları riski, yapay zekanın faydalarının dünya genelinde paylaşılması ve giderek karmaşıklaşan sistemlerin davranışlarının nasıl yorumlanacağına dair yanıtsız sorular.
“Yapay zeka geliştirme, bir avuç varlıklı ülkede yoğunlaşmış durumda. Yapay zekanın kazanımlarının küresel ölçekte paylaşılmasını nasıl sağlayabiliriz?” diye sordu Vatikan’daki dinleyicilere.