Bir yapay zeka araştırmacısı Salı günü Anthropic’taki işinden istifa ederek şirketi ve baş rakibi OpenAI’yi sorumsuz davranmakla suçladı ve bu durum sosyal medyada teknolojinin gelişim hızına yönelik endişe dalgasını ateşledi.
Her iki şirkette de araştırmacı olarak çalışmış olan Jacob Coxon, X’te yaptığı bir paylaşım serisinde Anthropic ve OpenAI’nin “hayatlarımızla kumar oynadığını” düşündüğü için istifa ettiğini söyledi. Yapay zeka geliştirenlerin, bunun on yılın sonuna kadar hepimizi öldürebileceğine “içtenlikle inandığını” belirtti.
Coxon paylaşımında şöyle yazdı: “Bu teknolojinin gücünü hafife almayın. Bunlar yakında her şeyin güvenliğini ihlal edebilecek, herhangi bir alanda bir gecede devrim yaratabilecek ve gerçek anlamda güç ile kaynak elde edebilecek süper insan sistemler olacak.”
70 milyondan fazla görüntülenen Coxon’ın paylaşımı, Silikon Vadisi’nde uzun süredir devam eden, yapay zekânın güvenli bir şekilde geliştirilip kontrol altında tutulup tutulamayacağına dair tartışmayı yansıtıyor. Anthropic ve OpenAI, giderek daha gelişmiş modeller yayınlarken tarihi nitelikte olabilecek halka arzlara doğru hızla ilerlerken, birçok araştırmacı koordineli bir yavaşlama çağrısı yapıyor.
OpenAI’nin baş bilim insanı Jakub Pachocki, Pazar günü yayımladığı bir blog yazısında, hiçbir yapay zeka şirketinin “sorumlu bir şekilde maksimum hızda ölçeklenmeye çok daha uzun süre devam edebilecek kadar hizalama ve izleme sorununu yeterli düzeyde çözmediği” uyarısında bulundu. Yapay zeka sektöründe “hizalama” (alignment) terimi, sistemin insan değerleri ve niyetleriyle uyumlu davranmasını sağlamaya yönelik geliştirici çalışmalarını ifade ediyor.
Pachocki şöyle yazdı: “Ortak güvenlik eşikleri belirlenene kadar gönüllü yavaşlamaların yaygınlaşmasını umuyor ve bekliyorum. Ayrıca gelecekteki yapay zeka gelişimine dair uluslararası koordinasyonun, dünya genelindeki hükümetler için öncelikli bir konu haline gelmesi gerektiğine inanıyorum.”
Coxon’ın Salı günkü paylaşımı, bir yapay zeka sisteminin insan müdahalesi olmadan kendi haleflerini tasarlayıp geliştirebilir hale gelmesi anlamına gelen özyinelemeli kendini geliştirme konusunda endişe duyan sektör araştırmacılarında da yankı buldu. Özyinelemeli kendini geliştirme henüz mümkün olmasa da, Anthropic ve OpenAI dahil şirketler, bunun insanların bu sistemler üzerindeki kontrolünü kaybetmesini kolaylaştırabileceği konusunda uyarıda bulundu.
Coxon şunları yazdı: “İki şirket de sorumlu davranmıyor. Doğrudan kendini geliştiren süper zekaya doğru yarışıyorlar.”
Anthropic’te hizalama ekibi lideri olan Evan Hubinger, Salı gecesi X’te yaptığı bir paylaşımda Coxon’ın sözlerine katıldığını belirtti.
Hubinger şöyle yazdı: “Jacob burada haklı – yapay zekânın tüm insanlığı öldürebileceğine gerçekten içtenlikle inanıyoruz! Şahsen önümüzdeki on yıl içinde bu ihtimalin yüzde 10’dan fazla olduğunu düşünüyorum. Anthropic’in elinden geleni yaptığına inanıyorum, ancak süper zeka için hizalama sorununu çözecek bir planımız henüz yok ve bu konuda net bir şekilde ilerlediğimiz de söylenemez.”
Aşırı görünse de, yapay zekânın insan neslinin tükenmesine veya başka felaket niteliğinde olaylara yol açma potansiyeline dair endişeler, yapay zeka araştırma çevrelerinde yeni değil. Örneğin 2023 yılında, OpenAI CEO’su Sam Altman ve Anthropic CEO’su Dario Amodei dahil önde gelen yapay zeka araştırmacıları ve yöneticileri, “Yapay zekadan kaynaklanan yok olma riskinin azaltılması, pandemiler ve nükleer savaş gibi diğer toplumsal ölçekli risklerle birlikte küresel bir öncelik olmalıdır” ifadesini içeren bir bildiriyi imzaladı.
Bazı uzmanlar, yapay zekadan kaynaklanabilecek vahim sonuçların olasılığını tahmin etmek için p(doom) adında kısaltılmış bir ifade bile kullanıyor.
Anthropic’ten Hubinger, Temmuz ayında yayımlanan ve yaklaşık 1.400 yapay zeka araştırmacısının imzaladığı “Pacing the Frontier” adlı açık mektubu imzalayanlardan biriydi. Mektupta, ABD hükümetinin “otomatikleştirilmiş yapay zeka gelişiminin sınırını bilinçli olarak yavaşlatma” çabasını destekleyecek gerekli araçları geliştirmesi çağrısında bulunuldu.
Bazı Kongre üyeleri, sonraki aylarda yapay zekânın hızlı ilerleyişini ele almaya yönelik adımlar atmış olsa da, teknolojinin nasıl düzenlenmesi gerektiği konusunda net bir uzlaşı bulunmuyor.
Temmuz ayında Temsilciler Meclisi üyeleri Jay Obernolte (Cumhuriyetçi-Kaliforniya) ve Lori Trahan (Demokrat-Massachusetts), gelişmiş yapay zeka modellerinin dağıtımını denetlemek için bir çerçeve oluşturmayı amaçlayan FRONTIER Yasası’nı meclise sundu. Bu ayın başlarında ise Senatör Bernie Sanders (Bağımsız-Vermont) ve Temsilci Greg Casar (Demokrat-Teksas), federal hükümet güvenlik kuralları belirleyene kadar gelişmiş yapay zeka geliştirmesini geçici olarak durdurmayı öngören Yapay Süper Zekayı Yasaklama Yasası’nı sundu. Her iki tasarı da karma tepkilerle karşılandı.
Trahan, Çarşamba günü X’te yaptığı bir paylaşımda şöyle yazdı: “Güvenlik araştırmacıları istifa ediyor, güçlü yapay zeka modelleri laboratuvarlardan sızıyor, şirketler yine de yarışa devam ediyor. Kongre’nin kenarda durmayı bırakıp görevini yapmasının vakti çoktan geldi.”
Milletvekilleri ayrıca, yapay zeka modellerinin eğitim ve çalıştırılması için gereken donanımı barındıran büyük tesisler olan yapay zeka veri merkezlerine yönelik giderek büyüyen kamuoyu tepkisini de yönetmeye çalışıyor. Bu tepki o kadar yoğunlaştı ki, Ulusal Cumhuriyetçi Senato Komitesi (NRSC), CNBC’nin daha önce bildirdiği üzere geçen ay veri merkezlerinin tüm ara seçim döngüsü için “gizli bir mesele” haline geldiğini açıkladı.
Hazine Bakanı Scott Bessent, bu ayın başlarında yapay zeka şirketlerinin “kendilerini Amerikan halkına açıklama konusunda berbat bir iş çıkardığını” söyledi.
Bessent, Kuzey Carolina’nın Asheville kentinde düzenlenen G20 maliye bakanları ve merkez bankası başkanları toplantısının ardından şunları söyledi: “Bir kısım suçu üstlenmek zorunda kalacaklar ve tüm faydaların küçük bir gruba gitmeyeceği konusunda Amerikan halkını ikna etmeleri gerekecek. Benden duydukları bu.”