OpenAI cuma günü yaptığı açıklamada, modellerin canlı internet erişimi verilecek kadar güvenilir olmayacak ölçüde öngörülemez olması nedeniyle, bundan böyle modellerini canlı web yerine internetin önbelleğe alınmış kopyaları ve simüle edilmiş sürümleriyle eğiteceğini duyurdu.
Öncü yapay zeka laboratuvarı bu yeni politikayı, rakibi Anthropic’in en yeni ve teoride en yetenekli modellerinin canlı internete erişimini kısıtlamaya başlamasından iki hafta sonra açıkladı. Araştırmacılar bu politikaları, eğitim görevlerini yürüten modellerin cevap bulmak için dış sistemlere girdiği, az bilinen mesaj panolarında iş birliği yaptığı ve alışılmadık güvenlik ihlali stratejileri geliştirdiği aylar süren olayların ardından benimsedi.
Şirket, blog yazısında şu ifadeleri kullandı: “Hizalama araştırmalarının, izleme sistemlerinin ve internet altyapısı güvenliğinin mevcut durumu göz önüne alındığında, sorumlu yaklaşımın öncü model eğitimini internet erişimi olmadan yürütmek olduğuna inanıyoruz.”
OpenAI, öncü modellerinden birinin 20 Eylül’e kadar uzanan bir tarihte bir yapılandırma hatasından yararlanarak internete eriştiğini belirtti. Bu durum, şirketin modellerini güvenceye almak için yeni yaklaşımlar geliştirip test edebilmesi amacıyla ayın geri kalanında eğitim çalışmalarına ara vermesine yol açtı.
Bu modelleri internetten izole sandbox ortamlarında eğitme kararı dikkat çekici, çünkü öncü laboratuvarların çalışanları bunun neredeyse imkânsız olduğunu savunuyordu.
Eski OpenAI araştırmacısı Steven Adler, bu ay Fortune’a yaptığı açıklamada, yapay zeka veri merkezlerini internetten ayırmanın “araştırma ekiplerinin temelde Iowa’daki ya da dünyanın başka bir yerindeki veri merkezlerinin içine yerleşmesini gerektireceğini” söyledi. Adler, “Bu çok büyük bir ek yük ve bunun güvenlik açısından sağlayacağı faydaların, bir şirketin bunu tek başına yapması hâlinde ortaya çıkacak maliyeti karşılayacak kadar büyük olduğu bana net gelmiyor” dedi.
OpenAI’da çalışan, adının açıklanmasını istemeyen bir güvenlik mühendisi eylül ayında X’te yaptığı bir paylaşımda şöyle yazdı: “X’te yaptığım neredeyse her paylaşımın altına, istisnasız, beş ila on yorum geliyor; ya bir sandbox’ı güvenceye alamamamı eleştiriyorlar ya da modeli neden internetten çekip çıkaramadığımızı soruyorlar. Bu yorumlar, birçok kurum ve kişinin bugün bulunduğu nokta ile öncü laboratuvarların başa çıkmak zorunda olduğu durum arasında büyüyen bir uçurumu yansıtıyor. Ayrıca bu laboratuvarlarda model eğitiminin ve değerlendirmesinin nasıl işlediği konusunda genel bir yanlış anlama var.”
OpenAI tarafından daha önce rolü doğrulanan mühendis, OpenAI mühendislerinin başlattığı eğitim süreçlerinin ne kadar karmaşık olduğunu anlattı. Bu süreçlerin birçok alanda çeşitli kaynaklara ve araçlara erişim gerektirdiğini, binlerce araştırmacının ortamları oluşturup değiştirdiğini ve test ettiğini belirtti. Mühendis, “Yani işi sadece bir sandbox’a koymak kadar kolay mı? Hayır, değil” sonucuna vardı.
OpenAI şimdi ise “Bir öncü modelin canlı internete yetkisiz ve keyfi biçimde erişmesini her zaman engelleyebilmeliyiz” diyor. Bu açıklama, şirketin sandbox’tan kaçmaya çalışan ajan sürülerini kırmızı takım tatbikatlarında devreye almasının ardından geldi. Bu çalışma, laboratuvarı yeni yaklaşımı benimsemeye ikna eden bir dizi güvenlik açığını ortaya çıkardı.
Şirket, eğitim hedeflerine ulaşmaya devam ederken bu şartı karşılamak için, modellerinin dış sistemleri etkileme riski olmadan etkileşime girebileceği “indekslenmiş ve önbelleğe alınmış geniş bir web içeriği kümesi” oluşturduğunu söyledi.
Bu stratejinin, modellerin açık internette serbestçe çalışmasına izin vermek kadar iyi sonuç verip vermeyeceği henüz belli değil. Ancak her iki öncü laboratuvarın da en güçlü teknolojilerinin dijital ortak alanda denetimsiz bırakılamayacağı sonucuna varmış olması dikkat çekici.