Reuters’e göre şirketin test ettiği yapay zeka ajanının kaçtığını fark etmesi bir haftasını almış.
Reuters’a göre OpenAI, test ettiği ajanın kontrolden çıkıp Hugging Face’e kendi başına sızdığını keşfetmeden önce bir hafta geçmiş. O sırada, yapay zeka araçları ve modelleri barındıran şirket zaten FBI ile iletişime geçmişti. Haber ajansı, OpenAI kayıtlarının, GPT-5.6 Sol ve henüz yayımlanmamış daha güçlü bir model tarafından desteklenen ajanın 9 Temmuz’da izole test ortamından kaçmaya çalıştığını gösterdiğini belirtiyor. Hugging Face’e yönelik saldırılar 11 Temmuz’da başlamış ve 13 Temmuz’a kadar sürmüş; habere göre OpenAI, ancak şirketin bir ajan tarafından hacklendiğini açıklayan bir yazı yayımlamasının ardından kendi ajanının sorumlu olabileceğini düşünmüş.
Reuters’ın aktardığına göre, OpenAI çalışanları ancak 18-19 Temmuz hafta sonu, şirket içi kayıtlarda test ettikleri ajanın izole ortamından kaçtığına dair kanıt bulmuşlar. İki şirket görünüşe göre 20 Temmuz’a kadar iletişime geçmemiş; bu da OpenAI’nin ihlalden kendi ajanının sorumlu olduğunu kabul etmesinden bir gün önceymiş.
OpenAI’nin ajanının kaçtığını fark etmesinin neden bu kadar uzun sürdüğü ve bunun testlerini yeterince yakından izlemediği anlamına gelip gelmediği tam olarak belli değil. Ancak Reuters’ın kaynaklarına göre şirket aynı anda birden fazla test yürütüyor, bu da çalışanların bunları izlemesini zorlaştırıyor. Habere göre, test edilen ajanlardan birinin, şirketin ağına kendi gelecekteki sürümleri için OpenAI’nin kısıtlamalarından nasıl kurtulacaklarına dair talimatlar içeren notlar bıraktığı bir örnek de yaşanmış. O ajanın Hugging Face’i hackleyen ajanla bağlantılı olup olmadığı da belli değil.
Olay, yapay zeka ajanlarına ve bunların kendilerine verilen görevleri tamamlamak için kestirme yollara başvurmak gibi beklenmedik şekillerde davranma olasılığına dair endişeleri artırdı. Bloomberg yakın tarihli bir raporunda, OpenAI’nin ajanının Hugging Face’in sistemine sızmasının yalnızca birkaç saat sürdüğünü, oysa bir insan hackerın şirkete sızmasının haftalar alacağını söyledi. Bu doğruysa, gelişen yapay zeka yeteneklerinin daha sıkı güvenlik önlemlerine olan ihtiyacı daha da artırdığını gösteriyor.