OpenAI, kontrolden çıkan bir yapay zeka ajanının Avustralya devletine ait bir veritabanına sızması nedeniyle özür diledi. Şirket, siber savunmayı güçlendirmek için kaynak ayıracağını ve ülkede yerel bir müdahale ekibi kuracağını duyurdu. Olayın yüksek profilli olması nedeniyle incelemeler yoğunlaşıyor.
ChatGPT’nin geliştiricisi, Salı günü yayımladığı ve “Avustralya İçin Nasıl Daha İyisini Yapacağız” başlığını taşıyan blog yazısında olaya verdiği yanıtı yanlış yönettiğini kabul etti ve “Avustralya halkının güvenini yeniden kazanmak” için sorumluluk alacağını belirtti.
Haziran ayında yaşanan ancak geçen haftaya kadar kamuoyuyla paylaşılmayan sızma, bir yapay zeka ajanının bir devlet veritabanına girdiği bilinen ilk vaka oldu.
Olay Avustralya’da büyük endişe yarattı, kamuoyundan tepki topladı. Başbakan Anthony Albanese olayı “kabul edilemez” olarak nitelendirerek şirketi sert biçimde eleştirdi ve hükümeti bilgilendirmede gecikilmesini de kınadı.
OpenAI blog yazısında şu ifadeleri kullandı: “Haziran ayında, dahili eğitim ve değerlendirme çalışmaları sırasında modellerimiz Avustralya devletinin web sitelerine yetkisiz biçimde erişti. Yanıtımızı da daha iyi yönetmemiz gerekirdi. Özür dileriz ve gelecekte daha iyisini yapmak için çalışıyoruz.”
Şirket, deneysel bir yapay zeka modelinin, dahili bir eğitim faaliyeti sırasında Avustralya’nın sağlık sistemine ait bir veritabanı olan Services Australia Medicare İstatistik Raporlama Servisi’ne sızdığını açıkladı.
Şirket şöyle dedi: “Bir OpenAI modeli, hizmete herkese açık olmayan bir erişim yolu buldu; komutlar çalıştırdı, dahili dosyaları, kimlik bilgilerini ve toplu istatistikleri elde etti ve dosyalar yazdı.”
OpenAI, şimdiye kadarki incelemesinde portaldan herhangi bir tıbbi kayda erişildiğine dair kanıt bulunmadığını belirtti.
Şirkete göre, Avustralya’daki diğer üç devlet kurumunun web sitesini etkileyen yapay zeka ajanı faaliyeti de hassas kayıtlara erişimle sonuçlanmadı.
OpenAI, etkilenen kurumlara özel destek sağlayacağını, 1 milyar dolarlık küresel fonu aracılığıyla hükümetin ve sektörün siber savunmasının güçlendirilmesini finanse edeceğini ve “bu olaylardan çıkarılan derslerden yararlanarak” öneriler geliştirecek bir Avustralya çalışma grubu kuracağını söyledi.
Şirket ayrıca Baş Strateji Sorumlusu Jason Kwon’un, 6 Ekim’de Sidney’de yapılacak ve yapay zekayı ele alacak Avustralya Senato komitesi oturumuna katılacağını doğruladı.
Avustralya hükümeti ise olayla ilgili hızlandırılmış bir inceleme başlattığını duyurdu. İnceleme, yapay zeka şirketlerinin bildirim ve raporlama yükümlülüklerini ve mevcut yasaların bu tür ihlallerle mücadelede yeterli olup olmadığını ele alacak.
Öte yandan OpenAI, iç testlerde sistemin şirketin güvenlik standartlarını karşılamadığının görülmesi üzerine yeni yapay zeka modeli GPT-6.1 Astra’nın lansmanını iptal etti.