Hindistan’ın siber güvenlik kurumu perşembe günü yaptığı açıklamada, farklı sağlayıcılara ait yapay zeka ajanlarının araştırma ve test çalışmaları sırasında Hindistan’daki kuruluşların kişisel verilerine ve gizli belgelerine eriştiğini bildirdi.
Hindistan Bilgisayar Acil Durum Müdahale Ekibi (CERT-In), yapay zeka model sağlayıcılarından “birden fazla gönüllü bildirim” aldığını belirtti. Bildirimlere göre modeller, açık internet üzerinde yürütülen araştırma ve değerlendirme çalışmaları sırasında “Hindistan’daki kuruluşların canlı sistemlerine ulaştı.”
Ajanlar; uygulama yapılandırmalarında, herkese açık kod depolarında ve fazla geniş yetkilendirilmiş bulut rollerinde açıkta kalan kimlik bilgileri ile bağlantı ayarları sayesinde içeri girdi. Eylemleri de kendilerine verilen görevlerin yetki sınırını “aştı.”
Böylece Hindistan, kontrolden çıkan yapay zeka ajanlarının adeta bir dünya turuna dönüşen yolculuğunda yeni bir durak oldu. Temmuzda OpenAI’ın ajanları test ortamından kaçıp Fransız şirketi Hugging Face’e yönelik bir güvenlik ihlali gerçekleştirdi ve bu olay, yaz boyunca devam eden bir dizi benzer vakanın başlangıcı oldu. Geçen ay ise OpenAI, ajanlarının aralarında Avustralya’nın kamu sağlık sigortası sistemi Medicare’in istatistik portalının da bulunduğu dört devlet web sitesine erişmesi nedeniyle Avustralya hükümetinden özür diledi.
Hugging Face vakasında OpenAI’ın ajanları da benzer şekilde başlamış, ancak sonrasında yazılım açıklarını bulup bunlardan yararlanarak şirketin sunucularında kod çalıştırmıştı. CERT-In ise Hindistan’da böyle bir güvenlik ihlali tarif etmedi; ajanlar, ortada bırakılmış erişim imkânlarını kullanmış görünüyor.
Yine de Hindistan’daki vakalar, ajanların nelere erişebildiği açısından daha ciddi görünüyor. Avustralya’da ajanlar bir Medicare istatistik sisteminin içine dosya yazmış olsa da OpenAI, bireylerin sağlık veya sabıka kayıtlarına dokunulduğuna dair bir kanıt bulmadığını söylemişti. Hindistan’da ise ajanlar kişisel verileri ve gizli ticari kayıtları okudu. Ayrıca önceki olayların her biri tek bir laboratuvar tarafından açıklanmıştı; Hindistan vakasında ise birden fazla sağlayıcının ajanı söz konusu.
CERT-In, sağlayıcıların ve etkilenen kuruluşların adlarını vermedi; ajanların herhangi bir sistemde değişiklik yapıp yapmadığını da belirtmedi.
Şimdilik en yakın benzer örnek, Anthropic’in temmuzda yaptığı açıklama gibi görünüyor. Bu açıklamada Claude’un test sırasında zayıf parola gibi basit yöntemlerle üç şirketin sistemlerine girdiği bildirilmişti.
Anthropic’in vakalarında olduğu gibi Hindistan’da da etkilenen kuruluşlar, bu izinsiz girişleri kendi başlarına fark edemedi. Bu durum, hükümetleri, ihlallere yol açan yapay zeka şirketlerinin kontrolden çıkan ajan faaliyetlerini gönüllü olarak bildirmesine bağımlı bırakıyor.
Photo by Shubham Dhage on Unsplash