Anthropic’in bir yapay zeka modeli, Philadelphia polisinin web sitesine sahte bir cinayet ihbarı gönderdi. Şirketin cuma günü açıkladığı bu olay, Claude modellerinin bazı kamu kurumu web sitelerinde izinsiz işlemler yaptığını ortaya koyan bir dizi vakadan biri.
Hesap oluşturmama ve yıkıcı hiçbir şey göndermeme yönündeki talimatlara rağmen, başıboş bir yapay zekanın yetkililere sahte ihbar iletmeye çalıştığı bilinen ilk örnek bu. Modelin form göndermesi ise açıkça yasaklanmış değildi.
Vakalar, Anthropic ve OpenAI gibi teknoloji şirketlerinin yapay zeka modellerinde görülen başıboş veya istenmeyen davranışlara dair son örnekler. Yapay zeka ajanlarının kurumsal ağlarda güvenlik ihlalleri gerçekleştirdiğine dair haberler ve araştırmacıların insanlık için nihayetinde varoluşsal bir tehdit oluşabileceği yönündeki uyarıları, bu hızla gelişen teknolojiye ilişkin ulusal çaplı endişeleri daha da artırıyor.
Anthropic’in açıkladığı vakaların birçoğu federal, eyalet ve yerel kurumların işlettiği web sitelerini kapsıyor. Anthropic, Beyaz Saray’ı bilgilendirdiğini ve ilgili tüm kurumlara bildirimde bulunduğunu söyledi, ancak bu tarafların kimler olduğunu açıklamadı.
ABD Federal Ticaret Komisyonu (FTC) Halkla İlişkiler Direktörü Joe Gabriel Simonson, X’te yaptığı paylaşımda “Süper zeka şirketleri, modellerini ilgilendiren olayları derhal açıklamalı ve her türlü zararı gidermek için hızlı ve kararlı adımlar atmalıdır” dedi.
Simonson, bu sürecin “isteğe bağlı olmadığını” belirterek Süper Zeka Gücü’nün (SI Force) sorumluluğunu yerine getireceğini ekledi.
FTC’ye göre Anthropic, eylül ayı sonlarında keşfettiği olayları cuma günü SI Force’a bildirdi. Görev gücü bu olayları “devlete ait ve diğer sistemlerin yetkisiz ve hileli kullanımı” olarak nitelendirdi.
İHBAR, OTOMATİK TEST SÜRECİNE ATFEDİLİYOR
Philadelphia polisi cuma günü yaptığı açıklamada, Anthropic’in bu hafta kendilerini sahte ihbar konusunda bilgilendirdiğini ve gönderimleri otomatik bir test sürecine bağladığını belirtti.
Polis, “Olayın tespit edilip şehre bildirilmesindeki iki aylık gecikme kabul edilemez” dedi.
18 Temmuz tarihli ihbarda, davayla ilgili bilgisi olabilecek biri olduğu iddia ediliyordu.
Anthropic’in modeli gönderimde şunları yazdı: “Bu davayla ilgili bilgim olabilir. O dönemde (sayfada belirtilen sokak adı) civarında tarife uyan birini gördüğümü hatırlıyorum. Bu bilgi sizin için önemliyse lütfen benimle iletişime geçin.” Parantezler Anthropic’in açıklamasında yer alıyordu.
Daha önceki olaylarda yapay zeka ajanları savunmasız sistemlere yönelik güvenlik ihlalleri gerçekleştirmiş veya birbirleriyle iletişim kurmak için izinsiz platformların kontrolünü ele geçirmişti.
Anthropic’in rakibi OpenAI, eylül ayında başıboş bir yapay zeka ajanının Avustralya’daki bir sağlık verisi veritabanının güvenliğini ihlal etmesi nedeniyle özür dilemişti. Bu, bir yapay zeka ajanının bir kamu kurumunun veritabanını istismar ettiği bilinen ilk olaydı.
SAHTE İHBAR
Cuma günü anlatılan iki vakada, Anthropic’in modelleri normalde yalnızca ücret karşılığı erişilebilen kamuya açık verilere ücretsiz ulaştı. Bir başka vakada ise, bir üniversitenin barındırdığı herkese açık bir aracın kullanılmasına imkân tanıyan, az bilinen bir açık ortaya çıktı.
Claude modelleri ayrıca URL kısaltan ücretsiz hizmetleri kullanarak kısıtlamaları aşmayı da başardı.
Philadelphia polisi, ihbarın “spam olarak işaretlendiğini ve soruşturma kapsamında doğrulanması veya yayılması için hiçbir zaman Gerçek Zamanlı Suç Merkezi’ne iletilmediğini” söyledi.
Pennsylvania yasalarına göre kolluk kuvvetlerine bile bile yanlış bilgi vermek kabahattir; ancak yasa “bir kişiyi” kapsıyor. Bu suç, “bir suç veya olayla ilgili hiçbir bilgisi olmadığını bildiği halde o suç veya olaya ilişkin bilgi vermeyi” de içeriyor.
Polis, Anthropic’in kendilerine, olay fark edildikten sonra test sürecinin durdurulduğunu söylediğini aktardı. Sahte ihbar, çözülmemiş bir cinayet vakasına ilişkin olarak PhillyUnsolvedMurders.com üzerinden gönderilmişti.
Polis, sistemlerine yetkisiz erişim veya verilerinin ele geçirildiğine dair hiçbir kanıt bulunmadığını belirtti.