Singapur’daki bankalar, yeni kurallar uyarınca, uygulamaya almadan önce planlanan tüm yapay zeka projeleri için bağımsız bir inceleme talep etmek zorunda.
Singapur Para Otoritesi (MAS), finansal kuruluşlara yönelik ilk “Yapay Zeka Risk Yönetimi Rehberi”ni yayımladı.
Yeni kurallara göre yapay zeka, çok sayıda alanda “performansı artırabilirken” aynı zamanda “daha basit yöntemlerin kullanımına kıyasla tespit edilmesi daha zor olan daha fazla belirsizliğe, beklenmedik veya daha yanlı davranışlara” da yol açabiliyor.
Hem Singapur’un merkez bankası hem de başlıca finansal düzenleyicisi olan MAS’a göre agentic yapay zekanın ortaya çıkışı riski daha da artırdı.
MAS şu uyarıda bulunuyor: “Üretken yapay zekanın daha karmaşık yapısı, yapay zekaya kıyasla daha da büyük belirsizliğe ve beklenmedik davranışlara yol açıyor.”
MAS, riskin kaynakları arasında şunları sayıyor: “Eğitim verilerinde doğası gereği bulunan gürültü, temsil gücü olmayabilecek eğitim verileri veya modelin eğitim verilerinde yer almayan senaryolarla karşılaşması.”
MAS şöyle diyor: “Finansal kuruluşlar, sundukları hizmetlerde kullanılan yapay zekadan, üçüncü taraflarca geliştirilen, işletilen veya sağlanan yapay zeka dahil, sorumlu olmaya devam eder. Finansal kuruluşlar, üçüncü taraf sağlayıcılardan yeterli güvence almalı, üçüncü taraf yapay zekanın amaçlanan kullanıma uygun olup olmadığını değerlendirmeli ve pratik kısıtlar veya güvence eksiklikleri ortaya çıktığında telafi edici kontroller uygulamalıdır. Riskler kuruluşun risk iştahı dahilinde tutulamıyorsa, üçüncü taraf yapay zeka hizmetinin kullanımını sınırlamayı, askıya almayı veya başka bir hizmetle değiştirmeyi değerlendirmelidir.”
MAS ayrıca finansal kuruluşlardan, kullanılan tüm yapay zekanın envanterini tutmalarını ve yapay zeka kullanıyor olabilecek üçüncü taraflarla ilişkili riskleri yönetmenin bir yolunu bulmalarını istedi. Bankalar ayrıca yüksek riskli uygulamalarda yapay zeka kullanıldığı durumlar için “yapay zekanın arızalanması veya beklenmedik davranışlarda bulunması halinde iş sürekliliğini sağlamak üzere” acil durum planları geliştirmeli.