Anthropic, yapay zeka araştırma ve geliştirme çalışmalarının şirket içinde %26’sına Claude’un “öncülük ettiğini” açıkladı. Bu, yapay zekanın bir sonraki teknoloji neslini ne kadar hızlı geliştirdiğini dış dünyaya göstermek amacıyla düzenli olarak yayınlanacak yeni ölçümlerin bir parçası.
San Francisco merkezli şirket Perşembe günü yayınladığı blog yazısında, Ağustos itibarıyla şirkette yürütülen araştırma çalışmalarının %90’ından fazlasında yapay zekanın insanlarla iş birliği yaptığını da belirtti.
Anthropic, Claude’un ölçülen çalışmaların hiçbirinde tam otonom şekilde çalışmadığını, ancak teknolojinin geliştirilmesine katkısının, teknolojiyi takip eden bağımsız bir kâr amacı gütmeyen kuruluş olan Epoch AI tarafından geliştirilen bir ölçekte Mart ayındaki %1’den hızla yükseldiğini söyledi.
Bu veriler, yapay zekanın kısa süre içinde insan katkısına çok az ihtiyaç duyarak kendi gelişimini besleyebileceği bir noktaya ulaşabileceğine dair artan endişeler arasında, sektördeki önde gelen şirketlerin teknolojiyi nasıl geliştirdiğine dair kamuoyuna sunulan en detaylı pencerelerden birini oluşturuyor.
Araştırmacılar, yapay zeka ajanlarının daha otonom hale gelmesiyle birlikte, yaratıcılarının niyetlerinden sapan ve izlenmesi ya da kontrol edilmesi daha zor davranışlar geliştirebileceği konusunda uyarıda bulundu.
Çarşamba günü rakip şirket OpenAI, beklenmedik veya izinsiz yapay zeka davranışlarına ilişkin altı raporu açıklarken, bu tür davranışlara dair raporları düzenli olarak yayınlamaya başlayacağını duyurdu.
Anthropic, Ağustos ayında herhangi bir anda ana iç platformunda yaklaşık 30.000 yapay zeka ajanının araştırma ve mühendislik çalışması yürüttüğünü açıkladı. Şirket, ajanların attığı her adımın uygulanmadan önce denetlendiğini ve o ay verilen bir milyardan fazla karardan yaklaşık her 47.000’de birinin engellendiğini ekledi.
Şirket ayrıca, Temmuz ayında örnek alınan bir haftada Anthropic’in yapay zeka araştırmaları için kullandığı işlem gücünün yaklaşık %6’sının güvenlik çalışmalarına ayrıldığını, bu oranın yapay zekanın kendisi tarafından yürütülen araştırmalarda %12’ye çıktığını açıkladı. Şirket, güvenlik ve yetenek geliştirmeye eşit oranda katkı sağlayan işlem gücünün yetenek çalışması olarak sayıldığını belirterek bu rakamların muhafazakâr (temkinli) tahminler olduğunu ifade etti.