Anthropic CEO'su AI Geliştirme Hızını Yavaşlatmayı İstiyor, Modellerini Üçüncü Taraf Güvenlik İncelemesine Açıyor
Kaynak özeti
Anthropic CEO'su Dario Amodei, AI geliştirme hızını yavaşlatmayı ve güvenlik önlemleri ile düzenleyici değerlendirme için zaman tanımayı önermiştir. Şirket, METR gibi üçüncü taraf değerlendiricilere modellerine erişim vererek güvenlik uygulamalarına uyumu değerlendirecektir. Amodei, "sınırı ölçeklendirme" için üç adımlı bir plan sunmuş olup, şirketin tek taraflı olarak uyguladığı ilk adım dış değerlendiricilere erişim, bunu daha geniş endüstri koordinasyonu izlemektedir.
Neden önemli
Bu hamle, büyük bir yapay zeka şirketinin güvenlik gözetimi taahhüdünü gösterir ve daha geniş düzenleyici çerçeveler kurulmadan önce AI sistemlerinin üçüncü taraf değerlendirilmesi için bir emsal oluşturur.
