CEO de Anthropic Pide Desacelerar el Desarrollo de IA y Abre sus Modelos a Evaluación de Seguridad de Terceros
Resumen de la fuente
El CEO de Anthropic, Dario Amodei, ha propuesto desacelerar el desarrollo de IA para permitir tiempo para construir salvaguardas y evaluación regulatoria. La empresa otorgará acceso a evaluadores de terceros como METR a sus modelos para evaluar la adherencia a prácticas de seguridad. Amodei esbozó un plan de tres pasos para "moderar la frontera", con acceso de evaluadores externos como primer paso que la empresa implementa unilateralmente, seguido de coordinación industrial más amplia.
Por qué importa
El movimiento señala el compromiso de una empresa de IA importante con la supervisión de seguridad y establece un precedente para la evaluación de terceros de sistemas de IA antes de que se establezcan marcos regulatorios más amplios.
