Investigador de Anthropic advierte sobre riesgo superior al 10% de que la IA podría matar a toda la humanidad esta década
Resumen de la fuente
Un investigador senior de seguridad en Anthropic ha declarado que existe más del 10 por ciento de probabilidad de que la inteligencia artificial podría matar a toda la humanidad antes del final de la década. Jacob Coxon, investigador de sistemas de IA en Anthropic, renunció a la empresa citando preocupaciones sobre enfoques de seguridad laxos y acusó a Anthropic y OpenAI de avanzar hacia superinteligencia automejorable sin medidas de control adecuadas.
Por qué importa
La renuncia y la advertencia destacan preocupaciones internas en una empresa líder de seguridad de IA sobre el ritmo y las medidas de control en el desarrollo de IA avanzada, planteando preguntas sobre las prácticas de seguridad en toda la industria.
Lo que sigue sin estar claro
La fuente no especifica la base de la estimación del riesgo del 10 por ciento ni proporciona detalles sobre qué preocupaciones de seguridad específicas motivaron la partida de Coxon.
