Dario Amodei, director ejecutivo de Anthropic, pidió desacelerar el desarrollo de los modelos de inteligencia artificial más avanzados y someterlos a verificaciones externas. Su planteamiento coloca el control independiente en el centro del debate sobre una tecnología desarrollada principalmente por empresas privadas.
El ejecutivo sostuvo que las capacidades aumentan más rápido que las medidas de protección. Citó riesgos de ciberseguridad y de uso indebido en biología, y advirtió sobre un posible deterioro del control humano; se trata de su evaluación del riesgo, no de un desenlace comprobado.
Amodei propuso que laboratorios rivales permitan a evaluadores externos examinar sus modelos antes de desplegarlos. La medida buscaría comparar capacidades peligrosas con salvaguardas comunes y reducir el incentivo comercial de lanzar sistemas sin pruebas suficientes.
La propuesta abre preguntas prácticas sobre quién certificará los modelos, qué información deberán revelar las compañías y cómo se aplicarán reglas equivalentes entre países. Sin esos acuerdos, una pausa voluntaria podría trasladar la competencia hacia actores menos transparentes.
Fuentes: https://apnews.com/article/d59552edcb27892d8ee4d98a48397706 y https://elpais.com/tecnologia/2026-09-12/el-director-general-de-anthropic-pide-ralentizar-el-progreso-de-la-ia-y-que-todas-las-empresas-admitan-verificadores-externos.html.
Fotografía: TechCrunch / Wikimedia Commons. Dario Amodei durante TechCrunch Disrupt; fotografía de archivo de 2023. Licencia CC BY 2.0. Sin modificaciones editoriales.
