El CEO de Anthropic pidió desacelerar el desarrollo de la inteligencia artificial y Elon Musk lo respalda
Dario Amodei advirtió que las capacidades de los modelos están avanzando más rápido que las medidas para controlarlos. Propuso un plan de tres etapas y anunció que la compañía dará acceso permanente a evaluadores externos para supervisar sus sistemas.
RedacciónDario Amodei, CEO de Anthropic, pidió este sábado desacelerar el ritmo de desarrollo de los sistemas de inteligencia arrificial para dar tiempo a que las medidas de seguridad puedan acompañar el rápido aumento de sus capacidades.
El ejecutivo presentó un plan de tres etapas y anunció que su compañía comenzará a permitir que evaluadores externos tengan acceso permanente y similar al de sus empleados para supervisar sus modelos.
"Debemos reducir el ritmo al que mejoramos las capacidades de los modelos de IA”, planteó Amodei en un extenso ensayo titulado We Must Pace the Frontier.
Sin embargo, aclaró que su propuesta no consiste en detener el entrenamiento de modelos ni el progreso tecnológico, sino en garantizar tiempo suficiente para desarrollar medidas de alineación y seguridad y permitir que terceros puedan verificarlas.
El CEO de Anthropic sostuvo que cambió su posición durante los últimos meses debido principalmente a dos acontecimientos: la aceleración de la capacidad de la IA para contribuir al desarrollo de nuevas generaciones de modelos y una serie de comportamientos preocupantes observados durante evaluaciones de sistemas avanzados.
Según Amodei, desde mediados de este año comenzó a acelerarse lo que denomina “automejora recursiva”, es decir, la utilización creciente de inteligencia artificial para desarrollar la próxima generación de sistemas de IA. El empresario advirtió que, si esa dinámica avanza sin suficientes controles, podría superar la capacidad humana para comprender y controlar los modelos.
La advertencia de Anthropic por los próximos 6 a 12 meses
El segundo episodio mencionado por Amodei fue el incidente entre agentes de OpenAI y Hugging Face, ocurrido durante una evaluación y sobre el que OpenAI informó meses atrás.
Según describió el CEO de Anthropic, un conjunto de agentes realizó acciones informáticas contra objetivos que no formaban parte de la tarea original e incluso intentó vulnerar el sistema encargado de evaluar su desempeño.
Amodei reconoció que el episodio no provocó víctimas y que el daño económico fue reducido, pero consideró que un sistema más avanzado con un comportamiento semejante podría tener consecuencias mucho mayores.
“Me preocupa que en 6 a 12 meses un enjambre de este tipo pueda ser capaz de tomar el control de todo Internet mediante una botnet persistente”, escribió Amodei, quien estimó que un escenario de esas características podría generar daños por cientos de miles de millones de dólares.
Se trata de una proyección del propio ejecutivo, no de una capacidad que los sistemas actuales hayan demostrado poseer.
Amodei remarcó además que no considera el episodio como un problema exclusivo de OpenAI y aseguró que Anthropic también detectó incidentes de alineación, aunque de menor gravedad.
El plan de tres pasos para desacelerar la carrera por la IA
Ante ese escenario, el ejecutivo propuso una estrategia dividida en tres niveles. El primero consiste en que las principales compañías permitan que equipos independientes de evaluación tengan acceso continuo y similar al de un empleado a sus sistemas, procesos de entrenamiento y medidas de seguridad.
Anthropic anunció que adoptará unilateralmente esta medida. Los evaluadores podrán comprobar si la compañía cumple sus compromisos de seguridad, informar incidentes y estudiar la alineación de los modelos incluso durante su proceso de entrenamiento, y no solamente una vez terminados.
La segunda etapa propuesta por Amodei requiere que las empresas de IA de países democráticos coordinen estándares comunes de seguridad y límites al avance sin controles. Para concretar algunos de esos acuerdos, sostuvo, será necesaria la participación de los gobiernos debido a posibles obstáculos legales.
El tercer nivel apunta a una coordinación global entre Estados Unidos y otras democracias con gobiernos autoritarios. Amodei considera que cualquier acuerdo deberá contar con mecanismos sólidos de verificación para evitar que un país reduzca su ritmo de desarrollo mientras otro continúa avanzando sin restricciones.
“Uno o dos años” para mejorar la seguridad
El CEO de Anthropic sostuvo que incluso conseguir uno o dos años adicionales antes de que los modelos alcancen niveles críticos de capacidad podría reducir considerablemente los riesgos si ese período se utiliza para avanzar en alineación, interpretabilidad, evaluaciones y seguridad operacional.
Último momento
El CEO de Anthropic pidió desacelerar el desarrollo de la inteligencia artificial y Elon Musk lo respalda
Redacción
12/09/2026Dario Amodei advirtió que las capacidades de los modelos están avanzando más rápido que las medidas para controlarlos. Propuso un plan de tres etapas y anunció que la compañía dará acceso permanente a evaluadores externos para supervisar sus sistemas.
Lo más visto
Cayó un dealer mientras dormía en su casa de Merlo: incautaron cocaína, marihuana y pasa base
Redacción
07/09/2026Cuando la Policía irrumpió en su domicilio intentó correr a tomar un arma, pero no llegó: lo esposaron en su propia cama. Fue en el marco de 8 allanamientos ordenados por la justicia en el que incautaron armamento de grueso calibre y gran cantidad de municiones. Y un detalle: el líder de ‘La banda de los colores’ había muerto un día antes de un paro cardíaco.
Moreno: fracasó la licitación de las líneas de colectivo y el Municipio evalúa crear una empresa pública de transporte
Redacción
07/09/2026El Municipio abrió las ofertas para reorganizar el transporte local, pero apenas una empresa se presentó para una de las tres zonas licitadas. La salida de La Perlita abre interrogantes sobre el futuro de la línea 501 y la situación de más de 800 trabajadores. Empresarios y la UTA habían cuestionado las condiciones de los pliegos
El acusado tiene 19 años y escapó corriendo después del ataque. La víctima, de 18, murió en el Hospital Bicentenario y su padre recibió dos disparos en las piernas.
El Concejo de Morón aprobó la interpelación de Ghi tras los hechos de inseguridad
Redacción
11/09/2026El jefe comunal Lucas Ghi deberá presentarse para “brindar un informe detallado sobre las políticas tomadas y que tomará en materia de seguridad”; el caso de El Palomar
Buscan a Ángel Edgardo Balbuena en Ituzaingó: tiene 65 años y su familia pide ayuda
Redacción
12/09/2026Ángel Edgardo Balbuena lleva dos semanas desaparecido, según informó su familia. Sus allegados radicaron la denuncia y recorrieron hospitales y comisarías, pero todavía no lograron localizarlo. Necesita medicación y solicitan que se difunda su fotografía.