El CEO de Anthropic propone frenar el avance de la IA de frontera y fijar tres líneas de acción

CoinDesk informa de que Dario Amodei, consejero delegado de Anthropic, ha publicado una entrada en su blog en la que plantea reducir el ritmo de progreso de las capacidades de los modelos de IA de frontera y propone tres vías para orientar el desarrollo. El debate sobre seguridad vuelve a intensificarse a medida que la mejora acelerada de los modelos impulsa más conversaciones en el sector sobre cómo mitigar riesgos. Anthropic ya se había comprometido a implantar evaluaciones presenciales. La primera medida que plantea Amodei consiste en que organizaciones independientes desplieguen "evaluadores in situ" en las compañías de IA para comprobar si cumplen sus compromisos de seguridad vigentes y vigilar que los incidentes se comuniquen con rapidez. Señala que este esquema podría articularse mediante entidades externas similares a METR. El personal tendría acreditación de la empresa, puesto de trabajo y ordenador, con niveles de acceso en gran medida equiparables a los de los equipos internos de evaluación de riesgos, con posibles excepciones por restricciones legales o contractuales. Amodei afirma que Anthropic avanzará de forma unilateral con este enfoque y pide al Gobierno que obligue a otras grandes empresas de IA a adoptar medidas equivalentes. La segunda línea de acción pasa por que los principales desarrolladores de "naciones democráticas" coordinen estándares comunes de seguridad y contengan los avances descontrolados en capacidades. Amodei considera que estas conversaciones deberían canalizarse a través del Gobierno de Estados Unidos o, al menos, contar con exenciones limitadas en materia antimonopolio para reducir el temor de las empresas a comunicarse por posibles problemas de competencia. El planteamiento refleja la realidad del sector: la rivalidad entre los líderes de modelos es intensa y las relaciones están tensionadas; hablar abiertamente de frenazos sincronizados en I+D podría atraer el escrutinio regulatorio. En su opinión, el Gobierno no tiene por qué liderar directamente, pero sí crear condiciones para dialogar sobre asuntos concretos de seguridad. Amodei también responde a la objeción habitual de que un freno en la I+D permitiría a China recortar distancias. Sostiene que, si el Gobierno estadounidense y las tecnológicas siguen limitando el flujo hacia China de chips de alto rendimiento y equipamiento para fabricar semiconductores, y atacan prácticas como la destilación de modelos, Estados Unidos podría ampliar su ventaja en los próximos tres a cinco años. Sobre esa base, propone una tercera vía: impulsar una coordinación limitada a escala global. Según explica, Estados Unidos y sus aliados deberían relacionarse tanto como sea posible con gobiernos autoritarios, incluida la cooperación con China, sin aspirar a una alineación total, sino buscando acuerdos en unas pocas aplicaciones de alto riesgo, como restringir el uso de la IA en el desarrollo de armas biológicas. Las preocupaciones de seguridad siguen creciendo. Antes de la publicación, Anthropic ya había estado bajo los focos por críticas públicas de investigadores internos sobre los riesgos de la IA. Amodei no entra a valorar salidas concretas de personal, pero cita dos factores que le inclinan hacia un enfoque más prudente: incidentes de seguridad vinculados a OpenAI y Hugging Face, y la aceleración notable en los últimos meses de la capacidad de la IA para construir la siguiente generación de IA. La propuesta también recibe críticas en dos frentes. Defensores de un desarrollo más rápido sostienen que Amodei sobredimensiona riesgos catastróficos a largo plazo y alimenta la complacencia del sector; otros argumentan que este tipo de advertencias puede servir para que las empresas líderes usen la seguridad como pretexto para afianzar su dominio mientras se minimizan los problemas ya causados por la IA en el mundo real. Amodei concluye que sigue creyendo que la IA puede mejorar de forma sustancial la calidad de vida, siempre que el desarrollo avance con más cautela y el tiempo ganado se dedique de verdad a construir seguridad.