Anthropic, OpenAI, Google y SpaceX respaldan un organismo autorregulador mientras la ONU advierte de riesgos «sin precedentes» para los derechos humanos.
Los máximos responsables de los laboratorios de inteligencia artificial más influyentes del mundo han pedido pactar un freno a la carrera tecnológica que ellos mismos protagonizan. El CEO de Anthropic, Dario Amodei, publicó un ensayo en el que defiende ralentizar el desarrollo de sistemas avanzados y crear un organismo que vigile su seguridad. La propuesta ha recibido respaldo inmediato de figuras como Sam Altman (OpenAI), Demis Hassabis (Google) y Elon Musk (SpaceX), lo que evidencia una preocupación compartida en la cúpula de Silicon Valley pese a que son estas mismas compañías las que han acelerado el progreso que ahora reclaman contener.
➡️ Te puede interesar: Máster Profesional en Ciberseguridad, Ciberinteligencia y Ciberdefensa
El respaldo se materializó en redes sociales. Hassabis mostró su apoyo público al planteamiento de Amodei en X, mientras que Altman fue más allá al advertir que «el progreso ha sido rápido y continuará siéndolo. Pero debería ser más lento». Con esa frase, el CEO de OpenAI reconoció que la presión competitiva entre gigantes tecnológicos no puede seguir justificando decisiones imprudentes. De fondo está el temor a un desalineamiento de los modelos, que según el texto de Amodei han avanzado exponencialmente desde el verano y ya han provocado incidentes como el ataque de un enjambre de agentes de IA de OpenAI contra Hugging Face.
Un plan de tres pasos
Frente a ese escenario, Amodei propone un plan de tres pasos para frenar el desarrollo de los modelos más avanzados e imponer evaluaciones de seguridad que avancen al mismo ritmo que la tecnología. Según reveló The Washington Post, antes de la publicación del ensayo, Anthropic, OpenAI y Google ya habían debatido en privado la creación de un organismo autorregulador independiente. Su función sería fijar estándares de seguridad obligatorios en un sector que, de momento, carece de supervisión externa equivalente a la de otras industrias.
El modelo que se baraja tomaría como referencia a la Autoridad Reguladora de la Industria Financiera (FINRA) estadounidense, una entidad privada sin ánimo de lucro autorizada por el Congreso para supervisar a las empresas de valores y corredurías de bolsa. Sin embargo, la iniciativa resulta inédita porque son las propias compañías que impulsaron la carrera tecnológica las que ahora buscan limitarla. Amodei llegó a sugerir una exención «limitada» en las leyes de competencia de Estados Unidos que permitiría a estas empresas coordinar entre sí los límites de seguridad sin incurrir en prácticas anticompetitivas.
La Casa Blanca rechaza cualquier freno a la carrera tecnológica
No obstante, la propuesta choca con la postura oficial de la Casa Blanca. El presidente Donald Trump se mostró contrario a cualquier desaceleración al afirmar: «Estamos superando a China en IA, somos el país más sofisticado del mundo, y francamente, quiero que siga siendo así». A esa resistencia se suman voces críticas dentro de la propia industria y de la administración estadounidense, que interpretan el pacto entre gigantes como un posible «cartel» capaz de bloquear a competidores más pequeños y de debilitar la ventaja estratégica del país frente a rivales como China.
➡️ Te puede interesar: Máster Profesional de Analista Internacional y Geopolítico
En paralelo, el Alto Comisionado de la ONU para los Derechos Humanos, Volker Türk, dirigió una carta abierta a Estados y empresas de IA de frontera para exigir una gobernanza urgente de la tecnología. Türk sostiene que «el verdadero reto hoy en día es cómo equiparar el ritmo de una gobernanza eficaz de la IA con el ritmo de su acelerado desarrollo» y alerta de daños ya presentes, como la discriminación, la erosión de la privacidad, la exclusión provocada por la automatización de servicios esenciales y las campañas de desinformación. Además, citó el hackeo a Hugging Face para advertir que «los sistemas avanzados pueden generar comportamientos fuera de sus parámetros operativos previstos, eludir salvaguardas, ejercer el engaño y perseguir objetivos de forma autónoma», y pidió limitar la automejora recursiva, fomentar la cooperación entre países y avanzar hacia una corregulación que obligue a las empresas a rendir cuentas.
