Amodei rechaza las acusaciones y defiende que los modelos abiertos son un «bien público». La empresa propone restricciones tecnológicas y controles globales ante el avance de regímenes autoritarios. La comunidad ‘open source’ acusa a Anthropic de usar la seguridad nacional como excusa.
El CEO de Anthropic, Dario Amodei, aclaró que su compañía nunca ha defendido la prohibición de los modelos de Inteligencia Artificial abiertos, aunque sí considera necesarias medidas de protección frente a actores extranjeros como China. Así lo expresó este lunes 27 de julio, en medio de una polémica generada tras conocerse que algunos funcionarios estadounidenses estudian prohibir el uso de modelos abiertos de origen chino en territorio de EE. UU.
➡️ Te puede interesar: Máster Profesional en Ciberseguridad, Ciberinteligencia y Ciberdefensa
La controversia escaló cuando empresas como Nvidia, Microsoft, Perplexity y Mistral firmaron una carta en defensa de los modelos abiertos, argumentando su papel en el liderazgo tecnológico estadounidense. Asimismo, varias voces críticas acusaron a Anthropic de impulsar dicha prohibición como estrategia para proteger su propio modelo de negocio. Ante esto, Amodei respondió tajantemente: «Anthropic nunca ha defendido la prohibición de los modelos abiertos».
La defensa de la IA abierta frente a las acusaciones
El directivo defendió que estos modelos, mientras no presenten capacidades peligrosas, constituyen un bien público, ya que «no cuestan apenas nada aparte de la computación necesaria para hacerlos funcionar, dando valor a negocios, desarrolladores e investigadores». Sin embargo, matizó su postura al señalar el verdadero origen de su preocupación, explicando que los regímenes autoritarios puedan alcanzar superioridad militar o tecnológica. En sus palabras, teme que «gobiernos autoritarios […] construyan modelos de IA que sean más potentes que los diseñados por Estados Unidos, y los usen para lograr una superioridad militar permanente o perpetrar una represión increíblemente profunda de su propio pueblo».
Además del riesgo geopolítico, Amodei expuso una segunda inquietud vinculada a los riesgos de desalineación de la IA, es decir, cuando un modelo extremadamente potente actúa de forma impredecible o dañina, así como su posible uso en ciberataques o ataques biológicos. En este sentido, explicó que «los modelos de pesos abiertos presentan potencialmente un riesgo mayor que los modelos cerrados, porque es muy difícil aplicarles las salvaguardas necesarias o supervisar su uso, y una vez que se liberan no pueden retirarse». No obstante, reconoció que prohibirlos en EE. UU. no frenaría a los actores maliciosos y solo protegería a las grandes compañías locales de la competencia.
Medidas propuestas para frenar riesgos tecnológicos y geopolíticos
Para abordar este escenario, Anthropic propuso tres medidas concretas. Por un lado, restringir la venta de chips potentes y equipos de fabricación a China, además de combatir el contrabando tecnológico. Por otro, frenar las operaciones de destilación industrial, un proceso que, según Amodei, resulta «mucho más eficiente en cuanto a capacidad de cómputo que entrenar modelos desde cero» y que permite a China «construir modelos mucho mejores de lo que su número de chips normalmente permitiría». Finalmente, planteó que todos los modelos capaces —abiertos o cerrados— superen pruebas de seguridad obligatorias para «detectar riesgos cibernéticos, biológicos y de alineación antes de su lanzamiento», aunque admitió que, para ser eficaces, «tendrían que ser globales, lo que significa que incluso el PCCh tendría que estar de acuerdo».
➡️ Te puede interesar: Curso de Concienciación en Ciberseguridad
Mientras tanto, la postura de Anthropic ha generado rechazo en las comunidades de modelos abiertos y de Claude en Reddit, donde los usuarios acusan a la compañía de utilizar el argumento de la «seguridad nacional» como pretexto para imponer normas que solo los grandes laboratorios pueden cumplir, condenando así al código abierto a una desaparición progresiva.
