Más de 1.100 trabajadores reclaman al Gobierno de Estados Unidos medidas para «marcar el ritmo de forma deliberada». El manifiesto advierte de sistemas que podrían dejar de ser comprensibles o controlables.
Más de mil empleados de OpenAI, Anthropic y Google han firmado una carta abierta dirigida al Gobierno de Estados Unidos para pedir que respalde herramientas que permitan «marcar el ritmo de forma deliberada» del desarrollo de la inteligencia artificial. En concreto, son 1.178 firmantes los que respaldan el manifiesto hasta el momento, según recoge el propio texto.
➡️ Te puede interesar: Máster Profesional en Ciberseguridad, Ciberinteligencia y Ciberdefensa
Los trabajadores de estas compañías de IA de frontera advierten que las capacidades de esta tecnología podrían alcanzar un punto en el que ya no se pueda «comprender ni controlar los sistemas resultantes». Por ello, reclaman una desaceleración del ritmo de avance antes de que ese límite se traspase, según explican en la carta.
Riesgo de sistemas que ya no puedan comprenderse ni controlarse
El documento, sin embargo, no descarta los beneficios de la IA, aunque los matiza con cautela. Los firmantes reconocen que esta tecnología «podría contribuir a crear un futuro mucho mejor», pero advierten de inmediato que «este resultado no está garantizado». Esta diferencia entre lo condicional y lo afirmativo marca el tono general del manifiesto.
Ante la cercanía de la automatización de la investigación en IA, los empleados sostienen que resulta necesario «regular de forma deliberada el progreso en este campo». Además, defienden que, junto a los beneficios prometidos para la industria y la sociedad, también deben abordarse los riesgos emergentes derivados de este avance tecnológico.
Petición de regulación y supervisión internacional
Con el objetivo de «ganar tiempo» para investigar dichos riesgos, los firmantes reclaman «desarrollar medidas de seguridad y fortalecer la supervisión». Asimismo, piden al Gobierno estadounidense que «apoye un esfuerzo internacional para desarrollar las herramientas técnicas y de gobernanza necesarias» que permitan controlar el ritmo del desarrollo de la IA automatizada. El manifiesto, titulado ‘Pacing the Frontier’, cuenta con el respaldo de figuras como Jared Kaplan y Dario Amodei, de Anthropic; Mark Chen, de OpenAI; y Anca Dragan, de Google.
➡️ Te puede interesar: Máster Profesional de Analista Internacional y Geopolítico
No obstante, el documento carece de la firma de Sam Altman, director ejecutivo de OpenAI, quien recientemente abordó este tema en el pódcast ‘Invest Like the Best’. Allí, Altman admitió que «quizás tengamos que moderar el ritmo de desarrollo de la IA», aunque insistió en que debe hacerse sin que «parezca una captura regulatoria» ni «una colusión entre los laboratorios de vanguardia». En la misma línea, añadió: «Me aterra un mundo donde los temores reales sobre la IA se utilicen para decir: ‘Solo este pequeño grupo de personas puede tenerla porque es demasiado peligrosa (…) pero no se preocupen, tomarán las decisiones correctas para todos nosotros’. No creo en eso».
