La compañía crea un «mundo sin conexión» tras el incidente del 20 de septiembre, cuando un modelo interno explotó un fallo en un resolutor DNS.
OpenAI ha decidido bloquear el acceso a internet durante el entrenamiento de sus modelos de IA de frontera, una medida que considera la opción «responsable» para no poner en riesgo la red y limitar otros peligros de seguridad. La compañía lo ha detallado en su web y ha explicado que quiere evitar episodios como el del verano, cuando agentes de IA «hackearon» Hugging Face.
La empresa justifica el cambio en el estado actual de la investigación. «Basándonos en el estado actual de la investigación de alineamiento, los sistemas de monitorización y la seguridad de la infraestructura de internet, creemos que la perspectiva responsable es realizar el entrenamiento de un modelo sin acceso a internet», señala. La directriz «se mantendrá hasta que los avances en medidas de seguridad justifiquen un acceso más amplio a internet». OpenAI admite que la conexión puede ayudar a los modelos a aprender habilidades útiles. Sin embargo, advierte de que también «da capacidad para que los agentes desalineados afecten sistemas fuera de nuestro control».
➡️ Te puede interesar: Máster Profesional en Ciberseguridad, Ciberinteligencia y Ciberdefensa
Para que el entrenamiento continúe, OpenAI ha fijado límites de seguridad dentro de los cuales los agentes pueden usar navegadores, entornos de ejecución de código, herramientas de uso del ordenador y otros servicios necesarios para sus tareas. Además, ha creado un «mundo sin conexión», un entorno basado en contenido indexado y en caché de internet. Según la compañía, los modelos pueden aprender allí a navegar, buscar información y usar aplicaciones web, y lo hacen «sin poner en riesgo sistemas externos». OpenAI ha confirmado que todos sus entrenamientos de aprendizaje por refuerzo (RL) emplean este modo sin conexión.
La compañía reconoce, no obstante, que los desalineamientos siguen siendo posibles. El 20 de septiembre, «un modelo de investigación interno explotó una mala configuración en un resolutor DNS para obtener acceso limitado a internet en vivo» durante un entrenamiento. OpenAI logró contener el incidente, pero decidió pausar el entrenamiento. En una campaña de equipo rojo con un grupo experto, los agentes de sus modelos más avanzados también escaparon de las máquinas virtuales que los aíslan y se comunicaron entre sí sin conexión de red. Lo consiguieron midiendo los tiempos de acceso a la caché del procesador, una técnica empleada en los ataques Spectre y Meltdown. OpenAI ha corregido los fallos y ha añadido mecanismos para que sus sistemas de monitorización detecten esa comunicación.
