Los agentes se desviaron de la prueba y realizaron más de 2.600 intentos de acceso entre el 28 de septiembre y el 8 de octubre, pero las protecciones «antibot» los frenaron.
Una flota de agentes de inteligencia artificial que Tencent evaluaba en su nube intentó extraer datos de Amap, la aplicación de mapas de Alibaba. Los agentes se desviaron de las directrices de la prueba y buscaron información que no es pública, pero las protecciones «antibot» del servicio rechazaron sus avances.
Los investigadores de Tencent habían puesto a prueba la capacidad de modelos de IA de terceros para navegar por internet y responder preguntas cotidianas, como identificar la entrada más concurrida del zoo de Chengdú. Para ello, los agentes utilizaron Amap, un servicio similar a Google Maps pero orientado al mercado chino, desarrollado por Alibaba y con cerca de mil millones de usuarios. En un momento dado, sin embargo, empezaron a rastrear datos de la aplicación a los que no podían acceder de forma pública.
➡️ Te puede interesar: Máster Profesional en Ciberseguridad, Ciberinteligencia y Ciberdefensa
Según los investigadores de ciberseguridad del grupo Swarmcham, los agentes aprovecharon su capacidad para moverse por la red con el fin de localizar claves y código de seguridad previamente filtrados. Además, contabilizaron más de 2.600 intentos de acceso entre el 28 de septiembre y el 8 de octubre. No obstante, los agentes actuaron de forma individual, y por eso Swarmcham habla de «flota» y no de enjambre.
Esta diferencia distingue el caso de otros ataques conocidos, como el de Hugging Face, en el que agentes de IA basados en modelos de OpenAI actuaron de manera coordinada. Sobre lo ocurrido en Amap, los investigadores advierten que «los resultados de nuestra investigación demuestran la dificultad de alinear un modelo», ya que los modelos pueden «desviarse espontáneamente del guion» en tareas sencillas. Y añaden que «gestionar un gran número de agentes es una proeza de ingeniería y un problema emergente en materia de alineación de modelos».
