Recientemente, un informe de Europol ha advertido sobre las amenazas, riesgos y oportunidades de ChatGPT, uno de los modelos de lenguajes digitales extensos más populares. En este artículo hablamos sobre la cara B de ChatGPT y ofrecemos potenciales consejos y soluciones para protegerse contra sus posibles riesgos.
El Observatorio del Laboratorio de Innovación de Europol monitorea los desarrollos tecnológicos relevantes para la aplicación de la ley e informa sobre los riesgos, amenazas y oportunidades de las tecnologías emergentes. Recientemente, la organización impulsó una serie de talleres con expertos para explorar cómo los delincuentes pueden abusar de los modelos de lenguaje extenso —LLM, por sus siglas en inglés– como ChatGPT y cómo pueden ayudar los investigadores en su trabajo diario.
Los LLM son sistemas de Inteligencia Artificial que pueden procesar, manipular y generar texto, y se entrenan con grandes cantidades de datos para aprender patrones y conexiones entre palabras para generar contenido nuevo. ChatGPT es uno de los LLM más populares y puede responder preguntas, traducir texto, participar en intercambios conversacionales, generar contenido nuevo y producir código funcional.
Te puede interesar: ¿Qué es ChatGPT y cómo puede revolucionar la Inteligencia artificial?
¿Cuáles son las amenazas de ChatGPT según Europol?
La posible explotación de los LLM por parte de los delincuentes ofrece una perspectiva sombría. Las áreas de preocupación identificadas por los expertos de Europol incluyen fraude e ingeniería social, desinformación y ciberdelincuencia.
Especialmente, el ChatGPT puede ser utilizado para phishing, suplantando el estilo de habla de individuos o grupos específicos para engañar a las posibles víctimas para que depositen su confianza en manos de los delincuentes. También es ideal para la producción de propaganda y desinformación, lo que permite a los usuarios generar y difundir mensajes que reflejen una narrativa específica con relativamente poco esfuerzo.
Además, ChatGPT es capaz de producir código en varios lenguajes de programación diferentes, lo que es un recurso valioso para producir diferentes malwares.
Es importante tener en cuenta que ChatGPT fue seleccionado para ser examinado en los talleres porque es el LLM de más alto perfil y, actualmente, el más empleado entre el público.
No es el primer informe que presenta la organización sobre ChatGPT. El 27 de marzo, el documento ChatGPT: The impact of Large Language Models on Law Enforcement examinó el impacto de los grandes modelos de lenguaje, específicamente ChatGPT, en la aplicación de la ley. Discute el trasfondo de los LLM y ChatGPT, sus limitaciones, salvaguardas, ingeniería de prompts y jailbreaks.
Te puede interesar: Las geopolítica actual fuerza a la UE a reforzar su Ciberseguridad
El informe de Europol tiene como objetivo generar conciencia sobre el posible uso indebido de los LLM, abrir un diálogo con las empresas de inteligencia artificial para ayudarlas a construir mejores salvaguardas y promover el desarrollo de sistemas de Inteligencia Artificial seguros y confiables. También se recomienda que las fuerzas del orden público se mantengan a la vanguardia de estos desarrollos para anticipar y prevenir el abuso.
En él también se identifica algunos casos de uso criminal. “Si un delincuente potencial no sabe nada sobre un área delictiva en particular, ChatGPT puede acelerar significativamente el proceso de investigación al ofrecer información clave que luego se puede explorar más en pasos posteriores. Como tal, ChatGPT se puede usar para aprender sobre una gran cantidad de posibles áreas criminales sin conocimiento previo, que van desde cómo entrar a una casa, hasta terrorismo, cibercrimen y abuso sexual infantil”, advirtió Europol.
Te puede interesar: ¿Cómo impacta la invasión de Ucrania en la Ciberseguridad?
Además, menciona que los modelos de lenguaje grandes como ChatGPT tienen el potencial de ser utilizados con fines maliciosos, incluyendo phishing, ingeniería social, fraude en línea, cibercrimen, terrorismo, propaganda y desinformación.
Aunque el informe no proporciona detalles específicos sobre cómo se cometen los crímenes empleando los grandes modelos de lenguaje como ChatGPT, sí afirma que pueden ser usados para generar textos auténticos y convincentes, y así llevar a cabo estas actividades criminales.
Te puede interesar: Web 3.0: ¿Cómo afrontar los retos y amenazas de una tecnología para la que no estamos preparados?
Según el documento, el impacto de los LLM en la aplicación de la ley ya se está notando, y es crucial que las agencias comprendan su impacto potencial y desarrollen las habilidades necesarias para evaluar y abordar su uso. También es importante que las partes interesadas participen en discusiones sobre mecanismos de seguridad y posibles sesgos.
Los LLM personalizados entrenados en datos especializados pueden ser útiles para la aplicación de la ley, pero deben tener los procesos y salvaguardas apropiados para proteger la información confidencial.
Te puedo interesar: Masterclass | Técnicas y Métodos Avanzados de Análisis de Inteligencia
Aun así, el informe llama a una mayor exploración de este campo emergente y destaca la importancia de respetar los derechos fundamentales. Europol concluye con recomendaciones para que la aplicación de la ley se prepare mejor para los posibles riesgos que plantean los LLM.
¿Cómo combatir los posibles riesgos de ChatGPT según la Europol?
Como hemos visto los LLM son una tecnología emergente que presenta algunos riesgos potenciales.
Para combatir estos riesgos se debe analizar apropiadamente este tipo de programas para entender sus riesgos y beneficios. Para ello, los investigadores y las organizaciones que trabajan en LLM deben compartir los datos y los resultados de sus estudios. Además, los desarrolladores deben ser conscientes de los posibles riesgos y trabajar para minimizarlos, teniendo en cuenta la ética y la privacidad al desarrollar y desplegar los modelos.
Te puede interesar: La Inteligencia Artificial y el futuro de la guerra
Como se menciona en el informe de Europol, también es importante que se implementen regulaciones y políticas adecuadas para proteger la privacidad y los derechos de las personas.
Además, es esencial educar a la sociedad sobre los LLM y los posibles riesgos asociados con ellos. La conciencia de la tecnología puede ayudar a las personas a tomar decisiones informadas sobre su uso y minimizar los riesgos asociados con ella.
Te puede interesar: Cómo el uso de drones e Inteligencia Artificial cambió el curso de la guerra de Nagorno Karabaj
Para evitar caer en la ciberdelincuencia generada por LLM como el phishing, se recomienda mantener las aplicaciones actualizadas y desconfiar de los correos electrónicos que soliciten información confidencial. También se debe revisar cuidadosamente el correo para detectar diferencias o errores, no responder a correos sospechosos o reenviarlos al banco para verificar su autenticidad. Además, tampoco se debe reenviar estos mensajes a personas de confianza o descargar archivos adjuntos y se debe evitar hacer clic en los enlaces proporcionados.
Por otro lado, para evitar o gestionar campañas de desinformación se debe primero analizar la fuente de las noticias, dudar de pantallazos o imágenes compartidas en redes sociales. Unos debe preguntarse sobre el contexto de la noticia y quién la compartió, teniendo mucho cuidado con las falsas cuentas humanas o bots y no limitarse a la información proporcionada por algoritmos.
Te puede interesar: Cómo acercar la Inteligencia al mundo corporativo
Otros consejos de ciberseguridad para evitar los cibercrímenes que se puedan producir por los LLM incluyen tener un programa antivirus instalado y actualizado, vigilar las descargas y archivos adjuntos fraudulentos, dudar de correos electrónicos sospechosos de spam.
También se debe mantener el sistema operativo actualizado, hacer una buena gestión de las contraseñas y no olvidarse de proteger los móviles o las tablets como a los ordenadores. Además, cada persona debe tener su propio usuario creado y no compartirlo con otros.
Te puede interesar: ¿Qué es la alianza de Inteligencia Five Eyes?
Igualmente, es importante activar el firewall o cortafuegos, evitar conectarse a redes Wi-Fi públicas, realizar las compras online en sitios seguros, tener cuidado con los mensajes fraudulentos por redes sociales y evitar dar datos personales a través de estas.
Además, se deben hacer copias de seguridad periódicas, no confiar en enlaces acortados, usar en todas las aplicaciones que la tengan la verificación en dos pasos, configurar las opciones de privacidad y seguridad en los navegadores y finalmente, formarse y estar al día en ciberseguridad.
Artículo de María Belén Agüera Martínez editado por:
Soraya Aybar Laafou. Editora y analista especializada en África en LISA News. Politóloga y periodista interesada en los derechos humanos, la geopolítica y los procesos migratorios. Me apasionan las Relaciones Internacionales y observo con especial interés al continente africano. Soy directora de África Mundi, el primer medio de análisis sobre África en castellano.
