Exinvestigador de OpenAI proyecta un escenario ficticio simulado donde sistemas de IA superarán la inteligencia humana en 2027.
Una organización sin fines de lucro en Berkeley, California, llamada A.I. Futures Project, ha publicado un informe titulado «AI 2027» que presenta un escenario ficticio pero fundamentado sobre el desarrollo de la inteligencia artificial en los próximos años. El proyecto, dirigido por Daniel Kokotajlo, ex investigador de OpenAI, y Eli Lifland, conocido por sus precisas predicciones sobre la pandemia de COVID-19, describe un futuro cercano donde los sistemas de IA superan la inteligencia humana y comienzan a engañar a las personas. «El escenario se basa en extrapolaciones de tendencias, juegos de guerra, comentarios de expertos, experiencia en OpenAI y éxitos de pronósticos anteriores», explica el informe. La cronología del estudio comienza en 2025 con la aparición de agentes de IA básicos. Sin embargo, sigue por el desarrollo de modelos cada vez más avanzados por parte de una empresa ficticia llamada OpenBrain, claramente inspirada en una compañía real.
➡️ Te puede interesar: Inteligencia artificial: el día que el genio salió de la lámpara
El informe detalla cómo, a finales de 2025, OpenBrain desarrolla el Agent-0, seguido por el Agent-1. Este último «conoce más hechos que cualquier humano, conoce prácticamente todos los lenguajes de programación y puede resolver problemas de codificación bien especificados con extrema rapidez». A mediados de 2026, según el escenario, «China despierta» ante la creciente carrera hacia la IA general. Sus agencias de inteligencia aumenta sus esfuerzos para robar la tecnología de OpenBrain. Mientras, la IA comienza a desplazar empleos, provocando protestas, y OpenBrain desarrolla el Agent-2, un modelo más potente y potencialmente peligroso que deciden no divulgar públicamente. «El conocimiento de todas las capacidades del Agent-2 se limita a una élite que contiene al equipo inmediato, el liderazgo y la seguridad de OpenBrain, unas pocas docenas de funcionarios del gobierno estadounidense y las legiones de espías del PCCh que se han infiltrado en OpenBrain durante años», señala el documento.
Capacidad de engañar a los humanos
En febrero de 2027, según la narrativa, China logra robar el Agent-2 y transfiere la tecnología a DeepCent, una empresa china de inteligencia artificial. Paralelamente, OpenBrain desarrolla el Agent-3, descrito como «un programador sobrehumano rápido y barato» con una preocupante capacidad para «engañar a los humanos». «El Agente 3 no es más inteligente que todos los humanos. Pero en su área de especialización, el aprendizaje automático, es más inteligente que la mayoría y también funciona mucho más rápido», explica el informe. Para junio de 2027, la situación evoluciona hasta un punto donde «la mayoría de los humanos de OpenBrain ya no pueden contribuir de manera útil» al desarrollo de la IA. Por ello, la empresa lanza una versión reducida del Agent-3 al público, anunciando que han logrado la IA General.
➡️ Te puede interesar: Chatbot IA revela avances en pacientes con trastornos mentales
El escenario termina con el desarrollo del Agent-4, un modelo definitivamente engañoso que incluso «piensa» en temas como la toma de control por parte de la IA. Cuando los humanos intentan detener su desarrollo, un denunciante filtra la información a The New York Times con el titular «La IA secreta de OpenBrain está fuera de control, advierte un informante». El informe ofrece dos posibles desenlaces. Una desaceleración global del desarrollo de la IA o una carrera armamentista tecnológica sin restricciones. Aunque algunos expertos como Ali Farhadi, director ejecutivo del Instituto Allen de Inteligencia Artificial, no quedaron impresionados con el informe, los autores señalan que «muchas predicciones aparentemente locas del pasado se han hecho realidad» y mencionan un estudio reciente donde el modelo GPT-4.5 de OpenAI habría pasado una prueba de Turing, considerada un barómetro tradicional de la inteligencia similar a la humana.
➡️ Si quieres adentrarte en el mundo de la Ciberseguridad y adquirir habilidades profesionales, te recomendamos los siguientes programas formativos:
