Constantemente, suelo formular una pregunta de sí o no a los entusiastas de la Inteligencia Artificial, por lo general personas ligadas a empresas que la promueven: “¿Skynet sí o no?”
Cualquiera esperaría negativas rotundas, pero lo cierto es que sólo he encontrado a dos personas que contestaron “No”, sin dudarlo un segundo, mientras los demás han contestado “Sí”, adornado con una amplia gama de retórica situacional.
Para quienes no lo recuerden, en la película “Terminator”, Skynet, era el nombre de una compañía que proveía tecnología militar, la cual desarrolló una potente herramienta de Inteligencia Artificial, que pronto se salió de control y se volvió contra la humanidad hasta esclavizarla.
Hoy ya hay quienes ven con preocupación esta posibilidad. Por supuesto, limitarse al argumento de Terminator es una simplificación extrema…¿o no?
He aquí lo que dicen los verdaderos expertos, cuyo sustento y desarrollo profesional no está ligado a las empresas que impulsan estas herramientas:
El “Informe internacional sobre la seguridad de la IA 2026”, es un amplio documento elaborado por expertos de 30 países –México incluido—; de la ONU y la OCDE, bajo la coordinación de Yoshua Bengio, profesor de la Universidad de Montreal, que aborda numerosos aspectos de la repercusión de esta tecnología en la vida humana.
Analiza, por ejemplo, la capacidad de la IA para generar material pornográfico (96 por ciento de lo que circula en las redes del mundo se relaciona con esto y afecta sobre todo a mujeres y niñas); también la capacidad de la IA para facilitar los ciberataques de todos los tamaños y especialidades; incluso la probabilidad de desarrollar armas biológicas y químicas, para lo cual existen miles de desarrollos de IA que cualquiera los puede usar.
Y uno de los apartados se denomina, precisamente, “Pérdida de control”. Veamos qué dice:
“En los escenarios de pérdida de control, uno o más sistemas de IA de uso general operan fuera del control de las personas, y recuperar el control resulta extremadamente costoso o imposible”.
Cuando se habla de IA de uso general, se refiere a los sistemas que el mundo comenzó a utilizar azorado en noviembre de 2023 y que hoy han proliferado y están al alcance de cualquier persona.
“La opinión de los expertos sobre la probabilidad de pérdida de control varía mucho. Algunos consideran que estos escenarios son inverosímiles; otros los ven lo suficientemente probables como para merecer atención debido a su elevada gravedad potencial”.
Según este informe, los sistemas actuales “muestran los primeros indicios de capacidades relevantes, pero no a niveles que permitan perder el control. Los sistemas necesitarían una serie de capacidades avanzadas para provocar la pérdida de control, incluida la de eludir la supervisión, ejecutar planes a largo plazo e impedir que los implementadores y otros actores apliquen contramedidas”.
Esto daría tranquilidad, pero al mismo tiempo, ya sabemos que hoy la IA ha llegado a un nivel de desarrollo que todavía a finales de 2025 (hace cinco meses), se pensaba alcanzaría en el año 2045, lo que significa que el avance de esta tecnología, impulsado precisamente por la propia IA, puede ser mucho más meteórico de lo que cualquier experto supondría.
“Desde la publicación del Informe anterior (enero de 2025), los modelos han mostrado capacidades de planificación y supervisión más avanzadas, lo que hace más difícil evaluar sus capacidades. Los modelos han mejorado en piratería de recompensas durante las evaluaciones, encontrando resquicios, y ahora identifican con regularidad las instrucciones de evaluación como tales, una capacidad conocida como conciencia de situación”.
Por supuesto, el Informe analiza a detalle las repercusiones en el trabajo, en los fraudes y chantajes, en la información falsa que producen los modelos, en la delincuencia o otras prácticas negativas que ha impulsado la tecnología, pero también advierte que evitar la eventual pérdida de control tiene sus dificultades.
“La gestión de la posible pérdida de control podría requerir una preparación previa considerable a pesar de las incertidumbres existentes. Un reto clave para los responsables políticos es prepararse para un riesgo cuya probabilidad, naturaleza y ocurrencia en el tiempo siguen siendo inusualmente ambiguos”.
Como si este escenario no fuera de por sí inquietante, también resulta que la IA nos ha vuelto, aparentemente, menos capaces: “los sistemas de IA de uso general podrían repercutir en las capacidades cognitivas (como el pensamiento crítico) o en cómo se forman las creencias, preferencias y cómo se toman decisiones”.
También se advierte del fenómeno conocido como el “sesgo de automatización”, donde las personas confían tanto en los resultados de la IA, que descantan la información de otras fuentes.
“En un experimento aleatorio con 2 mil 784 participantes en una tarea de anotación asistida por IA, los participantes eran menos propensos a corregir las sugerencias erróneas de la IA cuando hacerlo requería un esfuerzo adicional, o cuando los usuarios tenían actitudes más favorables hacia la IA”.
Pero un ejemplo de la vida real, relatado hace apenas unos días en Mérida en un evento de tecnología por Uri Levine, cofundador de Waze, lo pone en blanco y negro:
“Le pedí a uno de mis hijos (de 29 años) que me llevara al aeropuerto y dijo que no podía hacerlo porque su teléfono estaba descompuesto y en consecuencia, no tenía Waze; pero le dije que yo iba con él y le podía decir cómo irse, pero él contestó: ‘¿y qué hago al regreso?’”
