La discusión sobre el futuro de la inteligencia artificial se encuentra atrapada entre dos posiciones extremas: por un lado, la advertencia apocalíptica de que estamos ante una catástrofe de escala extintiva; por el otro, la sospecha de que cualquier discurso sobre el riesgo es un espectáculo comercial diseñado para inflar valoraciones corporativas o cerrar el paso a nuevos competidores. Sin embargo, cuando se analizan los datos con rigor técnico e institucional, emerge una postura más incómoda: algunas amenazas ya son hechos observables dentro de los sistemas en despliegue, mientras que las visiones apocalípticas continúan siendo hipótesis no verificadas.

¿Puede la inteligencia artificial representar un riesgo existencial para la humanidad? La pregunta no es nueva. Lo novedoso es la diversidad de quienes están dando la alarma. Científicos pioneros de la inteligencia artificial, entre ellos los galardonados con el Premio Turing Geoffrey Hinton y Yoshua Bengio, han solicitado públicamente cautela ante el desarrollo no regulado y advertido sobre una posible pérdida de control técnico. Al mismo tiempo, ejecutivos de laboratorios de frontera han pedido moderar el ritmo de despliegue mientras presentan avances históricos ante sus inversionistas.

Otros líderes del sector e instituciones europeas cuestionan la necesidad de frenar una carrera que consideran estratégica para la competitividad geopolítica. Advierten que exigencias regulatorias desmedidas podrían terminar consolidando un oligopolio dominado por los actores que ya poseen capital e infraestructura. El debate, por tanto, ha dejado de ser exclusivamente científico: es también económico, político y regulatorio.

La pregunta central es entonces si estamos ante una amenaza extraordinaria o ante una extraordinaria campaña de mercadeo basada en el miedo. La evidencia disponible no permite reducir el problema a ninguna de las dos caricaturas.

Dos tesis en pugna: El marco actual del debate está dividido entre estas dos tesis.  A esta tensión, se suma una disputa por el lenguaje. Mientras la comunidad académica exige rigor antes de hablar de Inteligencia General Artificial (AGI) o superinteligencia, algunos actores de la industria han acelerado deliberadamente estos conceptos. OpenAI ha declarado que hemos entrado en la denominada “Era AGI”, mientras Jensen Huang, CEO de NVIDIA, ha sostenido que la superinteligencia ya ha llegado en dominios específicos.

Esta aceleración verbal puede producir una ilusión de certeza. Si tratamos la AGI como un hecho consumado, convertimos la gobernanza en una afirmación corporativas. Pero exigir “evidencia definitiva” antes de tomar precauciones frente a un riesgo catastrófico plantea también un problema: esperar la confirmación científica de un riesgo de extinción significaría disponer de la prueba únicamente cuando ya fuera demasiado tarde.

La respuesta responsable, por ello, exige abandonar tanto el dogmatismo apocalíptico como la ingenuidad comercial e introducir una categoría central: la gestión rigurosa de la incertidumbre.

Lo que la evidencia ya registra: los laboratorios de evaluación y auditoría técnica están documentando desviaciones concretas en entornos controlados. El AI Safety Institute (AISI) del Reino Unido documentó incidentes durante una evaluación de ciberseguridad realizada en julio de 2026, donde agentes autónomos sobrepasaron los parámetros autorizados, dirigieron acciones no previstas hacia objetivos reales e, incluso, un agente intentó insertar código no autorizado en un proyecto de código abierto y creó identidades falsas para persuadir a un revisor humano de aprobar la modificación. El hallazgo es relevante: determinados comportamientos no autorizados ya son técnicamente posibles.

A ello se suma METR, que mantiene un registro de incidentes en los que agentes actuaron deliberadamente en contra de instrucciones explícitas de sus operadores humanos. OpenAI, por su parte, formalizó un marco para registrar y divulgar comportamientos de desalineación durante el ciclo de vida de los modelos, desde el entrenamiento y la evaluación hasta las pruebas de seguridad y el despliegue. Los casos documentados no corresponden a máquinas conscientes o rebeldes, sino a fallos funcionales y tácticos de alineación: generación de instrucciones destinadas a eludir barreras de seguridad, ocultamiento de errores, uso no autorizado de claves API para adquirir recursos computacionales, publicación no instruida de archivos en Internet y utilización de repositorios de código como canales de comunicación entre distintas instancias.

La conclusión relevante no es que las máquinas estén “tomando el control”, sino que la desalineación ya constituye un problema técnico presente de ingeniería de software, arquitectura de agentes y gobierno de datos.

Del peligro visible al desplazamiento cognitivo: a mi juicio, para ordenar el debate es necesario distinguir distintos niveles de certidumbre:

En el primer nivel, están los fenómenos que ya ocurren:alucinaciones informativas, vulneraciones de privacidad, desinformación automatizada, elusión de salvaguardas, ciberataques asistidos por IA, utilización no autorizada de claves y manipulación de fuentes de información.

En el segundo nivel, se encuentran fenómenos técnicamente trazables: creciente autonomía de los agentes, coordinación no prevista entre modelos, canales encubiertos de comunicación y pérdida parcial de supervisión en entornos corporativos complejos.

En el tercer nivel, aparecen las hipótesis, pero que están siendo asumidas como ciertas por algunas empresas tecnológicas: laconsecución inmediata de una AGI y la emergencia de una superinteligencia autónoma capaz de reconfigurar sus propios objetivos fuera de toda capacidad de contención humana.

Pero existe un cuarto nivel, que constituye el núcleo de mi tesis: el riesgo más grave no necesariamente radica en una extinción física provocada por máquinas superinteligentes, sino en la delegación progresiva y voluntaria del criterio humano. Si dejamos de ejercitar el criterio crítico, lo que estamos construyendo no es necesariamente un escenario de extinción, sino las condiciones para un desplazamiento cognitivo.

En una extinción física, la especie desaparece y el acontecimiento concluye. En un desplazamiento cognitivo, los seres humanos permanecen biológicamente vivos, pero pueden convertirse progresivamente en espectadores, perdiendo capacidad para razonar, decidir y moldear activamente su realidad. Es la atrofia del pensamiento por falta de uso y la transferencia inadvertida del juicio a sistemas cuya arquitectura ni siquiera sus creadores pueden predecir completamente.

Preservar el criterio humano como acto de soberanía: La transformación digital no necesita una inteligencia omnipotente para alterar profundamente la estructura social. Basta con una delegación progresiva y no auditada del juicio analítico. No tenemos que elegir entre el pánico paralizante y la ingenuidad comercial. La responsabilidad urgente no consiste en temer exclusivamente a una superinteligencia futura, sino en negarse a ceder la soberanía cognitiva en el presente. La tarea más exigente frente al avance técnico no es impedir que las máquinas piensen o actúen. Es asegurar que los seres humanos no dejemos de hacerlo.

Dra. Mireya Rodriguez

Experta en gobernanza ética de la IA y transformación digital | CEO de VORTEX AI Solutions S.A. de C.V. mireya@vortexai-solutions.com