Algo llamativo está ocurriendo en el mundo de la inteligencia artificial. Mientras muchas organizaciones todavía están tratando de establecer reglas básicas para el uso de herramientas como ChatGPT, Claude o Gemini, los grandes actores tecnológicos ya están construyendo una infraestructura mucho más compleja: están creando sistemas capaces de controlar qué puede hacer o no un agente, qué información puede consultar, qué herramientas puede utilizar, qué acciones requieren autorización y qué ocurre cuando intenta salir o sale de los límites establecidos.

La diferencia entre ambas situaciones no es solamente de velocidad tecnológica. Está reflejando una diferencia de capacidad en la gobernanza de la AI.

El movimiento es acelerado en los propios laboratorios y empresas que están desarrollando la tecnología. OpenAI explicó que, para operar Codex en entornos reales, necesitó establecer límites técnicos, definir qué sistemas puede utilizar el agente, cuándo debe intervenir una persona y qué registros deben quedar para poder reconstruir lo ocurrido. Anthropic, por su parte, planteó que los agentes requieren permisos diferenciados, controles humanos y defensas en varias capas, porque un sistema con acceso a más herramientas también tiene más posibilidades de causar consecuencias no previstas. Por su parte, Google está llevando esta lógica todavía más lejos con su propuesta “Beyond Zero”: que prevé la autorización a nivel de cada acción y cada recurso, con controles dinámicos según el riesgo, la investigación automática y los mecanismos de contención.

Y el 28 de septiembre de 2026, NVIDIA anunció su Open Agent Safety Platform, que combina un entorno sofisticado de ejecución seguro con controles externos capaces de supervisar y detener a un agente cuando intenta salir de los límites establecidos. Su componente Sentry puede actuar desde una capa independiente de la propia aplicación y, según NVIDIA, puede aislar un agente en milisegundos, cuando detecta que está intentando traspasar una frontera definida.

Es decir, la frontera de la IA ya no está solo concentrada en hacer que los modelos sean más inteligentes. Una parte creciente de dicha innovación consiste en hacer que esos sistemas puedan actuar, sin perder el control sobre ellos.

Y aquí comienza la otra historia.

En América Latina, la discusión empresarial todavía se encuentra, en muchos casos, en una etapa bastante anterior. Un estudio reciente de RSM Latin America, basado en 461 líderes empresariales, encontró que alrededor del 40% de las organizaciones encuestadas ya estaba implementando IA y que 68% de las organizaciones adoptantes esperaba escalarla durante los siguientes doce meses. Sin embargo, solamente 18% reportaba contar con un marco formal de gobernanza y 17% tenía políticas de IA para sus empleados ya establecidas. Apenas 8% de los empleados se sentía plenamente preparado para trabajar con IA.

El dato resulta especialmente importante porque muestra que el problema latinoamericano no es una falta de interés. La adopción está avanzando pero la capacidad institucional para acompañarla no se hace al mismo ritmo.

Argentina ofrece un ejemplo particularmente revelador. Una encuesta nacional sobre PyMEs encontró que 41,6% de las empresas estudiadas ya utilizaba alguna tecnología de IA, pero que la mayoría de las empresas adoptantes todavía se encontraba en etapas tempranas. La investigación también encontró niveles bajos de capacidades internas y estructuras de gobernanza.

Podemos imaginar entonces dos escenas que están ocurriendo simultáneamente.

En una, un equipo de ingeniería está diseñando un agente que puede escribir código, consultar bases de datos, utilizar herramientas externas y ejecutar acciones. El equipo discute permisos, aislamiento, supervisión, trazabilidad, credenciales y mecanismos para detenerlo.

En la otra, una empresa descubre que varios empleados llevan meses utilizando herramientas públicas de IA para redactar documentos, analizar información, preparar propuestas o resumir archivos internos. La organización tiene una política general sobre “uso responsable de la tecnología”, pero nadie sabe exactamente qué herramientas se están utilizando, qué información entra en ellas, quién las autorizó o qué ocurre cuando una respuesta producida por IA termina dentro de un proceso empresarial.

Las dos escenas pertenecen al mismo momento de cambio tecnológico. Pero están separadas por una enorme distancia institucional.

El riesgo de esta brecha no consiste solamente en que unas organizaciones tengan tecnologías más sofisticadas que otras. El problema aparece cuando la capacidad de acción de la tecnología crece más rápido que la capacidad de la organización para definir sus límites, con los riesgos que ello puede implicar.

En el caso de los agentes, esto se vuelve especialmente importante. Un chatbot produce una respuesta. Un agente puede interpretar una instrucción, consultar información, utilizar herramientas, ejecutar pasos sucesivos y actuar sobre sistemas externos, como vimos con el Expediente 4827 que describi de mi artículo anterior. Cada nuevo permiso amplía su utilidad, pero también amplía el espacio en el que una equivocación, una instrucción mal interpretada, una vulnerabilidad o una manipulación puede producir consecuencias. Por eso, los grandes laboratorios están construyendo controles cada vez más sofisticados alrededor de sus propios sistemas.

El reto para América Latina no es si todas las empresas necesitan mañana esas mismas plataformas. Probablemente muchas todavía no las necesitan. Más bien, la idea es que sepan ¿qué capacidades institucionales deben comenzar a construir antes de necesitarlas?

En otras palabras, una organización debería saber qué sistemas de IA utiliza, quién los utiliza, para qué procesos, con qué información y bajo qué condiciones. Debería identificar cuáles usos requieren autorización, qué decisiones deben permanecer bajo responsabilidad humana, qué proveedores intervienen y qué evidencias quedan de las actuaciones relevantes. También debería contar con mecanismos para revisar un uso, suspenderlo cuando sea necesario y reconstruir lo ocurrido después de un incidente. Estas medidas pueden parecer sencillas frente a un agente capaz de operar autónomamente durante horas. Precisamente por eso son importantes.

Por ello, la gobernanza avanzada no comienza cuando aparece el primer agente sofisticado. Comienza cuando una organización aprende a tratar la IA como parte de su estructura operativa y no simplemente como una herramienta que cada persona utiliza por su cuenta.

La brecha que estamos viendo puede convertirse, por tanto, en una desventaja o en una oportunidad. América Latina no necesita reproducir exactamente las arquitecturas construidas por los grandes laboratorios. Pero sí puede aprender de la razón por la que están siendo construidas. Si quienes desarrollan los sistemas más avanzados están descubriendo que necesitan límites técnicos, permisos diferenciados, supervisión, trazabilidad, aislamiento y capacidad de intervención, sería razonable que las organizaciones que empiezan a adoptar IA incorporen progresivamente esos mismos principios en una escala adecuada a su realidad.

Y quizá esa sea una de las decisiones más importantes que las organizaciones latinoamericanas tienen por delante: no esperar a tener sistemas capaces de actuar autónomamente para comenzar a aprender cómo gobernarlos. Nadie espera llegar al aeropuerto para empezar a buscar el pasaporte. La gobernanza de la IA exige la misma previsión: cuando los sistemas empiecen a actuar de manera autónoma, ya será demasiado tarde para comenzar a preguntarse cómo controlarlos.

Dra. Mireya Rodríguez

Experta en gobernanza ética de la IA y transformación digital | CEO de VORTEX AI Solutions S.A. de C.V. mireya@vortexai-solutions.com