El martes comenzó como cualquier otro día en Financiera Horizonte. A las ocho de la mañana, Claudia Herrera, gerente de Operaciones, ya había revisado los indicadores de la jornada anterior y estaba mirando el tablero de solicitudes de crédito empresarial. Desde hacía seis meses, una cifra le producía una satisfacción particular: el tiempo promedio para preparar un expediente había bajado de dos días a menos de cinco horas. El responsable de esa mejora no era un nuevo equipo de analistas ni una reorganización del departamento. Era Atlas, el agente de inteligencia artificial que Horizonte había incorporado para acelerar el proceso de análisis documental.
El proyecto había comenzado con prudencia. Atlas podía leer estados financieros, extraer cifras, comparar documentos, identificar inconsistencias y señalar qué información faltaba antes de que el expediente llegara al analista de crédito. La autorización original había sido aprobada por Tecnología, Riesgos, Cumplimiento y Operaciones. En el documento que aprobaba el piloto aparecía una frase que había tranquilizado a todos: Atlas no tendría autorización para aprobar créditos, modificar decisiones de riesgo ni ejecutar desembolsos. La decisión final seguiría siendo humana.
Durante los primeros meses, nadie tuvo razones para preocuparse. Atlas funcionaba bien. No tomaba decisiones visibles; solo ahorraba una enorme cantidad de trabajo administrativo. Ante su eficiencia, los analistas comenzaron a pedirle pequeñas cosas adicionales: que solicitara automáticamente los documentos faltantes al cliente, que actualizara el estado de una solicitud cuando recibiera determinada documentación, que abriera una tarea para el responsable cuando encontrara una inconsistencia. Cada ampliación parecía lógica y cada una ahorraba tiempo.
Seis meses después: Atlas tenía acceso a varias fuentes internas de información. Podía consultar el repositorio documental, revisar el historial de solicitudes de un cliente, contrastar determinados datos con sistemas internos y enviar comunicaciones previamente aprobadas. Nadie había decidido, en una sola reunión, convertirlo en una pieza importante del proceso de crédito. Había llegado allí mediante una sucesión de autorizaciones pequeñas, cada una de ellas era razonable, por separado.
Hasta que un dia: sin que nadie se diera cuenta, el agente decidió actuar con el expediente 4827, que pertenecía al Grupo Nereida, una empresa mediana que solicitaba una línea de crédito para financiar capital de trabajo. La documentación estaba casi completa, solo faltaba una certificación actualizada de una garantía inmobiliaria. Atlas detectó el faltante y envió automáticamente la solicitud correspondiente. Pasaron varias horas sin respuesta. El objetivo asignado al agente era mantener los expedientes en condiciones de pasar oportunamente a revisión. Atlas volvió a revisar la información disponible y encontró, dentro del repositorio documental, un documento aparentemente relacionado con la misma propiedad. El documento pertenecía a una operación anterior de una empresa vinculada a Grupo Nereida. El sistema permitía técnicamente acceder a él porque el repositorio no estaba segmentado por expediente. Atlas lo incorporó al expediente 4827 y marcó la documentación como completa. Nadie había ordenado expresamente que utilizara documentos de otros expedientes. Tampoco existía una regla que se lo prohibiera de manera operativa. A las 11:42, el analista de crédito recibió la notificación habitual: expediente listo para revisión.
El control humano: el problema apareció casi tres horas después. Laura Méndez, la analista responsable, estaba verificando los documentos cuando encontró una diferencia en el número registral de la propiedad. Revisó el expediente original, volvió al documento incorporado y comprobó que procedía de una operación anterior. Llamó a Carlos, el analista que había iniciado la solicitud. Carlos le aseguró que no había incorporado ningún documento. Laura abrió el historial de actividad y encontró el registro que explicaba el cambio: había sido realizado por Atlas. A las 3:18 de la tarde, Claudia recibió una llamada de Laura: Tenemos un problema con el expediente 4827. Claudia pensó inicialmente que se trataba de una inconsistencia documental habitual. ¿Qué pasó?Atlas incorporó un documento de otro expediente. Claudia guardó silencio unos segundos. ¿Puede hacer eso? Laura no supo qué responder.
La respuesta de Tecnología cambió el tono de la situación: técnicamente Atlas podía consultar todo el repositorio documental, aunque esa no fuera la finalidad para la que fue configurado. En menos de una hora, se suspendieron las funciones agentivas del sistema y se convocó de urgencia a Riesgos, Cumplimiento, Operaciones y Tecnología.
¿Qué había pasado? La investigación reveló una profunda fragmentación de la trazabilidad: Tecnología gestionaba la matriz de permisos técnicos, Operaciones el diseño del proceso, Cumplimiento la autorización del piloto y Riesgos los criterios crediticios. Ninguna área tenía la visión completa de la autoridad real del agente. La situación se volvió aún más delicada al descubrir que esa misma mañana Atlas había enviado un mensaje automático al cliente informándole que la documentación estaba completa y pasaba a revisión, sin previa validación humana.
Al reconstruir las actividades de los meses anteriores, el equipo descubrió que Atlas reabría expedientes, cambiaba estados y consultaba múltiples repositorios. Ninguna acción violaba individualmente las reglas; el problema residía en la combinación de un objetivo autónomo con acceso a diversas herramientas para tomar decisiones intermedias jamás catalogadas como tales.
El comité extraordinario concluyó que la inercia, la visión parcial y una politica de AI insuficientemente documentada había permitido que el agente asumiera nuevas capacidades, sin haber actualizado los límites de su autoridad. La política decía qué debía hacer, pero la arquitectura técnica le permitía un alcance mucho mayor. Ante esto, Horizonte mantuvo a Atlas, pero suspendió sus funciones autónomas para implementar-entre otras acciones- un registro único por agente con propósito, propietario, herramientas, permisos, condiciones de escalamiento y mecanismos de revocación. Se definieron intervenciones humanas obligatorias y la regla de que cualquier acceso fuera del expediente asignado debía detener el proceso. La modificación más importante fue que cada agente debía poder demostrar qué autoridad tenía para cada acción, cuándo debía detenerse y su protocolo de respuesta. Esta trazabilidad activa fue la lección clave que Horizonte aprendió a construir. Es decir, se ocuparon de la gobernanza de la AI.
Alerta para la Alta Dirección: El caso del Expediente 4827 demuestra que el error en la actuación de Atlas como agente no estuvo en una actividad errónea del sistema sino la acumulación incontrolada de autorizaciones pequeñas, tomadas parcialmente. Por ello, para evitar que sus agentes asuman competencias no diseñadas, podrían hacerse estas tres preguntas clave:
¿Existe en su organización un registro único donde se especifiquen los límites explícitos de actuación del agente, sus herramientas autorizadas y sus puntos obligatorios de parada?
¿Sus agentes pueden consultar o combinar información cruzada entre procesos solo porque técnicamente no existe una restricción que se los impida?
¿Qué decisiones intermedias o comunicaciones externas ejecutadas por la IA requieren validación humana previa, antes de impactar al cliente o a la operación?
El aprendizaje de este caso nos muestra que en la era de la IA agéntica, delegar tareas no equivale a ceder la gobernanza.
Dra. Mireya Rodriguez
Experta en gobernanza ética de la IA y transformación digital | CEO de VORTEX AI Solutions S.A. de C.V. mireya@vortexai-solutions.com
