Antes de aprobar una inversión tecnológica, la dirección debería preguntar: ¿cuánto cuesta gobernar esta IA durante todo el tiempo que estará operando?
Cuando una organización evalúa una nueva herramienta de inteligencia artificial, la conversación suele comenzar por el precio visible: cuánto cuesta la licencia, cuánto cobrará el proveedor o cuánto habrá que invertir en desarrollar e integrar el sistema. Es una pregunta necesaria, pero incompleta. La factura de compra muestra solamente una parte del costo. La interrogante que casi nunca aparece es otra: ¿cuánto costará gobernar esa IA durante todo el tiempo que estará operando?
Gobernar una IA no significa crear una oficina llena de trámites ni someter cada innovación a una cadena interminable de autorizaciones. Significa que la organización sabe dónde utiliza inteligencia artificial, para qué la utiliza, quién responde por ella, qué información puede procesar, qué límites debe respetar y qué hacer cuando algo sale mal. También significa poder demostrar que esas decisiones no existen solo en el papel, sino que vive en procedimientos o protocolos trazables y verificables ante cualquier regulador.
Vista de ese modo, la gobernanza no es un añadido ornamental ni una reacción tardía frente a la regulación. Es parte del costo responsable de usar la tecnología.
La factura que no se ve: En términos económicos, conviene ampliar la idea tradicional del costo total de propiedad o utilización. Para una IA, la fórmula conceptual podría expresarse así:
Costo real de IA = adquisición o desarrollo + integración + personas + gobernanza + supervisión + seguridad + mantenimiento + actualización + gestión de incidentes.
No todos estos componentes pesan lo mismo en todos los casos. Pero omitirlos no hace que desaparezcan. Con frecuencia solo los desplaza hacia el futuro, cuando una filtración de datos, una decisión errónea, una interrupción del servicio, un reclamo o un cambio del proveedor obliga a actuar con urgencia y a un costo mayor.
La gobernanza comienza incluso antes de la compra. Una empresa debe saber qué necesidad resolverá la herramienta, qué proceso modificará, qué datos utilizará y qué dependencia creará respecto del proveedor, preguntas propias de la transformación digital que previamente debió hacerse. Después deberá integrarla, definir quién puede usarla, establecer reglas, capacitar al personal y revisar si funciona como se esperaba. Si el sistema cambia —y los sistemas de IA cambian—, también deben revisarse sus riesgos.
Qué paga realmente una empresa: Para una empresa privada, gobernar la IA genera costos humanos, tecnológicos y organizacionales. El primer costo es obtener visibilidad. Alguien debe identificar las herramientas y funciones de IA que ya utilizan las distintas áreas, incluso las incorporadas en plataformas existentes o adoptadas informalmente. Ese inventario requiere tiempo de tecnología, operaciones, recursos humanos, seguridad y de las unidades usuarias.
El segundo costo es decidir. La empresa necesita una política que convierta principios en reglas comprensibles: usos permitidos, restringidos o prohibidos; información que no debe introducirse en ciertas plataformas; condiciones para experimentar; criterios para contratar proveedores; y responsabilidades. Prepararla demanda liderazgo, coordinación y conocimiento del negocio. Aplicarla exige responsables con autoridad, no solo nombres en un organigrama.
El tercer costo es controlar la operación: clasificar riesgos, proteger información, evaluar proveedores, definir supervisión humana y monitorear el funcionamiento. Quien supervisa necesita tiempo, competencia, información y facultades reales para revisar, modificar, detener o escalar. A veces bastarán controles sencillos; otras veces se necesitarán registros automáticos, pruebas, alertas o restricciones de acceso.
Existe además un costo de aprendizaje y continuidad. El personal debe comprender qué puede hacer con la herramienta y qué no debe delegarle. Las decisiones relevantes deben documentarse. Los incidentes requieren un canal de reporte, responsables para contenerlos e investigarlos y un procedimiento para aprender. Periódicamente habrá que revisar el sistema, la política, los riesgos, el proveedor y la formación. La gobernanza no se paga una sola vez: acompaña el ciclo de vida de la IA.
Cuando la decisión afecta a otras personas: La complejidad aumenta cuando una organización utiliza IA para tomar o apoyar decisiones que afectan a estudiantes, trabajadores, clientes, usuarios o ciudadanos. Ya no basta con comprobar que el sistema ahorra tiempo. También importa si las personas saben que intervino una IA, si puede reconstruirse cómo se llegó a un resultado, si existe un responsable y si hay una vía para reclamar o pedir revisión, tal como lo establece la legislación salvadoreña.
Una universidad que evalúa estudiantes, una empresa que selecciona candidatos o una entidad que decide el acceso a un beneficio necesita cuidar la equidad, la consistencia y la posibilidad de corregir. Eso genera trabajo adicional: documentación, trazabilidad, pruebas, conservación de evidencia, mecanismos de reclamación y revisión humana. No son cargas externas al servicio. Forman parte de la calidad institucional con la que ese servicio se presta.
La evidencia ocupa aquí un lugar decisivo. Una organización puede afirmar que protege datos, supervisa resultados o revisa sesgos. Pero, si no conserva registros de qué evaluó, quién autorizó, quién intervino, qué ocurrió y qué se corrigió, su capacidad de responder será limitada. Gobernar es pasar de la declaración a una secuencia verificable de responsables, procesos, controles, supervisión, evidencia y decisiones.
La doble responsabilidad del Estado: El Estado enfrenta dos tareas diferentes. La primera es gobernar la IA que utiliza dentro de sus propias instituciones. Si un ministerio incorpora sistemas para orientar trámites, detectar irregularidades, asignar recursos o apoyar decisiones administrativas, debe inventariarlos, evaluar sus riesgos, asignar responsables, proteger datos, establecer supervisión y ofrecer mecanismos de revisión. En este plano, el Estado es también una organización usuaria y debe exigirse capacidad institucional.
La segunda tarea es gobernar el ecosistema. Esto supone crear reglas claras, supervisión proporcionada, infraestructura, capacidades técnicas, mecanismos de cumplimiento y protección de derechos. Requiere formar servidores públicos, fortalecer autoridades y coordinar instituciones.
Gobernar el ecosistema no significa prohibir la innovación ni controlar cada experimento. Significa establecer condiciones confiables para que la innovación pueda desarrollarse sin trasladar todos sus riesgos a ciudadanos, consumidores o instituciones. Un Estado que solo regula, pero no desarrolla capacidades para comprender, supervisar y aplicar sus propias reglas, también subestima el costo de la gobernanza.
Proporcionalidad, no burocracia: La clave es la proporcionalidad. Un chatbot interno que ayuda a resumir documentos administrativos no necesita la misma estructura que una IA que concede créditos, evalúa estudiantes, selecciona candidatos, controla procesos industriales o maneja información sensible. Tampoco puede tratarse igual un asistente que propone un texto y un agente autónomo que accede a sistemas, utiliza herramientas y ejecuta acciones sin una aprobación humana en cada paso.
Cuanto mayores sean el impacto, la autonomía, la sensibilidad de los datos y la dificultad de revertir una decisión, mayor deberá ser la inversión en evaluación, supervisión, seguridad, trazabilidad y respuesta. Gobernar bien no es aplicar el máximo control a todo; es asignar a cada uso el control que realmente necesita.
Por eso, antes de aprobar una inversión tecnológica, la dirección debería preguntar: ¿cuánto cuesta gobernar esta IA durante todo el tiempo que estará operando? Porque adquirir tecnología es una decisión financiera; gobernarla durante toda su vida útil es una capacidad institucional.
Dra. Mireya RodriguezExperta en gobernanza ética y transformación digital
