El domingo pasado escribí sobre los riesgos de la inteligencia artificial y la responsabilidad de quienes la desarrollan y utilizan. Desde entonces han aparecido nuevas advertencias, incluso de dirigentes de las empresas que impulsan esta tecnología. Conviene escucharlas. Pero la pregunta decisiva es qué hacemos con ellas: ¿frenamos la inteligencia artificial o aprendemos a dirigirla y vigilarla mejor?
Durante la Guerra Fría algunas familias construyeron refugios por temor a una explosión nuclear. El peligro era real: las armas existían. Pero no eran ellas las que decidían iniciar una guerra. Había personas que las fabricaban y personas con autoridad para ordenar su uso.
Con la IA debemos evitar tanto el alarmismo como la confianza ciega. Puede ayudar a descubrir medicamentos, mejorar procesos industriales y detectar peligros que pasarían inadvertidos. También puede amplificar un error o cumplir una instrucción de forma peligrosa si se le da acceso a sistemas reales sin controles adecuados.
Pienso en una máquina con dos engranajes. Ambos cumplen su función. Pero, si alguien retira la protección y mete la mano, pueden destrozársela. Conocí un caso así: un trabajador inexperto quitó la cubierta para colocar una cadena y perdió cuatro dedos de la mano derecha. Nadie concluyó que debíamos prohibir los engranajes. Había que protegerlos, formar al trabajador e impedir que la prisa anulara una medida de seguridad.
Con la IA, esa formación debe empezar por las personas. Propongo que todos los que trabajen en proyectos de inteligencia artificial reciban formación en ética y valores humanos. Deben comprender que ninguna ventaja técnica o económica justifica desarrollar sistemas destinados a atentar contra la humanidad o a destruir la Tierra. Y deben asumirlo mediante un juramento: un compromiso personal de por vida que conserve su fuerza aunque cambien de empresa o de cargo.
El juramento, por sí solo, no basta. Hay que decidir desde el diseño de cada sistema para qué sirve, qué límites debe respetar y quién responde cuando falla. Proteger la vida humana y el entorno exige permisos restringidos, pruebas rigurosas, barreras independientes y capacidad de detener el sistema. Una buena intención escrita en un manual no detiene una máquina.
En la industria aprendimos que quien hace un trabajo puede dejar de ver sus propios errores. Propongo auditorías cruzadas: equipos independientes que examinen sistemas desarrollados por otros y cuya composición rote periódicamente. Especialistas de distintas disciplinas, apoyados incluso por otros modelos de IA bajo supervisión humana, podrían buscar fallos y comprobar las protecciones. Nadie debería ser el único juez de la seguridad de su propia máquina.
Los riesgos más graves pueden afectar a personas que jamás eligieron utilizar esos sistemas. ¿Quién defenderá sus intereses? La ONU ya ha establecido un panel científico independiente y un espacio de diálogo sobre la gobernanza de la IA. Es un comienzo, pero debemos avanzar hacia una instancia internacional que también pueda recibir alertas, promover auditorías de sistemas de alto riesgo y publicar sus conclusiones. La imagino semejante, en su propósito, a un defensor del pueblo: independiente de empresas y gobiernos, con acuerdos que le permitan actuar cuando un riesgo cruce fronteras.
La responsabilidad humana importa también cuando la IA ofrece una ventaja. Después de ver El precio de la codicia, pensé en la crisis de las hipotecas basura. Una herramienta capaz de examinar millones de préstamos quizá habría señalado concentraciones de riesgo, garantías deficientes y operaciones sospechosas. Tal vez habría ayudado a reducir pérdidas. Pero alguien habría tenido que escuchar la advertencia y tomar decisiones difíciles. La IA puede encender una luz amarilla; no puede aportar por sí sola la honradez necesaria para actuar.
No sabemos todo lo que esta tecnología llegará a hacer. Precisamente por eso debemos vigilarla durante su desarrollo y después de ponerla en servicio. Como un pastor que acompaña a su rebaño, hay que observar, anticipar peligros y corregir el rumbo.
Cuanta más inteligencia tengamos a nuestro alcance, más sentido común necesitaremos para utilizarla. La pregunta no es únicamente qué puede hacer la IA, sino qué debemos permitirle hacer y quién dará la cara por sus consecuencias. El rumbo, todavía, está en nuestras manos.
