Recientemente, Albania, una pequeña nación del sureste de Europa creó una ministra con inteligencia artificial, quien será la encargada de procurar por la transparencia gubernamental.
Las naciones del este de Europa, las repúblicas balcánicas, son a menudo criticadas por sus pares europeos por sus altos índices de corrupción, un aspecto que inhibe su adhesión a la Unión Europea.
Diella, como han llamado a la ministra generada con inteligencia artificial (IA), será la encargada de las licitaciones de contratos públicos y evitar casos de corrupción. Pero, más allá de su impacto comunicativo, la iniciativa plantea numerosas cuestiones técnicas, políticas y éticas.
Al anunciar el nombramiento de Diella, el primer ministro albanés, el socialista Edi Rama, afirmó que los procedimientos de contrataciones públicas quedarían «100% libres de corrupción».
«Diella no duerme nunca, no necesita que le paguen, no tiene intereses personales, no tiene primos, y los primos son un gran problema en Albania», recalcó el primer ministro, cuyo país ocupa el 80º puesto de 180 en la clasificación sobre corrupción de la oenegé Transparencia Internacional.
Los políticos albaneses suelen verse salpicados por licitaciones fraudulentas: el alcalde de la capital, Tirana, otrora cercano a Rama, está en detención preventiva por sospechas de corrupción en la adjudicación de licitaciones y de blanqueo de dinero.
El líder de la oposición y ex primer ministro Sali Berisha también es sospechoso de haber adjudicado contratos públicos a allegados suyos.
¿Acaso será Diella la solución? Es muy improbable, según varios expertos.
«Como cualquier sistema de inteligencia artificial, Diella depende totalmente de la calidad y la coherencia de los datos y de la fiabilidad de los modelos en los que se base», explica Erjon Curraj, experto en transformación digital y ciberseguridad.
De momento se desconoce prácticamente todo de cómo funciona Diella, pero probablemente lo haga con un LLM (modelo extenso de lenguaje, por sus siglas en inglés) para responder a las peticiones.
Los LLM son modelos de lenguaje de gran tamaño que producen enormes volúmenes de texto y se utilizan por ejemplo en chatbots como ChatGPT o Gemini.
Sin embargo, «si esos datos son incompletos o si están sesgados u obsoletos, podría interpretar mal documentos, señalar equivocadamente a un proveedor o no percibir señales de colusión», subraya Curaj.
Responsabilidad
La oposición albanesa recurrió a la Corte Constitucional para que dictamine quién asumirá la responsabilidad de las decisiones tomadas por la IA. «¿Quién controlará a Diella?», lanzó Sali Berisha ante el Parlamento.
La responsabilidad es uno de los desafíos, destaca Ganascia. «Si le dejamos a la máquina la decisión pública, eso significa que ya no hay más responsabilidad, quedamos reducidos al estado de esclavos».
«Lo que me preocupa es la idea de una máquina para gobernar, que daría la respuesta ‘buena’ y que impediría cualquier deliberación. Sin embargo, la democracia se funda en la deliberación», señala el filósofo.
«Un político asume sus responsabilidades, pero ahora la idea es que la máquina sea perfecta y que, en cualquier caso, no podamos ir en contra de sus decisiones», añade.
En este sentido, un decreto publicado el jueves indica que Edi Rama «ejerce tanto la responsabilidad de la creación como del funcionamiento de la ministra virtual de inteligencia artificial Diella».
Diella, tiene la cara de una conocida actriz albanesa, Anila Bisha, que firmó un contrato para que se utilice su imagen hasta diciembre.
Nadie sabe si la «ministra» sobrevivirá al examen de la Corte Constitucional ni si cumple con los procedimientos de la Unión Europea, a la que Albania espera acceder en los próximos cinco años.
«Hasta ahora no ha habido ninguna información sobre el verdadero funcionamiento de Diella», afirma Lutfi Dervishi, un politólogo albanés. «Pero si un sistema corrupto ofrece datos manipulados o si se ponen filtros a lo que no debe ver, Diella simplemente legitimará la vieja corrupción con un nuevo programa».
