La Sala de lo Constitucional de la Corte Suprema de Justicia (CSJ) resolvió como improcedente una solicitud de inconstitucionalidad contra el artículo 46 de la Ley Especial para la Intervención de Telecomunicaciones (LEIT) por “carecer de contraste normativo debidamente argumentado” y por el uso inadecuado de Inteligencia Artificial (IA) en la redacción de la demanda.

Tras el análisis de la petición de cuatro ciudadanos, cuya resolución fue recientemente publicada en el portal web de la CSJ, la Sala consideró que “la pretensión contenida en la demanda se basa en alegaciones deficientes, producto del uso de IA para realizar la demanda sin verificación o control humano posterior”.

La resolución consta de 28 páginas y en la mayoría hace referencia al funcionamiento y uso de las herramientas de IA, los chatbots y la necesaria verificación de la información por parte de personas conocedoras del tema, sobre todo para procesos en el marco judicial.

“Este es el primer precedente donde (la Sala de lo Constitucional) da lineamientos y parámetros de cómo usar la IA y uno de ellos es avisar en la misma demanda que se ha usada Inteligencia Artificial”, apuntó la abogada penalista, Roxana Cardona.

La Sala dedujo que los actores (demandantes) utilizaron IA generativa para fundamentar el caso, pues en el documento se identificó un párrafo con la manera usual que estas herramientas tecnológicas responden a las indicaciones de los usuarios.

“El razonamiento jurídico, los principios procesales, lo aprendido en los estudios del derecho no puede sustituirse por la información que se encuentra en el mundo extenso de la web”, subrayó la profesional.

Según los peticionarios, el Art. 46 de la LEIT debe ser declarado inconstitucional pues representa una violación al Art. 2, inciso segundo, de la Constitución de la República.

Dicho artículo de la LEIT plantea que “la grabación de telecomunicaciones autorizada por uno de los participantes legítimos en la comunicación no será considerada intervención y podrá ser valorada como prueba conforme a las reglas generales”.

Por su lado, el apartado en mención de la Constitución menciona que “se garantiza el derecho al honor, a la intimidad personal y familiar y a la propia imagen”.

De acuerdo a la resolución, los solicitantes señalan que aunque la grabación no se valore como una intervención ilegal, puede prestarse a abusos que comprometan esos derechos; sin embargo, no explicaron de qué manera la grabación puede resultar en tal transgresión, especialmente habiendo norma secundaria que se refiere al mismo contexto (Art. 302 del Código Penal).

El caso hizo que la Sala se pusiera en pie al considerar que “es un asunto relevante de abordar” debido a “la obligación que tiene todo postulante de fundamentar las peticiones que formule ante la jurisdicción en general, así como el deber de un juez o tribunal al momento de dar respuesta a las mismas; tareas que en la actualidad no pueden ser reemplazadas por el uso indiscriminado de la IA”.

Uso de herramientas de IA en procesos

En su resolución, la Sala estima que el uso de IA es admisible en los procesos constitucionales siempre y cuando sean bajo principios éticos y normativos locales e internacionales.

“Se puede usar la Inteligencia Artificial, mas no llegar a abusar de ella, a la vez, avisar a la Sala cuando se está usando IA cuáles son los párrafos en los cuales la estamos invocando”, indica Cardona.

Según la especialista, se puede entrever que la Sala podría contar con un programa para revisar las demandas y “pasarle un escáner para saber si ha sido elaborada por medio ChatGPT u otra IA”.

La Sala también plantea que “según expertos en la materia, entre los riesgos del uso de IA generativa están los problemas de sesgos en los datos con los que se alimenta, riesgos sobre la privacidad y protección de datos, y en transparencia y veracidad”.

Dichos “sesgos” tendrían relación con el mismo funcionamiento del algoritmo y entrenamiento que los usuarios hacen con los chatbots para obtención e interpretación de información.

“Según expertos en la materia, los riesgos del uso de herramientas de IA generativa se concretan en tres: problemas de sesgos en los datos de los que se alimenta; privacidad y protección de datos; y transparencia y veracidad”, agregó la Sala.

La capacidad de deducción de la IA facilita la elaboración de contenidos o textos, pero puede incluir “alucinaciones” de la IA generativa, lo que aumenta la necesidad de verificación humana de sus resultados, en especial cuando estos se refieren a hechos que son susceptibles a la verdad o falsedad.

“Con esta resolución, la Sala busca que no se creen alucinaciones jurídicas, lo que sería grave, ya que esta puede inventar leyes, artículos y argumentos no jurídicos, afectando la buena fé procesal. Al violar la buena fe, la persona puede ser sancionada en la Corte por este tipo de acciones”, advierte Cardona.

Otra cosa muy importante es que los datos de los clientes se pueden llegar a vulnerar en la web, lo mismo el secreto ético profesional, al escribir los datos personales en la IA”, añadió la abogada.

La Sala resalta que dicha capacidad de la IA “se desarrolla por la alimentación de datos que les permite deducir modelos, algoritmos o patrones aprendidos mediante el ingreso de información. De ahí que es importante que haya técnicas relevantes de aprendizaje de los sistemas de inteligencia artificial”.

Dichos modelos y patrones se refieren a la clasificación de búsqueda y consulta de información que los usuarios introducen en los diferentes motores de búsqueda de herramientas como ChatGPT, Gemini, Copilot, entre otras, con base a los “prompts” y forma de redacción que los cibernautas aplican para el despliegue de información que se solicita a las herramientas de IA.

Estos patrones quedan “grabados en la memoria” de la herramienta, la cual interpreta y predice la información y su forma que el usuario pudiera necesitar con base a la recurrencia y tipo de solicitudes que este suele realizar.

En el plano salvadoreño, cita al Art. 4, literal “a”, de la Ley de Fomento de la Inteligencia Artificial y Tecnologías (LFIAT) define a la inteligencia artificial como “sistemas o modelos capaces de realizar tareas que generalmente requieren de inteligencia humana, como la percepción, el procesamiento del lenguaje, resolución de problemas y el aprendizaje, con el potencial de operar de manera autónoma o semiautónoma”.

Tecnología y administración pública

También hay otras leyes salvadoreñas que contemplan el uso de la tecnología en procesos determinados, tales como la Ley de Procedimientos Administrativos, Ley de Regulación del Teletrabajo, Ley de Protección al Consumidor, Ley de Regulación de Servicios Informáticos respecto al historial de créditos de las personas, la Ley para la Protección de Datos Personales, Ley de Ciberseguridad y Seguridad de la Información, entre otras.

En términos generales, los procesos administrativos automatizados, como existen muchos en El Salvador, presentan diferentes ventajas como el aumento de la eficiencia de la Administración Pública, en especial cuando se trata de decisiones regladas que por sus características más predecibles no requieren necesariamente de la intervención humana.

Otra ventaja es que disminuye la posibilidad de errores en los que es propensa una persona; además, incrementa la posibilidad de igualdad pues a un mismo supuesto (input) se aplica la misma consecuencia (output); y por último, pueden ser herramientas para combatir la corrupción pues permiten medir decisiones no manipulables por intereses personales. 

No obstante, el reconocimiento de estas ventajas no debe conducir a ignorar los riesgos que trae consigo esta automatización de la Administración Pública. Por ello, consideró la Sala de lo Constitucional, es imprescindible que tales procesos estén sujetos a la supervisión y control humanos a fin de asegurar la fiabilidad de sus resultados y la licitud de la utilización de la Inteligencia Artificial.

La Sala de lo Constitucional reitera que la IA puede ser usada por los jueces, por los usuarios y procuradores públicos y privados y que ésta da ventajas en la eficacia de las tareas judiciales, pero también hay peligros: su uso sin regulación y antiético puede dañar los derechos fundamentales.

Pero aún con las normas existentes, la Sala considera que existe poca regulación al respecto. “En el ámbito local, la regulación de las nuevas tecnologías y la IA es relativamente escasa, aunque en los últimos años ha sido objeto de un creciente interés. Así, en lo sucesivo se desarrollarán, sin ánimos de exhaustividad, las principales leyes sobre la materia”, comenta la Sala de lo Constitucional en la resolución.

La IA ha sido objeto de regulación internacional por parte de la Organización de las Naciones Unidas (ONU), la Corte Interamericana de Derechos Humanos (CIDH), el Consejo de Europa, entre otros organismos, para que su uso sea acorde al derecho jurídico, el respeto a los derechos humanos y fundamentales, los cuales podrían verse en riesgo ante el uso indebido de esa tecnología.

Por su parte, la Asamblea General de la ONU ha hecho la recomendación a los Estados de que cualquier aplicación de IA debe ser sujeta a aprendizaje supervisado y a revisión continua.

La elaboración de una demanda puede tomar hasta una semana para los profesionales del derecho, mientras que la IA reduce el trabajo en una hora, pero con mucho riesgo de cometer errores.