La Corte de Justicia de la Provincia de San Juan ha aprobado un nuevo protocolo para el uso de la inteligencia artificial generativa en el ámbito judicial. El Acuerdo General N° 102/2024 establece el "Protocolo de Uso Aceptable de la IA Generativa (IAGen)", el cual es de cumplimiento obligatorio para todos los agentes del Poder Judicial de la provincia.

Este protocolo se funda y es complementario del reglamento establecido por el Protocolo de Uso de Recursos Informáticos y Telecomunicaciones aprobado por Acuerdo General N° 126 de fecha 26 de julio de 2022.

(i) Alcances

El protocolo aprobado establece una serie de directrices y principios fundamentales para el uso de la IAGen, que tiene la capacidad de generar textos jurídicos complejos de manera ágil. A través de esta herramienta, los agentes del Poder Judicial podrán asistir en tareas administrativas y jurisdiccionales. Sin embargo, también se reconoce el riesgo inherente al uso de la IA, que podría generar errores o resultados inexactos si no se usa de manera adecuada.

(ii) Objetivos clave del protocolo

1. Uso responsable: Establece un marco ético y normativo para garantizar que el uso de la IA esté alineado con los principios de la Administración de Justicia.

2. Confidencialidad y seguridad: Se prioriza la protección de la privacidad, confidencialidad e integridad de la información. Los usuarios deberán anonimizar los datos antes de introducirlos en los sistemas de inteligencia artificial.

3. Verificación de resultados: Los agentes deberán validar la información generada por la inteligencia artificial antes de utilizarla. Está prohibido delegar la toma de decisiones a la IA sin una revisión adecuada.

4. Salvaguardar la Integridad del Proceso Judicial: Asegurar que el uso de la IA generativa no comprometa la integridad del proceso judicial, manteniendo la autonomía de los jueces y funcionarios judiciales en la toma de decisiones basadas en la interpretación y aplicación de la ley.

5. Educación y Capacitación: Garantizar que el personal del Poder Judicial de San Juan esté adecuadamente capacitado sobre el uso de la IA generativa, comprendan sus capacidades y limitaciones, y puedan identificar situaciones en las que su uso puede no ser apropiado.

6. Promover la Innovación: Fomentar la innovación dentro del Poder Judicial de San Juan mediante el uso de tecnologías avanzadas, garantizando que se adopten de manera controlada, segura y alineada con los objetivos de la institución.

(iii) Anonimización de Datos

Antes de compartir datos o documentos electrónicos con la lAGen, deben anonimizarse para eliminar cualquier información que pueda identificar a individuos o revelar datos sensibles que pertenezcan al Poder Judicial de San Juan o a los justiciables. Se deberán utilizar técnicas de anonimización, como la eliminación de nombres, direcciones y números de identificación, difuminación de imágenes y videograbaciones y otras, para proteger cualquier información sensible, incluyendo:

• Pre-Anonimización: Antes de compartir cualquier dato o documento electrónico con la lAGen, deben eliminarse o anonimizarse todos los identificadores personales e información sensible.
• Revisión de Datos: Se debe realizar una revisión de los datos para asegurar sea efectiva.

(iv) Prohibiciones

Se establecen una serie de prohibiciones con el objetivo de garantizar un uso ético, responsable y seguro de esta tecnología dentro del ámbito del Poder Judicial. El cumplimiento de estas normas es esencial para evitar riesgos que puedan comprometer la integridad del sistema judicial y la seguridad de los datos procesados. Entre ellas:

• Uso Personal: La IA Generativa está destinada exclusivamente a fines profesionales y judiciales, por lo que no podrá ser utilizada para actividades personales. Esta restricción busca evitar que los agentes del Poder Judicial empleen la tecnología en tareas ajenas a su función institucional, garantizando así el uso adecuado y eficaz de los recursos en el marco de la Administración de Justicia.
• Contenido Inapropiado: Está terminantemente prohibido generar, distribuir o utilizar cualquier tipo de contenido que sea ofensivo, ilegal o inapropiado a través de la IAGen. Esto incluye la creación de material que pueda dañar la reputación del Poder Judicial o de cualquier tercero involucrado en los procesos judiciales. Asimismo, se prohíbe el uso de la IA para difundir contenido que contravenga las leyes vigentes, las normas éticas y los principios fundamentales de la justicia, como la equidad y la imparcialidad.
• Manipulación de Datos: Los agentes del Poder Judicial no deberán alterar, falsificar ni manipular datos de manera que puedan inducir a error, alterar el curso de un proceso judicial o causar daño al Poder Judicial de San Juan, a las partes involucradas en los procesos ni a terceros.
• Acceso No Autorizado: Está prohibido obtener acceso no autorizado a recursos del Poder Judicial de San Juan, así como a los sistemas y plataformas que contienen información confidencial o sensible, ya sea dentro del Poder Judicial o de otras entidades.

(v) Consideraciones

La aprobación del "Protocolo de Uso Aceptable de la IA Generativa (IAGen)" por parte de la Corte de Justicia de San Juan representa un avance significativo en la modernización y optimización del sistema judicial provincial. Al incorporar la inteligencia artificial en la gestión de tareas jurisdiccionales y administrativas, se busca mejorar la eficiencia y reducir tiempos de tareas.

Con principios claros sobre la confidencialidad, la seguridad de los datos, la verificación de resultados y la salvaguarda de la integridad del proceso judicial, el protocolo subraya la necesidad de un uso controlado y supervisado de la IA Generativa por parte profesionales.