Introducción
La irrupción de la inteligencia artificial (IA), especialmente la IA de tipo generativa (IAG), ha transformado radicalmente diversas áreas de la vida cotidiana, desde la forma en que trabajamos hasta cómo consumimos y nos relacionamos.
Esta revolución tecnológica, caracterizada por su velocidad e impacto transversal, plantea retos significativos para el derecho, que se ve obligado a adaptarse a un entorno en constante cambio.
Por tanto, el presente busca abordar brevemente los desafíos y oportunidades que la IAG presenta para la profesión jurídica, explorando su capacidad para argumentar en derecho y el papel que debe desempeñar dentro del ámbito legal.
La Inteligencia Artificial en el Contexto Jurídico
El uso de la IA en el derecho no es una novedad, pero su alcance y capacidades han evolucionado dramáticamente en los últimos años.
Inicialmente, los avances tecnológicos en IA estaban limitados a la automatización de tareas específicas, como la revisión de documentos legales o la búsqueda de precedentes. Posteriormente, se incorporaron capacidades de predicción, como en el caso de los algoritmos utilizados en redes sociales para personalizar ofertas y recomendaciones de productos. Sin embargo, los nuevos modelos de IAG, como el modelo de OpenAI - ChatGPT (1), han ampliado estas capacidades, permitiendo la generación de contenido, la automatización de procesos y, más sorprendentemente, la argumentación.
Ello es posible porque la IAG utiliza una arquitectura de redes neuronales denominada “Transformers”, la que es capaz de analizar grandes volúmenes de texto, identificar patrones y generar respuestas coherentes y detalladas en tiempo real.
Esta tecnología se basa en un modelo de lenguaje natural que ha sido entrenado con enormes cantidades de texto para aprender patrones lingüísticos y contextuales (2).
Ello plantea una pregunta fundamental: ¿Puede la IAG reemplazar el proceso de argumentación jurídica que tradicionalmente ha sido dominio exclusivo de los humanos? Encuentro algunas razones para responder negativamente pues, a pesar de los avances en IAG, existen limitaciones fundamentales que impiden que estos sistemas reemplacen completamente la argumentación jurídica humana.
Primero. Limitaciones de la IAG en la Argumentación Jurídica
En primer lugar, aunque la IAG puede estructurar y presentar argumentos basados en datos y patrones aprendidos, no posee la verdadera capacidad de innovar o generar argumentación totalmente novedosa. Es decir, no puede generar argumentos que introduzcan conceptos o ideas radicalmente inéditas que no estén de alguna forma presentes en los datos con los que fue entrenado.
A diferencia del juicio humano, que puede innovar, interpretar y crear argumentos originales basados en intuición, experiencia y creatividad, los modelos de IAG se limitan a combinar y reorganizar información ya existente, de manera coherente.
Esto es crucial pues esta limitación se enfrenta con un principio básico del derecho, cual es que la interpretación del derecho es de esencia dinámica y adaptativa.
Como sabemos, el derecho es interpretación y argumentación jurídica. No es una disciplina estática sino dinámica, que requiere adaptabilidad y una interpretación que se ajuste a los cambios y necesidades de la sociedad. Sin embargo, de momento y por lo antes expuesto, la IAG carece de la capacidad para comprender esta naturaleza dinámica y ofrecer una mirada novedosa y adaptativa del derecho porque basa sus respuestas en interpretaciones pasadas.
Un ejemplo ilustrativo es el uso de IAG para generar contenido jurídico, como la redacción de demandas, contratos o la elaboración de sentencias o de dictámenes. Pero, conforme a lo dicho, si bien este tipo de herramientas pueden producir documentos coherentes y gramaticalmente correctos, carecen de la capacidad de interpretar contextos específicos, detectar matices culturales o innovar en la interpretación de la ley.
Por tanto, la IAG se limita a reorganizar información existente, lo que puede ser insuficiente en casos donde se requiere una nueva interpretación o un enfoque creativo para resolver un problema legal complejo.
Además, la IAG enfrenta críticas que subyacen a lo antes señalado, relacionadas con la falta de explicabilidad y transparencia en cómo genera sus respuestas, lo que es particularmente problemático en un contexto legal donde la justificación y la claridad, son cruciales.
Es por tanto necesario recordar que los modelos de IAG operan en gran medida como una "caja negra", donde el proceso de toma de decisiones es opaco para los usuarios finales, incluidos los profesionales del derecho. Precisamente, esta falta de transparencia puede generar desconfianza y problemas éticos en quienes fomenten el reemplazo humano de argumentación, especialmente cuando se trata de la protección de datos sensibles y la privacidad. Por ejemplo, los usuarios pueden no comprender o carecer de debida información sobre cómo sus interacciones se utilizan o no para entrenar algoritmos, lo que plantea serias preocupaciones sobre la privacidad y la manipulación de información.
Otra limitación importante es la calidad inconsistente de las respuestas generadas por la IAG. Si bien pueden ser gramaticalmente correctas y convincentes, a menudo carecen de profundidad o coherencia, lo que puede ser perjudicial en un contexto legal donde la precisión y la solidez argumentativa son esenciales. Además, como se dijo, la IAG no tiene la capacidad de contextualizar adecuadamente situaciones complejas, lo que es fundamental para la toma de decisiones jurídicas.
En casos judiciales, por ejemplo, donde el análisis de precedentes y la interpretación del contexto son claves, la falta de comprensión de la IAG podría llevar a conclusiones erróneas o inadecuadas.
Segundo. El Rol Complementario de la IA en el Derecho
A pesar de las limitaciones planteadas, no puede desconocerse que la IAG tiene un potencial significativo como herramienta complementaria en el ámbito jurídico.
Por dar más ejemplos, puede automatizar tareas rutinarias, como la revisión de documentos legales, la búsqueda de jurisprudencia relevante y la gestión de grandes volúmenes de datos. Puede mejorar textos o darnos sugerencias, lo que permite a los profesionales del derecho concentrarnos en el análisis crítico y la toma de decisiones.
Lo expuesto significa que la IAG puede servir como una herramienta complementaria, pero el juicio y la capacidad de innovar en la argumentación jurídica siguen siendo dominio de las personas humanas.
Por tanto, para que la integración de la IAG en el derecho sea efectiva y ética, es crucial que la comunidad jurídica mantenga una supervisión constante sobre el uso de estas tecnologías. Esto incluye la evaluación crítica de los argumentos generados por la IAG en cada interacción para garantizar que no se perpetúen prejuicios, estereotipos o desigualdades respecto de sectores vulnerables, lo que me lleva al siguiente punto.
Tercero. Consideraciones Éticas y Necesidad de Regulación
El uso de la IAG en el derecho también plantea desafíos éticos significativos, como la necesidad de garantizar que las decisiones asistidas por este tipo de modelos sean justas y equitativas. Es esencial que existan marcos regulatorios claros que aseguren la transparencia en el uso de la IAG y protejan los derechos de las partes involucradas en procesos legales.
Además, la confidencialidad de los datos es un aspecto crítico que debe ser abordado con seriedad. La confianza de los usuarios de que sus datos no serán utilizados sin su consentimiento debe poder construirse a partir de la evidencia demostrada del sistema, lo cual es fundamental para la legitimidad del uso de la IAG en contextos legales.
Sin una adecuada regulación y control, estos sistemas podrían utilizar datos de manera indebida, afectando la privacidad y los derechos individuales.
Conclusión
La IAG en el ámbito jurídico representa una herramienta poderosa que, si se utiliza de manera adecuada, puede mejorar significativamente la eficiencia y la precisión en el ejercicio del derecho. No obstante, es crucial que su integración se realice con cautela, asegurando siempre que el juicio humano y la capacidad de innovación en la argumentación jurídica se mantengan como elementos centrales e insustituibles del proceso legal.
En conclusión, la IAG debe ser vista como un complemento, no como un sustituto, del análisis y la toma de decisiones en el derecho, garantizando siempre la transparencia, la equidad y la protección de los derechos en el marco de los procesos legales.
Solo así se podrá aprovechar su potencial sin comprometer los valores fundamentales que rigen el ejercicio del derecho.
Citas
(*) Vocal de Sala IV. Fuero Contencioso Administrativo, Tributario y de relaciones de consumo de la CABA. Directora de IA y Género UBA-IALAB https://ialab.com.ar/
(1) Generative Pre-trained Transformer, OpenAI https://openai.com/index/gpt-4/
(2) Primero el sistema es expuesto con grandes volúmenes de datos de manera no supervisada para aprender estructuras de lenguaje. Luego viene un proceso fino de ajuste, donde el sistema es expuesto a datos supervisados, es decir con salidas determinadas para mejorarlo y dar una respuesta asertiva. Además, los Transformers emplean un mecanismo llamado auto atención (self-attention), que permite al modelo procesar múltiples palabras en simultáneo, entendiendo cómo se relacionan entre sí en diferentes contextos, y ello es lo que permite generar texto coherente.
Opinión
Kabas & Martorell
opinión
ver todosBrons & Salas
Alfaro Abogados
Kabas & Martorell