El 6 de junio pasado, un tribunal inglés resolvió en un caso en el que, otra vez, se cuestionó el reemplazo de lo que un abogado debería saber por lo que la inteligencia artificial dice conocer(1).

La decisión incluyó un severo llamado de a tención a los abogados y a los colegios profesionales que (a veces sólo en teoría) defienden sus intereses acerca de los disparates a los que el uso indiscriminado de la inteligencia artificial puede llevar.

Un señor Ayinde (un inmigrante sin recursos) pidió a la municipalidad de Haringey (uno de los boroughs que componen la ciudad de Londres) un subsidio para obtener una vivienda. Como le fue negado, Ayinde a peló. Pendiente la revisión administrativa del caso, Ayinde demandó además a la municipalidad ante la justicia porque, mientras se resolvía la cuestión, aquélla no le proveía alojamiento temporario.

La demanda de Ayinde fue presentada por el Haringey Law Centre, una entidad sin fines de lucro que provee asistencia legal a gente sin recursos. Allí trabajaban Víctor Amadigwe, su director; Sunnelah Hussein, estudian te de derecho y asistente de aquél y Sarah Forey, la abogada que llevó el caso y firmó los escritos presentados al juez.

El pedido inicial de la abogada Forey ante el juez decía que, bajo el artículo 188(3) de la Ley de Vivienda de 1996, las autoridades lo cales están obligadas a proveer alojamiento temporario mientras una persona en situación de calle apela la decisión que rechaza su subsidio para obtener una vivienda.

En un escrito posterior, Forey dijo que en el caso “El Gendi v Camden”, la Corte Suprema había enfatizado que la falta de provisión de alojamiento temporario mientras durara la apelación “minaba el propósito protector de la legislación sobre vivienda para las personas en situación de calle”.

En un tercer escrito, Forey añadió que, en otro precedente, (“Ibrahim v Waltham Forest”) la justicia “había anulado una decisión municipal que negaba el subsidio porque no había tomado en cuenta las necesidades médicas del solicitante y puso de resalto la necesidad de evaluar cuidadosamente las pruebas en los casos de personas en situación de calle”. Según Forey, se había decidido en ese caso que “la falta de consideración de la situación médica del apelante, a pesar de haber sido acompañada de abundante documentación médica, había convertido la de cisión apelada en impropia e irracional”.

Muchos otros precedentes fueron citados por Forey. Todos contundentes y en firme apoyo de la posición de su cliente.

Sólo que el artículo 188(3) de la Ley de Vivienda decía algo distinto; ninguno de los casos existía y las citas correspondían a otros precedentes no vinculados con la demanda.

La cuestión se descubrió cuando a partir del 4 de febrero de 2025 el abogado de la Municipalidad se quejó ante el Haringey Law Centre y su abogada de que no podía encontrar los casos citados y, en varios mensajes sucesivos, pidió que le enviaran las copias respectivas.

El 4 de marzo, aquéllos respondieron al abogado de la Municipalidad con un mensaje que decía: “Lamentamos hacerle saber que no entendemos su posición de vincular posibles errores en las citas legales con las cuestiones mencionadas en nuestro pedido de revisión de la decisión de la Municipalidad. Admitimos que podría haber algunos errores en las citas, pero pueden aclararse y corregirse en el expediente judicial si fuera necesario. Pero usted no ha refutado la veracidad de nuestros argumentos, que prevalecen por sobre sus puntos de vista y el incumplimiento a las normas de la Ley de Vivienda”.

“No cabe duda”, continuaba el mensaje, “de que Ud. no sólo ha tomado todas nuestras ci tas y referencias fuera de contexto sino que ha malinterpretado el sentido, alcance y propósitos de esa ley”.

Y agregaron: “No creemos estar obligados a aclarar, en beneficio suyo, cuál es la interpretación adecuada de la ley ni a suministrar a Ud. más explicaciones antes de la próxima audiencia. Ud. brindará un mejor servicio a la Municipalidad si presta más atención no a los errores que ha descubierto sino ubicando las normas legales que apoyen su posición. Confiamos en que Ud. no identificó esos errores para evitar tener que hacer un análisis jurídico serio. [...] Nos parece impropio canjear la posición de nuestro cliente por la corrección de errores cosméticos. […] Sus argumentos defensivos, para prevalecer, no de ben fundarse en errores en citas legales sino en las pruebas y el mérito de su posición”.

Ante semejante respuesta, la Municipalidad pidió al juez una sanción contra el Haringey Law Centre y la abogada Forey.

El juez convocó una audiencia para el 3 de abril. A esa fecha, la Municipalidad ya había concedido alojamiento a Ayinde y se había resuelto su pedido de subsidio para la vivienda.

En la audiencia, Forey explicó al juez que había mezclado los archivos electrónicos de algunos precedentes jurisprudenciales Éste rechazó sus argumentos: “No entiendo la explicación y su vinculación con este asunto. Si la abogada Forey dice haber analizado y compilado varios casos judiciales referidos a la revisión judicial [de decisiones administrativas] el caso El Gendi no puede estar entre ellos porque ese caso no existe”.

“Si la abogada hizo sumarios de fallos, éste no pudo haber sido incluido entre ellos, por que es inexistente. Y si lo citó en un escrito judicial importante, del cual es profesional mente responsable porque lo firmó, no debe ría haberlo presentado ante un juez, porque no existe”.

Con términos durísimos, el juez rechazó el tenor del mensaje de la abogada al letrado de la Municipalidad. “Fue irrazonable decir que las referencias erróneas podían ser explica das y luego rehusarse a hacerlo. No fue ni profesional ni razonable ni justo negarse. Decir que no existía ninguna obligación de explicar nada fue un error. Lo peor de todo fue sostener que los errores en las citas eran meras cuestiones cosméticas: eso constituyó una grosera categorización. La conducta del Haringey Law Centre y su abogada fue impropia, irrazonable y negligente”.

“Es obligación de los abogados verificar que la explicación de los hechos y su sustento le gal sean correctos. Ellos mismos deberían haber reaccionado cuando se les dijo que los casos eran inexistentes. La abogada debió haberse autodenunciado ante el Colegio de Abogados. [...] Mencionar cinco casos falsos (incluyendo uno de segunda instancia) califica claramente como mala conducta profesional”.

“Creo que Forey incluyó esos casos intencionalmente, sin preocuparse por establecer si existían o no. Los obtuvo de una fuente desconocida, aunque seguramente no los ex trajo o fotocopió de repertorios o anales jurisprudenciales. No es posible fotocopiar o resumir un fallo inexistente. Su conducta fue impropia e irrazonable. Si usó inteligencia artificial para incluir ese supuesto precedente en su escrito y no lo verificó, fue negligente. Sin embargo, como no puedo cerciorarme de que la haya usado, no estoy seguro de que haya sido negligente. Creo que caería en esta categoría si hubiera obtenido el texto por medio de la IA y omitió verificar su autenticidad”.

El juez condenó a la abogada y al Haringey Law Centre a pagar, cada uno, £2,000 a la Municipalidad y envió testimonio del caso a las autoridades regulatorias de la abogacía en Inglaterra.

Forey, Amadigwe y Hussein apelaron por separado. Sus recursos fueron, en pocas palabras, sendos pedidos de disculpas. Forey, en particular, ‒a quien los otros dos consideraron la principal responsable‒ confesó haber estado implicada en otro caso de falsas referencias, que no fue reportado a la autoridad disciplinaria gracias a la clemencia del juez interviniente.

La defensa de Forey pidió que no fuera sancionada por desacato porque sus faltas no habían sido suficientemente graves. Sostuvo que aquélla no sabía que los casos eran falsos; que sus errores no afectaron el resultado del pleito; que carecía de experiencia y provenía de un entorno familiar y laboral difícil; que no se había dado cuenta de la gravedad de los hechos y de lo serio de sus errores, por lo que pedía las excusas del caso.

No obstante, aseguró que jamás había usado IA para preparar sus escritos y se negó a aceptar que su conducta hubiera sido impropia. Bajo su punto de vista, haber citado casos inexistentes era como abrir una lata de conservas con la etiqueta equivocada: a pe sar del error, el contenido era correcto.

El tribunal no se convenció. Más aún: sostuvo que su defensa “mostraba una preocupan te falta de conocimientos” (‘a worrying lack of insight’).

“Lamentamos decir que Forey no ha dado una explicación coherente de lo ocurrido. Sobre la base de las pruebas, aparecen dos alternativas posibles. Una, que Forey incluyó deliberadamente citas falsas en su escrito. Ello constituiría desacato. La otra, que usó inteligencia artificial generativa para producir una lista de casos o redactar su demanda. En esta hipótesis, su declaración fue falsa. Y eso también sería desacato. En ambos casos, el umbral para iniciar un procedimiento Disciplinario está alcanzado”.

Además de iniciar dicho procedimiento, el tribunal consideró necesario hacer una serie de consideraciones.

“Esta Corte”, dijo “tiene la facultad de hacer cumplir las obligaciones que los abogados tienen ante los tribunales. En el caso, se ha usado (o se sospecha que se ha usado) la inteligencia artificial generativa para redactar escritos o declaraciones testimoniales que no fueron revisadas, por lo que se presentó in formación falsa ante este tribunal. Lo ocurrido suscita preocupación sobre la competencia y conducta de los abogados sujetos a este procedimiento disciplinario. También suscita preocupaciones más generalizadas acerca de la forma en que se entrenan, supervisan y regulan los profesionales que ejercen ante esta Corte y sobre las medidas prácticas que de ben tomar quienes tienen la responsabilidad de asegurar que los litigantes entienden y cumplen sus obligaciones y deberes profesionales y éticos”.

“La inteligencia artificial es un arma poderosa. Puede ser una herramienta útil en un litigio. [...] Es posible que tenga un papel cada vez más importante en la conducción de un pleito en el futuro. Esto, sin embargo, acarrea una consideración importante: es una herramienta que genera tanto riesgos como oportunidades. Su uso debe hacerse con un grado apropiado de cuidado y dentro de un marco regulatorio que asegure el cumplimiento de estándares profesionales y éticos si se pretende mantener la confianza en la administración de justicia”.

“Ésta depende de que los tribunales puedan confiar, sin duda alguna, en la integridad de quienes comparecen ante ellos y en su cons tante profesionalismo; no sólo cuando presentan escritos debidamente sustentados”.

“En el ámbito del análisis jurisprudencial, los riesgos de usar la IA ya son bien conocidos. Las herramientas de IA generativa, en trenadas sobre grandes modelos de lenguaje (como ChatGPT) no son capaces de llevar a delante un análisis jurídico confiable. Esas herramientas pueden producir respuestas aparentemente coherentes y plausibles, pero pueden ser absolutamente incorrectas; pue den incluir afirmaciones falsas, mencionar casos o fuentes que no existen o citar párrafos de fuentes genuinas que no aparecen en ellas”.

“Quienes usan la IA para efectuar análisis jurídico a pesar de estos riesgos tienen la obligación profesional de confirmar su veracidad antes de usarlo en el ejercicio de sus tareas profesionales. [...] Esta obligación recae sobre quienes usan la IA para hacer su propio trabajo o se apoyan en el trabajo de otros. Esto no es distinto de la responsabilidad del abogado que confía en la tarea de un joven asociado o un pasante o en una búsqueda en Internet”.

“Pero avancemos un poco más. Tiene serias consecuencias para la administración de justicia y la confianza pública en el sistema si la IA es empleada mal. En esas circunstancias, deben tomarse ya mismo medidas prácticas y efectivas tanto por los profesionales como por quienes tienen responsabilidad regulatoria sobre la profesión”.

“Esas medidas deben asegurar que cada abogado entienda y cumpla sus obligaciones y deberes profesionales y éticos ante los tribunales cuando usa IA. En el futuro, en casos como éste, los profesionales deberán ser ca paces de responder si han cumplido con esas obligaciones”.

“No importa si se hizo confundir al tribunal por distracción; eso solo ya sería revelador de incompetencia y negligencia grosera. Pe ro esa conducta perjudica la reputación de la abogacía. Los abogados pueden verse enfrentados a demandas por daños, difamación o violación de datos personales en virtud del uso descuidado e inapropiado de la IA”.

“La información usada para ‘entrenar’ a la I A puede estar desactualizada y generar res puestas ambiguas, erróneas o contaminadas por prejuicios. Y como carece del concepto de ‘realidad’, sus resultados pueden generar lo que se conoce como ‘alucinaciones’: res puestas plausibles pero incorrectas. Y si bien resulta una herramienta útil, no reemplaza la responsabilidad humana”.

“Los abogados responden por sus análisis, argumentos y escritos ante los tribunales y sus clientes. Y esto sigue siendo cierto aun cuando usen IA. [...] Los jueces también de ben verificar la información que les es provista por la IA antes de usarla o confiar en ella”.

“En los casos más extremos, suministrar de liberadamente datos falsos ante un tribunal con la intención de interferir en la administración de justicia constituye un delito. Y presentarlos a los jueces para que éstos los traten como auténticos constituye conducta impropia, irrazonable y negligente. Todo a bogado que haga algo semejante arriesga la imposición de sanciones. Y aplicar sólo una amonestación o advertencia no parece una sanción adecuada. Casos como éste muestran que los consejos son insuficientes para enfrentar el mal uso de la IA. Se necesita algo más para asegurar que los abogados cum-plan sus obligaciones ante los jueces”.

El tribunal confirmó las sanciones. E invitó a los colegios de abogados a considerar, con urgencia, qué pasos deben darse a la luz de lo decidido.

“¿Y por casa?” pregunta el Filosofito, que nos lee en borrador. Y le respondemos que las normas procesales exigen a los abogados actuar con lealtad y buena fe. Más aun: algunos códigos de ética consideran una falta ‘efectuar citas doctrinarias o jurisprudenciales inexistentes o exponerlas en forma tal que falseen la opinión o el fallo invocados, o realizar falsas transcripciones de resoluciones judiciales o escritos del contrario’.

“¿Será suficiente?”, insiste. Probablemente no, dada la benevolencia tradicional de los a bogados al juzgar a sus propios colegas.