Un clic puede registrar conformidad sin demostrar control profesional efectivo

La incorporación de agentes de inteligencia artificial en estudios jurídicos promete una distribución atractiva de responsabilidades: la herramienta investiga, compara, redacta y organiza; el abogado conserva la revisión final. Bajo esa fórmula, la intervención humana parecería resolver el problema de confiabilidad.

Sin embargo, “revisión humana” puede nombrar prácticas radicalmente distintas. No es lo mismo controlar las fuentes, reconstruir el razonamiento y examinar las excepciones que leer un resumen producido por el propio sistema y presionar “aprobar”. La primera es una tarea profesional. La segunda es un evento de interfaz.

El reciente trabajo AI Agents Push Humans Out of the Loop, de Margaret Mitchell, Avijit Ghosh y Samir Passi, ofrece un marco útil para analizar esa diferencia.[1] Es un artículo de posición y síntesis, no una prueba de responsabilidad jurídica ni un estudio longitudinal concluyente. Su advertencia, no obstante, merece atención: a medida que los agentes asumen más tareas, pueden deteriorar gradualmente la atención, la conciencia situacional y las habilidades que el revisor necesita para ejercer un control real.

El abogado formalmente presente

Imaginemos un agente que recibe la consulta, busca normativa y jurisprudencia, identifica argumentos, prepara un borrador y propone enviarlo. Antes del último paso, solicita autorización.

La existencia de esa pausa no permite saber si el profesional:

·       accedió a las fuentes primarias;

·       verificó vigencia, jurisdicción y jerarquía normativa;

·       examinó hechos y documentos que el sistema pudo omitir;

·       detectó excepciones relevantes;

·       comparó una alternativa contraria;

·       comprendió qué herramientas utilizó el agente;

·       tuvo tiempo suficiente para revisar;

·       conservaba autoridad efectiva para rechazar o rehacer el trabajo.

El botón registra una respuesta, pero no acredita por sí solo la calidad del proceso que la produjo. Desde una perspectiva probatoria y de gobierno profesional, esta diferencia es central. La trazabilidad útil no debe limitarse a “aprobado por”. Debe permitir reconstruir qué fue sometido a revisión, con qué evidencia, en qué versión y bajo qué incertidumbres.

El riesgo de la delegación acumulativa

La automatización jurídica no se limita ya a sugerir palabras. Un agente puede encadenar búsquedas, seleccionar resultados, resumir documentos, modificar archivos y ejecutar acciones. Cada delegación reduce el contacto directo del profesional con una parte del expediente o del problema.

Esto puede producir cuatro fallas relacionadas:

1.      Sesgo de automatización. La recomendación inicial condiciona la revisión posterior, especialmente cuando se presenta con seguridad y buena forma.

2.      Fatiga de aprobación. Una cola de permisos frecuentes convierte el control en rutina y favorece respuestas rápidas.

3.      Pérdida de conciencia situacional. El revisor conoce el resumen final, pero no los desvíos, descartes y supuestos incorporados durante la trayectoria.

4.      Atrofia de habilidades. Si la práctica cotidiana se delega de manera sostenida, puede debilitarse la capacidad necesaria para intervenir en el caso excepcional.

El resultado paradójico es que el sistema reserva al abogado la responsabilidad final mientras reduce las condiciones cognitivas para ejercerla.

La aprobación no debe utilizarse como presunción de corrección

Un riesgo adicional aparece cuando el estudio o el proveedor interpreta las aprobaciones como señal de desempeño. Una tasa alta de aceptación puede parecer evidencia de que el agente funciona bien. También puede reflejar que la interfaz facilita el consentimiento, que revisar es demasiado costoso o que los usuarios han aprendido a confiar sin verificar.

Si esas señales alimentan evaluaciones o mejoras posteriores, el sistema puede optimizarse para resultar aprobable y no para resultar escrutable. En el ámbito jurídico, esa sustitución es especialmente peligrosa. Una respuesta clara y convincente puede ocultar una autoridad derogada, una cita inexistente, un cambio procesal, una cuestión de competencia o un hecho ausente.

Por eso la métrica adecuada no es cuántas veces el profesional aceptó. Es qué capacidad tuvo para detectar y corregir errores materiales antes de que produjeran efectos.

Deber profesional y estándar de revisión

En la Argentina no existe una regla única y nacional que resuelva todos los efectos del uso profesional de agentes de IA. La disciplina depende de la jurisdicción, el tipo de actuación, el vínculo contractual y las circunstancias del caso. No corresponde derivar de un paper una conclusión automática de responsabilidad.

Sí existen principios que vuelven insuficiente una aprobación meramente ritual. Para el ejercicio en la Capital Federal, la Ley 23.187 exige al abogado comportarse con lealtad, probidad y buena fe y observar el secreto profesional. La norma también prohíbe autorizar el uso de la firma o el nombre a quien no sea abogado para ejercer actividades propias de la profesión.[2] Estas disposiciones no regulan específicamente la IA, pero impiden tratar la firma profesional como una formalidad separada del control de la actuación.

En derecho comparado, el artículo 14 del Reglamento de Inteligencia Artificial de la Unión Europea formula un criterio útil para sistemas de alto riesgo: la supervisión debe ser efectiva; las personas encargadas deben comprender capacidades y limitaciones, interpretar la salida, reconocer la tendencia a la sobredependencia, decidir no usarla y poder intervenir o detener el sistema.[3] No es una norma argentina ni se aplica automáticamente a toda herramienta jurídica. Funciona, sin embargo, como referencia concreta para distinguir supervisión nominal de supervisión operativa.

Qué debería demostrar un control profesional efectivo

Un control profesional efectivo exige algo más que conservar un registro de aprobación. Debe permitir comprender el alcance de la delegación, verificar la procedencia y suficiencia de la información, identificar incertidumbres relevantes y reconstruir las condiciones bajo las cuales se adoptó la decisión.

La instrumentación concreta de estos controles dependerá del riesgo, la organización y la arquitectura tecnológica utilizada. No todos los datos deben exponerse al cliente ni conservarse indefinidamente: hacen falta reglas de minimización, secreto profesional, seguridad y retención. Pero la ausencia total de registro deja al estudio con una afirmación difícil de sostener: que hubo supervisión porque alguien hizo clic.

Traducir estos principios en un sistema verificable exige decisiones de diseño, gobierno y documentación que exceden el alcance de este artículo.

Un protocolo proporcional para estudios jurídicos

La solución no es exigir una ceremonia pesada para cada corrección de estilo. La intensidad del control debe seguir a la dependencia y al daño posible.

Para tareas de bajo impacto y reversibles, puede bastar una revisión ordinaria. Para investigación jurídica, asesoramiento al cliente, escritos, contratos, decisiones procesales o comunicaciones externas, el control debe ser más exigente. Como mínimo, debería separar fuentes, inferencias y recomendaciones; facilitar el acceso a las autoridades primarias y vigentes; hacer visibles los faltantes y desacuerdos relevantes; y reservar una autorización específica para las acciones externas o difíciles de revertir.

Este enfoque agrega fricción donde tiene valor probatorio y preventivo. También evita el extremo contrario: saturar al profesional con alertas triviales hasta volver inevitable el consentimiento automático.

Consecuencias para contratos y proveedores

La discusión también debería llegar a la contratación de tecnología jurídica. No alcanza con promesas generales de “human in the loop”. El estudio necesita conocer qué información verá el revisor, si podrá acceder a las fuentes y a la trayectoria, cómo se manifiestan las truncaciones, qué acciones requieren permiso, cómo se registran los cambios de versión y qué mecanismo permite detener o revertir una ejecución.

El contrato y la evaluación técnica deberían distinguir entre un sistema que solicita autorización y uno que posibilita control. La diferencia afecta confidencialidad, diligencia, atribución, auditoría y capacidad de respuesta ante incidentes.

Conclusión

La intervención humana no es valiosa por su mera existencia. Es valiosa cuando conserva juicio independiente, información suficiente y capacidad efectiva de oposición.

En el trabajo jurídico, aprobar una salida de IA debería ser el final verificable de una revisión, no el sustituto visual de esa revisión. La pregunta relevante no es si hubo un abogado en el circuito. Es si ese abogado pudo comprender, cuestionar y detener lo que estaba a punto de asumir con su nombre.

Firmar no es revisar. Y un sistema responsable debe ser capaz de mostrar la diferencia.

Fuentes

·       Margaret Mitchell, Avijit Ghosh y Samir Passi, AI Agents Push Humans Out of the Loop, arXiv, 2026.

·       Argentina, Ley 23.187, artículos 6 y 10, texto actualizado.

·       Unión Europea, Reglamento (UE) 2024/1689, artículo 14, supervisión humana.

·       Lisanne Bainbridge, “Ironies of Automation”, Automatica, 1983.

·       Zana Buçinca, Maja Barbara Malaya y Krzysztof Z. Gajos, “To Trust or to Think”, CHI, 2021.

Este artículo ofrece un análisis general y no sustituye asesoramiento jurídico sobre una jurisdicción o caso concreto.