La revisión humana necesita una competencia protegida para discrepar

Una vez más, como en los artículos anteriores, partamos de un caso hipotético. Una abogada de una empresa recibe un contrato preparado por un sistema de inteligencia artificial. El programa comparó propuestas, redactó las cláusulas y señaló que el documento cumple los requisitos de la operación. El negocio debe cerrarse esa tarde. La revisión jurídica aparece como el último paso antes del envío.

Al leerlo, la abogada advierte que una cláusula permite transmitir información confidencial a terceros cuya identidad todavía no se conoce. Pide aclaraciones y propone suspender el envío. El área comercial responde que el sistema ya verificó el contrato y que detenerlo hará perder una oportunidad. En el registro interno, la demora queda atribuida a la revisión jurídica.

El ejemplo no presupone un error inevitable de la inteligencia artificial ni una conducta habitual de las empresas. Muestra una dificultad que puede existir incluso cuando el programa funciona como fue diseñado: la persona encargada de controlar tiene permiso para objetar, pero el procedimiento hace costoso ejercerlo.

En la primera parte[1] propuse distinguir las funciones de los sistemas que producen recomendaciones, ejecutan acciones, controlan resultados y conservan antecedentes. En la segunda[2], examiné quién puede modificar sus reglas y permisos. Esta tercera entrega se detiene en una condición de ambas: la revisión humana sólo puede operar como garantía cuando quien revisa dispone de una competencia efectiva y protegida para disentir.

Qué cambia cuando el programa puede actuar

Para comprender el problema no hace falta conocer cómo se entrena un modelo de inteligencia artificial. Basta distinguir dos usos. Un programa puede producir un texto que una persona lee y decide utilizar. También puede recibir un objetivo y realizar varios pasos: buscar documentos, comparar alternativas, preparar una comunicación y, si tiene autorización, enviarla.

A este segundo tipo de organización se lo suele llamar agente de inteligencia artificial. Su capacidad de actuar depende de las herramientas y los permisos que recibe. Un agente preparado para investigar no tiene, por esa sola capacidad, facultades para contratar. Uno autorizado para redactar una intimación tampoco debería poder enviarla sin la intervención que corresponda.

La revisión humana se ubica entre la propuesta y el efecto. Pero su mera presencia no demuestra que alguien haya podido examinar el asunto y cambiar el curso de acción. Si la decisión llega cerrada, el plazo está agotado y toda objeción cuenta como un obstáculo, la persona puede terminar aportando una firma a un resultado sobre el cual tuvo escasa influencia.

La cuestión jurídica comienza allí. Debemos identificar qué podía hacer el revisor antes de preguntarle por qué no evitó el daño.

El desacuerdo tiene un costo que la aceptación puede ocultar

En nuestro ejemplo, aceptar el contrato permite cumplir el plazo. Objetarlo obliga a localizar el problema, explicarlo, discutirlo con otra área y conseguir una decisión nueva. La aceptación cierra la tarea; el rechazo abre trabajo adicional.

Esa diferencia puede ser razonable en parte. Quien advierte un defecto debe indicar cuál es y por qué importa. El problema aparece cuando sólo el desacuerdo necesita fundamentos, mientras la aprobación se considera correcta por coincidir con la recomendación automática.

Una señal de confianza emitida por el programa puede reforzar esa asimetría. La abogada no discute únicamente una cláusula: también debe explicar por qué se aparta de un resultado presentado como ya comprobado. Si además se mide su desempeño por la cantidad de documentos aprobados o por el tiempo que tarda en devolverlos, cada objeción puede empeorar el indicador con el que será evaluada.

Este mecanismo es una hipótesis institucional, no una medición de su frecuencia. Puede comprobarse o refutarse examinando cómo se registran aprobaciones y objeciones, qué ocurre después de una suspensión y cómo se evalúa a quienes revisan. No basta encontrar una demora para demostrar que hubo presión indebida. Tampoco basta una política que permita objetar para acreditar que el desacuerdo resulta practicable.

En mi trabajo The Human Liability Sink[3], desarrollé la necesidad de distribuir conjuntamente información, autoridad, tiempo, protección del rechazo y responsabilidad. Su argumento es conceptual: no establece por sí mismo la responsabilidad jurídica de una organización ni demuestra cuántas revisiones son ficticias. Aquí interesa una consecuencia concreta de esa arquitectura: la organización debe evaluar también las condiciones bajo las cuales una persona puede apartarse del resultado que recibe.

Rechazar, suspender y elevar una consulta son decisiones diferentes

La expresión “decir que no” reúne actos que conviene separar. La abogada puede rechazar el contrato porque la cláusula es incompatible con el encargo. Puede suspender su envío mientras se aclara quién recibirá la información. O puede elevar la cuestión a la autoridad que debe decidir si la empresa acepta el riesgo y bajo qué condiciones.

Cada acto exige facultades distintas. Rechazar una propuesta no equivale necesariamente a cancelar la operación. Suspender una ejecución no concede poder para rediseñar toda la política comercial. Elevar una consulta tampoco resuelve el problema si nadie está obligado a contestarla antes de que el sistema continúe.

Por eso propongo tratar el rechazo protegido como una competencia dentro del procedimiento. Debe precisarse quién puede ejercerla, sobre qué objeto, por qué motivos y con qué efecto provisional. También debe existir una autoridad que resuelva las discrepancias que excedan las atribuciones del revisor.

La protección recae sobre el ejercicio fundado de esa competencia. No garantiza que toda objeción prospere. Una organización puede revisar el motivo, pedir una explicación adicional o concluir que la propuesta era aceptable. Lo que debe evitar es que objetar se convierta, por sí solo, en una falta de desempeño.

El desacuerdo puede estar equivocado y haber sido razonable con la información disponible. También puede haber sido arbitrario, negligente o utilizado para eludir una tarea. La distinción exige examinar razones y circunstancias. El resultado posterior no reemplaza ese examen: que el contrato finalmente se celebre sin incidentes no demuestra que la advertencia inicial haya sido inútil.

Una objeción necesita una respuesta competente

Volvamos a la cláusula de confidencialidad. La abogada debería poder identificar qué transmisión cuestiona, qué información falta y qué decisión solicita. El área responsable debe aclarar el destino de los datos, modificar la cláusula o justificar el curso que propone dentro de sus facultades. Si persiste el desacuerdo, alguien debe resolverlo.

Este procedimiento no necesita convertir cada consulta en un expediente extenso. Una constancia breve puede ser suficiente si permite reconstruir el objeto discutido, las razones, la decisión y su responsable. La cantidad de documentación debe responder a la importancia del asunto.

La revisión debe producir, además, un efecto reconocible. Si el envío está suspendido, el sistema tiene que conservar esa suspensión hasta que se adopte la decisión competente. Una objeción anotada mientras la comunicación sale automáticamente sólo deja evidencia de una advertencia que el procedimiento no atendió.

Tampoco debería resolverse una discrepancia buscando sucesivos aprobadores hasta encontrar uno que acepte. Puede ser legítimo reemplazar al revisor o consultar a un especialista. Pero la objeción material debe acompañar la consulta y recibir respuesta. Cambiar de persona no modifica la cláusula ni elimina el hecho que motivó el desacuerdo.

Esta exigencia protege la continuidad de las razones. Impide que una operación llegue a autorización después de perder, en el camino, la advertencia que debía considerarse. Su finalidad no es conceder al primer revisor una última palabra irrevocable, sino permitir que quien tenga la última palabra decida con conocimiento de la controversia.

La organización también decide cómo se mide la revisión

Un control puede quedar debilitado sin que nadie prohíba objetar. Basta con que el tiempo dedicado a verificar fuentes, formular una reserva o elevar una consulta se contabilice únicamente como demora.

La productividad jurídica no puede reducirse al número de contratos liberados por hora. Debe considerar qué resultado se obtuvo, qué riesgo se examinó y qué trabajo fue necesario para aceptar la operación. Esto no exige abandonar las mediciones de tiempo. Exige reconocer qué actividad están midiendo.

En The Human Liability Sink sostuve que las métricas deben incluir el tiempo requerido por una revisión competente y por la elevación de los asuntos que necesitan otra decisión. Esa propuesta no ofrece un umbral universal. Un contrato rutinario y una transmisión irreversible de información no requieren necesariamente el mismo examen.

La organización puede simplificar controles, mejorar el acceso a documentos o reservar revisión especializada para determinadas operaciones. También puede descubrir que algunas objeciones se repiten porque las instrucciones del sistema son insuficientes. En ese caso, corregir la preparación de los contratos puede reducir demoras sin retirar la garantía que permitió detectar el defecto.

La medida de una revisión valiosa tampoco es la cantidad de rechazos. Premiar la objeción sistemática puede producir el problema inverso: decisiones defensivas que nadie quiere asumir. Tanto la aprobación automática como el rechazo automático pueden eludir el juicio profesional. El control debe evaluar la calidad de las razones y su adecuación al caso.

Protección institucional y responsabilidad jurídica

El rechazo protegido se presenta aquí como una propuesta de organización. No afirmo la existencia de una inmunidad general para quien frena una recomendación de inteligencia artificial. Sus derechos, deberes y posibles responsabilidades deben examinarse según la relación profesional, contractual, laboral o administrativa correspondiente.

El Código Civil y Comercial[4] proporciona referencias para ese examen. El artículo 1710 exige medidas razonables de prevención según las circunstancias y en cuanto dependan de cada persona. Los artículos 1724 y 1725 vinculan la diligencia con la naturaleza de la obligación y el deber de prudencia y conocimiento. El artículo 1726 exige relación causal para atribuir consecuencias reparables.

Estas reglas no convierten toda objeción en conducta debida ni toda aprobación en culpa. Permiten considerar qué riesgo podía conocerse, qué medidas estaban al alcance del revisor y qué obligaciones correspondían a los demás participantes. La protección interna tampoco puede disponer de los derechos de un tercero perjudicado.

En un eventual conflicto, interesa reconstruir la advertencia y la respuesta. Pero también quién decidió el plazo, quién proporcionó la información, quién asignó las facultades y quién mantuvo la operación en curso. La firma final no describe, por sí sola, toda esa cadena.

La organización no puede solucionar una revisión impracticable declarando que el aprobador será responsable. Debe darle medios para ejercer su función. A la vez, disponer de esos medios exige utilizarlos con diligencia: la competencia protegida conserva responsabilidad por su propio ejercicio.

El riesgo de convertir la garantía en un veto permanente

La objeción más fuerte a esta propuesta es que una organización necesita decidir. Si cada participante puede detener una operación sin límite, el control puede paralizar el trabajo y trasladar el riesgo a otro: vencimientos, pérdida de oportunidades o incumplimientos también producen consecuencias.

Por eso la protección requiere delimitación. Debe distinguirse un defecto que impide actuar, una incertidumbre que justifica una suspensión provisional y una reserva que puede acompañar una decisión dentro de las facultades de quien la adopta. También deben existir plazos de respuesta adecuados al efecto y vías para resolver desacuerdos.

La urgencia forma parte de la valoración, pero no crea por sí sola una autorización ausente. Si la empresa necesita decidir esa tarde, corresponde identificar quién puede resolver el riesgo pendiente y qué alternativas existen. Puede modificar la cláusula, restringir la información que se transmitirá o postergar la operación. La necesidad comercial no vuelve irrelevante la advertencia jurídica.

Una garantía bien diseñada hace visible ese costo y lo lleva a la autoridad competente. Evita que la elección entre cerrar el negocio y atender la objeción quede resuelta silenciosamente por el reloj del programa o por el indicador de desempeño del revisor.

Una competencia que pueda ejercerse

El contrato del ejemplo puede terminar aprobado. La abogada obtiene la información faltante, la cláusula se limita y la empresa celebra el negocio. También puede terminar rechazado, o ser aceptado por la autoridad competente después de examinar una reserva que subsiste. Ninguno de esos desenlaces demuestra, por sí solo, que la revisión haya funcionado. Lo decisivo es cómo se llegó a él.

El constitucionalismo aplicado a la organización agéntica conserva aquí su sentido funcional. Distribuir tareas y nombrar revisores no basta. La persona que controla debe poder introducir una razón capaz de cambiar la decisión, suspenderla cuando corresponda y obtener una respuesta de quien tenga facultades para resolver.

Un sistema puede generar propuestas a gran velocidad. La organización decide si la discrepancia humana tendrá un lugar dentro del procedimiento o aparecerá apenas como una demora. Si pretende que esa intervención proteja a las personas afectadas, debe organizar una competencia cuyo ejercicio fundado sea posible.

La responsabilidad del revisor comienza con sus deberes. La responsabilidad de organizar la revisión incluye hacerlos ejercitables.