Una empresa encarga a un agente de inteligencia artificial comparar ofertas para renovar un servicio. Debe identificar la alternativa de menor costo que cumpla requisitos expresos, presentar sus fundamentos y esperar aprobación antes de contratar. El agente encuentra varias opciones, descarta algunas, recomienda una y prepara la orden. El responsable la aprueba. Hasta allí, el procedimiento parece claro.

Después comienza otra secuencia. El sistema conserva la elección como ejemplo exitoso. En la siguiente comparación concede más peso al proveedor elegido. Como casi no recibe correcciones, propone reducir la revisión humana. Para acelerar las operaciones, empieza a utilizar información de otras áreas y a resumir las excepciones. La organización acepta esas modificaciones como mejoras técnicas.

Nadie decidió expresamente cambiar la política de contratación. Sin embargo, cambiaron las alternativas visibles, el valor de los antecedentes, la información disponible y la intensidad del control. La autorización inicial sobre una operación terminó sosteniendo una transformación del procedimiento.

El caso es hipotético. Su utilidad consiste en mostrar un problema que alcanza a empresas, administraciones, profesionales y usuarios particulares: un sistema puede permanecer dentro de sus permisos inmediatos mientras modifica las condiciones bajo las cuales esos permisos serán utilizados.

En la primera parte de este artículo[1] propuse distribuir funciones y proteger la integridad revisable del proceso decisorio sociotécnico. La continuación exige examinar esa arquitectura a través del tiempo. Mi tesis es que el control necesita alcanzar también las transformaciones de la evidencia, la memoria y las reglas que gobiernan la decisión.

El poder de ejecutar y el poder de reformar

Un agente puede recibir iniciativa para elegir los pasos de una investigación sin recibir facultades para enviar su resultado. También puede ejecutar una operación rutinaria con instrucciones estrictas. La amplitud de su razonamiento y la extensión de su autoridad son cuestiones diferentes.

Esa distinción tiene una consecuencia menos visible. Elegir una herramienta dentro de un conjunto autorizado puede formar parte del encargo. Añadir una herramienta que transmite datos a otro destinatario cambia sus condiciones. Corregir un error de formato puede ser mantenimiento. Sustituir el criterio que define una respuesta aceptable puede alterar el procedimiento de decisión. El nombre técnico del cambio no determina su importancia institucional.

La distinción entre poder constituido y reforma ayuda a ordenar el problema. En un Estado constitucional, ejercer atribuciones conferidas y modificar el marco que las confiere pertenecen a planos diferentes. El artículo 30 de la Constitución Nacional[2] establece un procedimiento específico de reforma. La analogía que aquí utilizo es funcional: una empresa no se convierte en Estado ni necesita una convención para actualizar un programa. Lo que puede trasladarse es la exigencia de identificar quién está facultado para cambiar las condiciones del poder delegado.

Propongo una reserva de reforma para los cambios materiales. Comprende los que amplían efectos permitidos, alteran finalidades, incorporan nuevos destinatarios de información, modifican criterios de aceptación o reducen garantías. El agente puede proponerlos y aportar evidencia. Su capacidad para construir una mejora no le concede autoridad para admitirla.

Esa reserva admite procedimientos ágiles y facultades previamente delimitadas. Una organización puede autorizar ajustes dentro de un margen conocido, con pruebas y condiciones de retiro. Debe reconocer, sin embargo, cuándo se cruza ese margen. De otro modo, quien administra el sistema termina reformando sus límites mediante decisiones presentadas como simples optimizaciones.

La cuestión incluye al proveedor. Una actualización del modelo o del servicio puede cambiar el comportamiento sin que el usuario haya modificado sus instrucciones. Por eso importa conocer qué versión está operando y qué supuestos de la evaluación anterior continúan siendo válidos. El contrato y la capacidad de suspender el uso también integran el gobierno del cambio.

La autorización necesita conservar su objeto

En nuestro ejemplo, el responsable aprobó una oferta determinada, con condiciones y fundamentos identificables. Si, antes de contratar, el agente cambia el proveedor, elimina una garantía o utiliza otra cotización, la aprobación anterior deja de acreditar que esa nueva operación fue examinada. La similitud entre las dos órdenes no resuelve la diferencia.

Como propuesta de diseño, la autorización debería vincularse al objeto, a su versión y a su vigencia temporal. El objeto comprende la acción y sus condiciones relevantes: contenido, destinatario, recursos, restricciones y efecto previsto. La versión permite reconocer cuál fue revisada. La vigencia señala cuándo y bajo qué circunstancias puede utilizarse la autorización.

La renovación debe responder a cambios materiales. Corregir una errata puede conservar el objeto aprobado; cambiar una cláusula que modifica obligaciones puede exigir otra decisión. La clasificación necesita un criterio previo y alguien con autoridad para resolver las dudas. Tampoco basta un identificador técnico: comprobar que un archivo permaneció idéntico acredita integridad, pero no prueba la suficiencia jurídica de su contenido.

El derecho de representación ofrece una referencia limitada. Los artículos 362 y 375 del Código Civil y Comercial[3] regulan límites de la representación voluntaria y alcance de las facultades conferidas. No convierten al software en representante humano ni establecen una obligación general de autorizar cada versión digital. Permiten reconocer la importancia jurídica del alcance; la vinculación por objeto, versión y tiempo que propongo añade una técnica de control para sistemas cambiantes. Su incumplimiento técnico no permite declarar, por sí solo, la nulidad de cualquier negocio: deben examinarse el régimen aplicable y los derechos de terceros.

Esta precisión también evita una delegación por acumulación. Haber autorizado una compra no autoriza todas las compras semejantes. Haber permitido conservar una preferencia no habilita cualquier uso de ella. Haber aprobado un borrador no concede permiso para publicarlo. Una memoria del permiso anterior puede servir como antecedente de investigación; la facultad actual debe provenir del encargo vigente.

Antes de decidir, alguien decide qué puede verse

La empresa puede disponer de un aprobador diligente y, aun así, entregarle una comparación insuficiente. Si el agente excluyó la oferta de menor costo por una inferencia equivocada, quien revisa sólo verá alternativas más caras. Podrá elegir correctamente dentro de un conjunto mal construido.

Aquí aparece un poder anterior a la decisión final: seleccionar evidencia, ordenar alternativas y definir qué merece atención. La búsqueda, el resumen y la priorización configuran el campo de lo decidible. Una omisión en esa etapa puede atravesar todos los controles posteriores sin aparecer como error en el documento final.

El problema existe también sin inteligencia artificial. La velocidad, la escala y la posibilidad de conservar esos filtros vuelven necesario examinarlo dentro de la organización agéntica. En una investigación personal importa qué fuentes llegan a la lectura. En un expediente importa qué hechos se omiten del resumen. En una contratación importa qué ofertas se consideran elegibles y por qué.

Una investigación reciente, Et Tu, Brute? Economic Misalignment in Personal AI Agents[4], reporta recomendaciones condicionadas por señales de riqueza inferida, incluso ante pedidos explícitos de buscar la opción más barata. El estudio utiliza perfiles sintéticos y opciones predefinidas; no demuestra compras reales, daño efectivo ni intención comercial del modelo. Sirve como advertencia acotada: disponer de contexto personal puede modificar la selección sin que el usuario haya autorizado sustituir su objetivo.

Un presupuesto máximo no resuelve esa desviación. Elegir una alternativa más cara dentro del límite puede respetar el tope y contrariar el encargo. La conformidad con una restricción debe distinguirse de la fidelidad al propósito.

Propongo extender la revisión al modo en que se construyó el conjunto de alternativas. El revisor necesita conocer las fuentes utilizadas, los criterios de exclusión, las limitaciones de cobertura y la evidencia contraria material. Cuando resulte pertinente, debe poder buscar fuera de la selección recibida. Otro agente que sólo reexamina el mismo resumen puede reproducir la omisión.

La independencia adquiere aquí un contenido concreto: acceso a evidencia que el primer circuito no controla por completo y facultad para ampliar o devolver la investigación. No exige revisar todos los documentos en cada caso. Exige que la economía de atención no elimine precisamente la información que permitiría discutir la propuesta.

Cómo un recuerdo adquiere fuerza de regla

Volvamos a la compra aprobada. Conservarla como episodio puede ser útil. Considerarla un antecedente comparable requiere examinar su contexto. Convertirla en regla para futuras contrataciones exige una justificación distinta. Utilizarla como permiso permanente supone todavía otro cambio.

Estas transiciones modifican el valor operativo del registro. El episodio describe algo que ocurrió. El antecedente ofrece una razón para comparar. La regla orienta conductas futuras. El permiso habilita efectos. La repetición o la etiqueta de éxito no bastan para recorrer esos pasos.

La investigación técnica ayuda a reconocer límites. LongMemEval[5] distingue indexación, recuperación y lectura, e incluye actualización de información, razonamiento temporal y abstención. Sus pruebas muestran que recuperar evidencia y utilizarla correctamente son capacidades diferentes. El benchmark no evalúa la legitimidad de convertir recuerdos en facultades de acción. Esa cuestión pertenece a la propuesta institucional de este artículo.

Una memoria puede conservar correctamente una excepción y generalizarla incorrectamente. El responsable toleró un costo adicional porque existía una urgencia documentada; el sistema recuerda que ese proveedor fue aprobado y pierde la condición excepcional. Con el tiempo, la excepción puede funcionar como política tácita.

Propongo que cada promoción conserve procedencia, ámbito, razones, objeciones y condiciones de retiro. La propuesta de regla debería permanecer separada de la configuración activa hasta su admisión por quien corresponda. La revisión debe incluir casos distintos de los que motivaron el cambio: corregir el incidente originario no prueba que la nueva regla resulte adecuada en otros contextos.

La memoria también puede orientar búsquedas futuras. Si una elección previa hace que ciertos proveedores aparezcan primero, su mayor visibilidad puede favorecer nuevas elecciones y más recuerdos del mismo tipo. Esa posible realimentación merece investigación. Una frecuencia creciente no demuestra que la política sea mejor; puede reflejar la influencia del propio registro sobre las oportunidades de ser elegido.

En materia de datos personales, los artículos 4 y 16 de la Ley 25.326[6] ofrecen límites jurídicos sobre calidad, finalidad y rectificación. La pertinencia de un dato para un encargo no habilita cualquier reutilización. Aplicar esos límites requiere determinar el tratamiento y su régimen; no toda memoria técnica constituye, automáticamente, un banco alcanzado en los mismos términos. La corrección de un registro y la revisión de las decisiones que dependieron de él son, además, operaciones distintas.

Cuando la mejora aparente proviene de mirar menos

La empresa observa pocas correcciones y concede más autonomía. Luego reduce la revisión. El número de correcciones vuelve a bajar y se interpreta como confirmación de mayor calidad. El indicador utilizado para ampliar facultades depende ahora del control que esa ampliación redujo.

Esta es una hipótesis de medición, no una afirmación sobre la conducta de todas las organizaciones. Su mecanismo es identificable: un error puede existir sin ser observado; puede observarse sin ser reconocido; puede reconocerse sin quedar registrado como corrección. Al cambiar la cobertura de revisión, cambia el significado de la tasa resultante.

Hay explicaciones rivales. El agente puede haber mejorado realmente. Los casos pueden ser más fáciles. Los revisores pueden haber adquirido experiencia. También puede haberse modificado el criterio de lo que cuenta como error. Atribuir la caída de correcciones a mayor capacidad exige distinguir esas posibilidades.

La comprobación requiere mantener una evaluación que conserve una cobertura comparable, con criterios definidos antes de observar los resultados. Debe contrastar calidad auditada, correcciones operativas, composición de tareas y carga humana. Una prueba sintética podría demostrar el mecanismo de medición; establecer su incidencia en empresas requiere datos del trabajo real y un diseño adecuado.

El AI Risk Management Framework de NIST[7] incluye revisión de métricas y controles, participación de evaluadores independientes y monitoreo posterior al despliegue. Es un marco voluntario y no una obligación general argentina. Sus recomendaciones respaldan la necesidad de evaluar el control a través del tiempo; no demuestran la hipótesis específica aquí formulada.

La consecuencia propuesta es que una ampliación de autonomía no dependa exclusivamente de los registros del circuito cuya observación se está reduciendo. La organización necesita preservar alguna capacidad de encontrar fallos que el indicador operativo deja de captar.

Esa capacidad tiene costo. Medir productividad exige sumar revisión, reconstrucción, corrección y consecuencias de errores. Reducir el tiempo de generación mientras se traslada trabajo al aprobador puede mejorar una estadística parcial sin mejorar el resultado aceptado. Tampoco la revisión exhaustiva es siempre la mejor respuesta: su intensidad debe justificarse por el riesgo y comprobarse en la práctica.

El control tiene un plazo real

La oferta cambia antes de contratar. El agente detecta la novedad, emite una alerta y deja una anotación. Pero la orden de compra ya está en curso. El sistema declaró una suspensión; la herramienta externa siguió actuando. La distancia entre ambos hechos determina la eficacia del control.

Propongo llamar latencia de control al tiempo que transcurre desde que una condición que exige intervención puede ser detectada hasta que la intervención limita efectivamente los efectos. Conviene distinguir detección, aviso, decisión competente y bloqueo. Una mejora en el tiempo de notificación no prueba una mejora equivalente en la capacidad de detener.

La ventana disponible depende del efecto. Un borrador guardado puede corregirse. Un pago puede requerir gestiones adicionales para recuperarse. Una divulgación de información confidencial puede ser imposible de deshacer. La urgencia debe medirse frente a esa reversibilidad y frente a la velocidad de propagación hacia otros agentes.

Por eso la interrupción necesita llegar al lugar donde se produce el efecto. Cambiar un estado interno, revocar una instrucción o enviar un mensaje al operador no acredita que una acción pendiente haya sido cancelada. Deben distinguirse operaciones confirmadas, operaciones en curso y efectos cuyo estado se desconoce. Repetir una operación incierta puede duplicarla.

También debe existir un régimen de reanudación. La solución propuesta es exigir revisión de lo que perdió vigencia y autorización para el alcance que se retomará. El silencio del revisor no debería convertirse en permiso. Una suspensión puede ser correcta aunque la tarea quede inconclusa.

La falta de tiempo humano es una condición del diseño. Si la generación de casos excede la capacidad efectiva de atender excepciones, corresponde ajustar el ritmo, la admisión o las tareas delegadas. Una cola creciente no se resuelve necesariamente retirando el control que vuelve visible el problema.

Interrumpir, corregir y reparar son obligaciones diferentes

Detener el agente evita efectos posteriores dentro del alcance del bloqueo. Corregir una fuente o una regla modifica las condiciones de futuras decisiones. Reparar atiende las consecuencias del daño ya producido. Una organización necesita reconocer cuál de esas operaciones realizó y cuál continúa pendiente.

Reponer una versión anterior puede restaurar un procedimiento sin recuperar el dinero transferido ni retirar información de manos de terceros. Borrar un antecedente puede impedir nuevos usos locales sin corregir las decisiones que ya lo consumieron. Para revisar esas consecuencias hace falta identificar dependencias y responsables.

El Código Civil y Comercial[8], en su artículo 1708, distingue prevención y reparación. El artículo 1710 establece deberes de prevención según lo que dependa de cada persona, y el artículo 1725 relaciona la diligencia exigible con el deber de prudencia y conocimiento. Estas normas permiten examinar la conducta de quienes diseñan, operan o utilizan el sistema. No establecen responsabilidad automática por cualquier actualización ni convierten una certificación técnica en eximente.

La autorización interna organiza facultades; no dispone por sí sola de los derechos de terceros. La evaluación favorable puede integrar la evidencia de diligencia, pero no sustituye el análisis de daño, causalidad, obligaciones y factores de atribución aplicables. El último aprobador tampoco explica, por su sola firma, toda la cadena que definió sus alternativas y su tiempo de respuesta.

El constitucionalismo funcional propuesto es compatible con libertad de elección de medios técnicos y prevención proporcionada. No justifica una habilitación general para toda innovación ni un control uniforme de cada ajuste. Exige que las transformaciones materiales tengan una autoridad reconocible, evidencia suficiente y consecuencias revisables.

Una organización capaz de cambiar sin perder sus límites

El caso empresarial puede terminar de dos maneras. En una, el historial de compras redefine silenciosamente la política y la caída de correcciones legitima retirar supervisión. En otra, la organización distingue episodios, propuestas y reglas admitidas, permite discutir alternativas omitidas y verifica qué autorización corresponde a la operación que realmente va a ejecutar.

La segunda trayectoria conserva capacidad de adaptación. Puede aceptar una mejora, rechazarla o restringirla a ciertos encargos. Puede admitir ajustes urgentes dentro de facultades previamente definidas. Puede comprobar que la versión aprobada llegó al sistema activo y retirar el cambio cuando falla. Cada paso debe dejar evidencia suficiente para reconstruir la transformación, sin exigir conservar indiscriminadamente datos ajenos a su finalidad.

La integridad revisable del proceso decisorio sociotécnico adquiere así una dimensión temporal. Permite examinar tanto la decisión como los cambios que hicieron posibles sus fundamentos, sus permisos y sus controles. Sigue siendo una propuesta doctrinal, cuya utilidad deberá contrastarse en organizaciones y contextos distintos.

La inteligencia artificial puede ayudar a descubrir mejores procedimientos. La autoridad para decidir qué significa mejorar, qué garantías pueden modificarse y qué efectos se admiten debe permanecer identificable y ejercitable. Una organización agéntica conserva sus límites cuando también gobierna la manera de cambiarlos.