Nadie lee los términos de servicio. Un estudio de Obar y Oeldorf-Hirsch (2020) encontró que el 97% de los usuarios los acepta sin leer. Los que intentan leer tardan en promedio 76 segundos en documentos que requieren 30 minutos de lectura atenta.

Pero el problema no es la pereza. El problema es más profundo: cuando hacemos clic en “Acepto”, la plataforma y nosotros estamos jugando juegos diferentes. No me refiero a juegos con reglas distintas o información asimétrica. Me refiero a que operamos con arquitecturas cognitivas incompatibles.

Acabo de publicar un artículo académico en SSRN que desarrolla esta idea: “Asymmetric Intentionality in Legal Games”. La tesis central es que las corporaciones y los humanos no solo tienen intereses diferentes; tienen formas radicalmente distintas de procesar la realidad. Y esa diferencia nos condena a perder.

Un filósofo, un psicólogo y un economista entran a un bar

La idea combina tres tradiciones que rara vez conversan.

Daniel Dennett, el filósofo evolucionista, distinguió niveles de “intencionalidad”: la capacidad de tener creencias sobre creencias. Un termostato responde a la temperatura pero no “cree” nada. Un perro quiere comida pero no modela lo que su dueño cree que el perro quiere. Un humano adulto puede razonar: “ella cree que yo creo que ella me engaña”. Cada nivel adicional de recursión define un nivel de intencionalidad.

Steven Pinker, el psicólogo cognitivo, explicó recientemente por qué el “conocimiento común” importa tanto para la coordinación social. No alcanza con que todos sepan algo; todos tienen que saber que todos lo saben. El ejemplo clásico es “El traje nuevo del emperador”: todos veían que el emperador estaba desnudo, pero nadie actuaba porque nadie sabía que los demás también lo veían. Solo cuando el niño habló, el conocimiento privado se convirtió en conocimiento común y la coordinación se volvió posible.

La teoría de juegos, finalmente, modela interacciones estratégicas asumiendo que los jugadores son racionales y modelan las decisiones de sus oponentes. John Nash demostró que existen equilibrios estables; pero su prueba asume que todos los jugadores tienen la misma arquitectura cognitiva.

¿Qué pasa cuando un jugador opera en Nivel 3 de intencionalidad (modela las creencias del otro sobre sus propias creencias) y el otro opera en Nivel 1 (optimiza una función objetivo sin modelar a nadie)?

El juego que juega el usuario vs. el juego que juega la plataforma

Cuando un usuario acepta términos de servicio, opera más o menos así: “Esta empresa quiere que confíe en ella. Saben que espero trato justo. Tienen reputación que cuidar. Si me tratan mal, voy a dejar de usar el servicio y hablar mal de ellos. Por lo tanto, tienen incentivos para tratarme razonablemente bien.”

Este razonamiento es sofisticado. Involucra modelar las creencias de la empresa sobre las propias creencias, anticipar respuestas a la propia potencial respuesta, y confiar en mecanismos sociales como la reputación y la reciprocidad. Es razonamiento de Nivel 3.

La plataforma, en cambio, opera así:

if (valor_datos_usuario > riesgo_legal) { extraer(); }

Esto es Nivel 1. La plataforma tiene objetivos (maximizar ingresos) y restricciones (evitar demandas), pero no tiene “creencias” sobre las creencias del usuario. No modela la decepción, la sensación de traición, la indignación moral. Solo observa métricas: tasa de abandono, tiempo de uso, clics. Si la extracción de datos no se traduce en abandono medible, continúa.

Nuestro elaborado modelo de las “intenciones” de la plataforma no corresponde a nada en su procedimiento de decisión real.

La inmunidad social

Pero hay algo peor. Los mecanismos sociales en los que confiamos para disciplinar comportamiento, la vergüenza, la reputación, la reciprocidad, requieren conocimiento común. Y el conocimiento común requiere intencionalidad de Nivel 3 o superior.

Funciona así: la vergüenza opera porque A sabe que B sabe que A sabe que hizo algo mal, y A sabe que B espera que A se sienta mal por esa cadena de conocimiento compartido. Pero una entidad de Nivel 1 no puede sentir vergüenza porque no puede modelar el modelo que otros tienen de ella.

Lo mismo pasa con la reputación. Funciona porque cada agente modela cómo sus acciones actuales afectan el modelo futuro que otros tienen de él. Pero una corporación de Nivel 1 solo responde a efectos medibles de la reputación (caída de ventas, demandas), no a la reputación en sí.

Y con la reciprocidad: funciona porque rastreo expectativas mutuas a lo largo del tiempo. Pero una entidad de Nivel 1 no tiene memoria relacional; cada transacción es independiente.

Llamo a esto “inmunidad social”: las entidades de Nivel 1 no solo evitan el costo cognitivo de razonar en niveles altos; también escapan de todo el aparato de enforcement social que disciplina a los jugadores de Nivel 3. Nosotros nos autolimitamos por vergüenza anticipada, preocupación reputacional, y expectativas de reciprocidad. Ellas no.

Tres casos, tres pérdidas

En el paper desarrollo tres casos donde la asimetría de intencionalidad genera pérdidas cuantificables.

Términos de servicio tecnológicos. Modelo de Nivel 1 (plataforma) contra Nivel 3 (usuario). El usuario espera reciprocidad que nunca llega. La plataforma extrae datos hasta el límite de lo que la tasa de abandono tolera. Gap estimado: entre 15% y 48% de pérdida de bienestar para el usuario.

Decretos de necesidad y urgencia en Argentina. Modelo de Nivel 0.5 (ejecutivo como optimizador de restricciones constitucionales) contra Nivel 2 (legisladores que esperan que el ejecutivo “crea en” los límites constitucionales). El ejecutivo emitió más de 800 decretos entre 1989 y 2023, convirtiendo la excepción en regla. Gap estimado: entre 40% y 62% de erosión del poder legislativo.

Deuda soberana argentina. Modelo de Nivel 0 (fondos buitre como algoritmos de maximización) contra Nivel 3 (gobierno que ofrece 35 centavos por dólar esperando que el gesto de buena fe generara reciprocidad). Los fondos no procesan “buena fe”; procesan valor esperado de litigio. Resultado: Argentina terminó pagando 75 centavos. Gap: 40 puntos porcentuales, o 53% del excedente de negociación.

El problema global

Esto no es solo argentino. Las leyes de responsabilidad penal corporativa que implementan la Convención Antisoborno de la OCDE exhiben la misma paradoja estructural. Cuarenta y un países adoptaron el mismo template: exigir “mens rea” corporativo (un concepto de Nivel 3) para entidades que operan en Nivel 1.

El resultado predecible: compliance theater. Las corporaciones generan manuales de ética, capacitaciones, líneas de denuncia. Todo el aparato externo de la intencionalidad de Nivel 3. Pero el procedimiento de decisión subyacente sigue siendo: optimizar beneficio sujeto a restricciones legales.

La Ley 27.401 argentina de responsabilidad penal de las empresas (2017) requiere que se pruebe “tolerancia de los órganos” de la empresa para los delitos. Pero “tolerancia” es un concepto moral, presupone evaluación normativa, capacidad de juicio sobre lo correcto e incorrecto. Una estructura de Nivel 1 no “tolera” nada; simplemente optimiza.

¿Y entonces?

Si el diagnóstico es correcto, las soluciones usuales no van a funcionar. Más regulación con lenguaje moral (”buena fe”, “diligencia debida”, “denuncia espontánea”) simplemente genera más compliance cosmético. Las empresas optimizan la apariencia de intencionalidad de Nivel 3 mientras operan en Nivel 1.

Algunas ideas que desarrollo en el paper:

Responsabilidad basada en resultados, no en procesos. No preguntar si la empresa “toleró” el daño (imposible de probar para entidades sin mens rea genuina). Preguntar si el daño era prevenible mediante una optimización alternativa factible. Esto es coherente con el principio constitucional argentino (artículo 19 CN) de que lo que importa es el perjuicio a terceros, no el proceso mental interno.

Mecanismos que fuerzan conocimiento común. El problema del “traje del emperador” es que los usuarios de plataformas están atomizados; cada uno acepta términos individualmente, sin saber que otros comparten su malestar. Diseñar mecanismos que permitan coordinación: bases de datos públicas de quejas, períodos de enfriamiento colectivo, agregadores de rechazo.

Interfaces de Nivel 1. Si la empresa opera en Nivel 1, obligarla a comunicarse en Nivel 1. Eliminar el lenguaje que explota la cognición de Nivel 3 (”valoramos la confianza de nuestros usuarios”, “nuestra comunidad”) y requerir disclosure plano de la función objetivo real: “Extraemos datos para maximizar ingresos publicitarios. El límite es lo que la ley permita.”

Quizás incómodo. Pero al menos honesto.

El paper completo, “Asymmetric Intentionality in Legal Games: When Players Operate at Different Intentional Levels”, está disponible en SSRN: https://papers.ssrn.com/sol3/papers.cfm?abstract_id=5951395

Desarrolla la formalización matemática, los argumentos detallados, y las conexiones con teoría del fenotipo extendido y gobernanza de IA. Pero la intuición central es simple: cuando alguien juega contra una entidad que no puede modelar su mente, todos los trucos sociales que usamos para cooperar dejan de funcionar.

Y en el siglo XXI, cada vez más interacciones importantes son exactamente así.