El 22 de mayo de 2026, el Ministerio de Capital Humano presentó el "Gemelo Digital Social": una plataforma de inteligencia artificial que construirá una réplica virtual de la población argentina con capacidad descriptiva, explicativa, predictiva y prescriptiva para el diseño de políticas sociales. El anuncio está en fase conceptual; no hay arquitectura definida ni metodología publicada. Eso no lo hace inocuo jurídicamente. Lo hace más urgente de analizar, porque los marcos normativos que no se discuten antes de la implementación tienden a consolidarse por inercia una vez que el sistema está operativo.

Este artículo sostiene tres proposiciones. Primera: el proyecto opera sobre un vacío normativo que no es neutral sino que asigna riesgos concretos a personas concretas sin mecanismo de reparación visible. Segunda: la ausencia de regulación no justifica inacción del operador jurídico; por el contrario, ignorar estas cuestiones en el asesoramiento a clientes expuestos constituye, en mi criterio, una forma de mala praxis ante el estado actual del arte. Tercera: el camino correcto no es bloquear la iniciativa sino exigir el diseño jurídico que la haga legítima, y ese diseño existe y es técnicamente viable.

I. El vacío normativo y sus consecuencias jurídicas concretas

Argentina no tiene una ley de inteligencia artificial. La Ley 25.326 de Protección de Datos Personales data del año 2000 y no contempla el tratamiento masivo de datos para entrenamiento de modelos predictivos con efectos sobre derechos individuales. El Reglamento General de Protección de Datos europeo (GDPR, 2018) y el AI Act (Reglamento UE 2024/1689) establecen para este tipo de sistemas requisitos de transparencia, evaluación de impacto previa, supervisión humana obligatoria y derecho a explicación de decisiones automatizadas. Ninguno de esos requisitos tiene equivalente vigente en el derecho argentino.

Este vacío no es administrativamente neutral. Tiene consecuencias jurídicas directas en tres planos.

El primero es la base legal del tratamiento de datos. El art. 5 de la Ley 25.326 exige consentimiento del titular o habilitación legal expresa para el tratamiento de datos personales. La integración masiva de registros de ANSES, AFIP, educación, salud y programas sociales para entrenar un modelo predictivo requiere una base legal que hoy no existe con la especificidad necesaria. La invocación genérica del "interés público" como excepción al consentimiento (art. 5, inc. 2, ap. b) no satisface el principio de finalidad determinada que la misma ley impone: el tratamiento debe limitarse a lo necesario para la finalidad declarada, y "diseñar políticas sociales" es una finalidad tan amplia que prácticamente la vacía de contenido restrictivo.

El segundo plano es la responsabilidad por decisiones automatizadas con efectos jurídicos. El Gemelo Digital Social no es una herramienta de análisis interno; es, según sus propios promotores, un sistema prescriptivo que optimizará decisiones de asignación de recursos y focalización de intervenciones. Cuando esas decisiones producen resultados adversos para personas concretas (exclusión de un programa, denegación de un beneficio, mayor exposición a auditorías o controles), surge la pregunta de quién responde.

El Código Civil y Comercial ofrece dos vías de encuadramiento, ninguna completamente satisfactoria. La primera es la responsabilidad por actividades riesgosas o peligrosas (art. 1757 CCyCN). La explotación de un sistema de IA predictivo con efectos sobre derechos de personas encuadra en principio como "actividad riesgosa" en los términos de la norma: la responsabilidad es objetiva, recae sobre el dueño o guardián de la cosa o actividad, y solo se exime por caso fortuito, hecho del damnificado o de un tercero por quien no se deba responder. La segunda vía es la responsabilidad del Estado por actividad lícita (art. 1764 y concordantes, remitiendo a la Ley 26.944 de Responsabilidad del Estado). Esta vía exige acreditar daño cierto, nexo causal adecuado y ausencia de deber jurídico de soportar el daño. Ambas vías presentan el mismo problema estructural: la opacidad del modelo hace prácticamente imposible acreditar el nexo causal entre el output del algoritmo y la decisión administrativa adversa.

Como señalé en mi artículo sobre agentes de IA y responsabilidad civil en esta misma plataforma (referencias, al final del artículo), la estructura del daño importa más que la identidad del causante cuando el causante es un sistema automatizado. Un modelo que produce un score de riesgo que orienta una denegación de beneficio no "decide" en sentido jurídico clásico; produce una recomendación que el funcionario convierte en acto administrativo. Esa cadena de intermediación diluye la imputabilidad y, con ella, la posibilidad de reparación efectiva.

El tercer plano es la impugnación de actos administrativos basados en modelos opacos. El art. 7, inc. b, de la Ley 19.549 de Procedimientos Administrativos exige que el acto administrativo sea motivado: debe expresar los hechos y el derecho que le sirven de fundamento. Un acto que se limita a reproducir el output de un modelo sin explicitar la lógica del modelo no satisface el requisito de motivación. La jurisprudencia contencioso-administrativa argentina ha desarrollado el principio de motivación suficiente como garantía del administrado (CSJN, "Reyes Aguilera", Fallos 330:3853, entre otros), y aunque no existe precedente directo sobre decisiones algorítmicas, la extensión del principio no requiere mayor esfuerzo analógico. Lo que sí requiere es que el operador jurídico plantee el argumento antes de que el sistema esté consolidado y la jurisprudencia lo dé por implícitamente aceptado por inercia.

II. Los límites del poder público y el problema de la tecnocratización

Más allá del encuadramiento normativo, el Gemelo Digital Social plantea una cuestión de límites al poder público que el derecho administrativo argentino aún no ha elaborado con suficiente precisión en el contexto de la IA.

El principio de separación de poderes implica que las decisiones de política pública con efectos distributivos significativos requieren respaldo democrático: deben poder ser atribuidas a un órgano con legitimidad de origen y sometidas a control parlamentario y judicial. Un sistema que "prescribe" la asignación óptima de recursos sociales mediante algoritmos desplaza parte de esa decisión hacia un modelo técnico que no tiene legitimidad de origen, no rinde cuentas ante ningún cuerpo deliberativo y no puede ser interrogado en sede judicial con las herramientas del derecho administrativo clásico.

La Ley de Ética Pública (Ley 25.188) y el régimen de responsabilidad de los funcionarios públicos (Ley 26.944) asumen que las decisiones son tomadas por personas con nombre y cargo identificables. Un sistema donde el funcionario actúa como ejecutor de recomendaciones algorítmicas sin capacidad real de revisión independiente vacía de contenido esa responsabilidad. El funcionario que aprueba masivamente las recomendaciones del modelo sin análisis crítico propio incurre en una forma de delegación indebida de competencias que el derecho administrativo prohíbe: la competencia es irrenunciable e indelegable según el art. 3 de la Ley 19.549, y delegar la sustancia de la decisión a un algoritmo es funcionalmente equivalente a delegarla a un tercero no habilitado.

He desarrollado la dimensión institucional de este problema en mi análisis sobre reformas laborales y el Índice de Irreformabilidad publicado en abogados.com.ar: los sistemas que concentran decisiones en mecanismos de difícil impugnación tienden a generar lock-in institucional, es decir, equilibrios que se perpetúan no porque sean eficientes sino porque el costo de revertirlos supera la capacidad de acción de los afectados. Un Gemelo Digital que se vuelva el estándar de evaluación de políticas sin marco de revisión genera exactamente ese tipo de lock-in.

III. Por qué ignorar esto es mala praxis

He argumentado en trabajos anteriores que la velocidad de desarrollo de sistemas de IA supera sistemáticamente la velocidad de producción normativa, y que esa brecha no puede resolverse esperando que el legislador actúe. La consecuencia práctica para el operador jurídico es que el asesoramiento que no anticipa estos riesgos no es asesoramiento completo.

Los clientes expuestos al Gemelo Digital Social son múltiples y heterogéneos: organizaciones de la sociedad civil que gestionan programas sociales cuyos criterios de elegibilidad podrían ser redefinidos por el modelo; empresas que participan en licitaciones de programas sociales y cuyos contratos podrían verse alterados por cambios en la focalización algorítmica; sindicatos y asociaciones profesionales cuyos afiliados son potenciales sujetos de scoring; y cualquier persona física que sea beneficiaria o potencial beneficiaria de programas sociales administrados con asistencia del sistema.

Para todos ellos, el asesoramiento jurídico diligente en este momento requiere, como mínimo, monitorear el avance del proyecto e identificar la fase en que se activarán los tratamientos de datos relevantes para cada cliente; evaluar si los datos de cada cliente o sus representados podrían ser incorporados al modelo sin consentimiento explícito y qué base legal invocará el Estado para ello; anticipar los argumentos de impugnación disponibles ante decisiones administrativas que reproduzcan outputs del modelo sin motivación suficiente; y considerar si corresponde presentaciones preventivas ante la Autoridad Nacional de Protección de Datos Personales (AAIP) solicitando información sobre el proyecto en los términos del art. 14 de la Ley 25.326.

El análisis sobre normas que producen efectos colaterales de control conductual sin multa explícita, que publiqué en esta plataforma, es directamente relevante aquí: un sistema predictivo que asigna scores de riesgo modifica el comportamiento de los actores alcanzados sin necesidad de sanción formal, porque la amenaza de quedar fuera de la distribución favorable de recursos tiene efectos disuasorios propios.

IV. Qué diseño jurídico haría legítima la iniciativa

La posición de este artículo no es que el Gemelo Digital Social deba ser bloqueado. Es que las poblaciones sintéticas y la simulación computacional de comportamiento institucional son herramientas valiosas para el diseño de políticas: he argumentado eso extensamente en trabajos académicos sobre simulación institucional con agentes sintéticos. Lo que se requiere es que el sistema opere con el marco jurídico que legitima ese uso.

Ese marco tiene componentes concretos. El primero es una base legal específica: una norma de rango legal, no un decreto ni una resolución ministerial, que habilite el tratamiento de datos para esta finalidad específica, defina las categorías de datos incluidos y excluidos, establezca el período de conservación y determine la autoridad de control.

El segundo es una evaluación de impacto previa. Antes de la fase operativa, el sistema debe someterse a una evaluación de impacto en derechos fundamentales realizada por un organismo independiente del Ministerio ejecutor, con publicación de resultados. El modelo de Data Protection Impact Assessment del GDPR es el estándar internacional mínimo razonable.

El tercero es la garantía de supervisión humana sobre decisiones individuales. Ninguna decisión administrativa con efectos jurídicos adversos sobre una persona concreta puede basarse exclusivamente en el output del modelo sin revisión humana documentada y motivada. Esto no es una exigencia burocrática: es la condición de validez del acto administrativo bajo el art. 7 de la Ley 19.549.

El cuarto es la auditoría técnica periódica con publicación de resultados. El modelo debe ser sometido a evaluación externa de sesgos, precisión y deriva predictiva con periodicidad razonable, y los resultados deben ser públicos. La experiencia del Allegheny Family Screening Tool en Pennsylvania, donde un sistema de scoring de riesgo en protección de la niñez operó durante años amplificando sesgos sobre grupos vulnerables antes de ser revisado bajo presión del Departamento de Justicia, ilustra el costo de omitir este requisito.

El quinto es el derecho de acceso y explicación. Toda persona que sea objeto de una decisión orientada por el modelo debe tener derecho a conocer que el modelo fue utilizado, qué variables tomó en cuenta y con qué resultado, y a impugnar esa decisión ante la autoridad competente con acceso a esa información.

Ninguno de estos requisitos es novedoso ni exótico. Todos tienen precedente en el derecho comparado y son técnicamente implementables. Lo que requieren es voluntad política de incorporarlos antes de que el sistema esté operativo, no después.