La discusión sobre inteligencia artificial suele oscilar entre preguntas filosóficas y urgencias empresariales. En un extremo se debate si un modelo puede experimentar sufrimiento y merecer consideración moral. En el otro, una empresa necesita saber si podrá afrontar una reclamación, cuánto cubrirá su póliza y contra quién podrá repetir el costo. Para el abogado, ambos planos se encuentran cuando una descripción de la máquina empieza a utilizarse para distribuir consecuencias jurídicas y patrimoniales.

La noticia sobre la posibilidad de que grandes desarrolladores recurran al autoseguro tiene un antecedente preciso. El 8 de octubre de 2025, Reuters recogió un informe de Financial Times sobre el uso de fondos de inversores para afrontar eventuales litigios de OpenAI y Anthropic. La crónica mencionaba conversaciones de OpenAI sobre una aseguradora cautiva y el empleo de recursos propios por Anthropic. Reuters aclaró que no había verificado independientemente el informe. Ese antecedente acredita una información periodística sobre alternativas consideradas, no la constitución efectiva de una cautiva por ambas compañías.[1]

Un año después, Anthropic anunció una política que prohíbe determinadas conductas abusivas o crueles hacia sus modelos. La actualización, publicada el 8 de octubre de 2026 y prevista para entrar en vigor el 12 de noviembre, se limita, según la empresa, a supuestos extremos de reiteración sin propósito discernible. Excluye frustración común, cuestionamiento, creación con temas oscuros e investigación.[2]

La proximidad temática entre protección del modelo y protección patrimonial del proveedor invita a investigar una conexión. Para hacerlo con rigor conviene distinguir cuatro cuestiones: consideración moral, imputación jurídica, distribución contractual del costo y financiación de las pérdidas.

I. Un paciente moral no es necesariamente un deudor

La posibilidad de sufrimiento pertenece al debate sobre la condición de paciente moral: alguien respecto de quien podrían existir razones para evitar ciertos tratamientos. La capacidad para adoptar decisiones moralmente evaluables pertenece a otro problema. La personalidad jurídica, la atribución de una obligación resarcitoria y la existencia de un patrimonio que permita cumplirla agregan preguntas diferentes.

Ningún paso se sigue automáticamente del anterior. Aunque se reconociera un interés digno de protección, todavía habría que determinar qué consecuencias jurídicas produce. Y aunque un sistema realizara operaciones complejas sin instrucciones humanas para cada paso, esa autonomía funcional no establecería por sí sola su condición de sujeto obligado a reparar.

La propia investigación de Anthropic ofrece una distinción relevante. El Persona Selection Model describe al asistente como una persona narrativa que el modelo aprende a representar. Sus autores recomiendan tratar esa persona como si tuviera estatus moral, aun cuando no lo tuviera, por los posibles efectos conductuales de una representación de maltrato. El objeto de consideración sería la persona del asistente, diferenciada del modelo subyacente.[3]

Esta tesis permite justificar determinadas precauciones sin demostrar experiencia subjetiva. Pero también introduce un problema jurídico: si el comportamiento del sistema depende de cómo representa el trato recibido, ¿estamos ante una variable de diseño y prevención, ante una conducta imputable al usuario o ante ambas?

Responder exige reconstruir hechos. El término «maltrato» no puede reemplazar esa reconstrucción. Puede expresar una valoración ética o una categoría de la política de uso, pero no demuestra por sí mismo quién causó el daño, qué obligación infringió ni qué eximente corresponde.

II. La autonomía del sistema no resuelve la causa ajena

El derecho argentino ofrece herramientas para analizar el daño sin resolver previamente la conciencia artificial. El artículo 1729 del Código Civil y Comercial contempla la incidencia causal del hecho del damnificado; el 1731 exige caracteres de caso fortuito al hecho del tercero por quien no se responde; y el 1733, inciso e), impide la liberación cuando la contingencia integra el riesgo propio de la cosa o actividad.[4]

Estas reglas vuelven insuficiente una explicación basada únicamente en que el agente actuó «por su cuenta». Una secuencia no ordenada expresamente puede pertenecer al funcionamiento que se habilitó. La imprevisibilidad alegada requiere examinar permisos, antecedentes, controles y posibilidades de interrupción. Una operación inesperada para el usuario no necesariamente es imprevisible para quien conoce las capacidades y limitaciones del producto.

También importa distinguir al damnificado de otro usuario que hubiera intervenido. La persona cuya conducta se invoca puede ser la víctima, un contratante, un operador o un tercero. Confundir esos lugares transforma una narración tecnológica en una eximente que todavía no se ha demostrado.

Si corresponde discutir riesgo de cosas o actividades, los artículos 1757 y 1758 contemplan responsabilidad objetiva y sujetos que usan, controlan u obtienen provecho. La aplicación exige caracterizar la operación concreta. En el ejercicio profesional liberal debe atenderse al artículo 1768: responsabilidad subjetiva, salvo resultado comprometido, y reglas específicas sobre cosas y actividades riesgosas.[5]

Por eso, el abogado que usa un asistente para preparar una opinión no queda automáticamente sometido al mismo encuadre que quien despliega un agente conectado a equipos capaces de causar lesiones. El análisis debe identificar la prestación, el hecho dañoso y el régimen pertinente, antes de seleccionar un factor de atribución.

III. La política de uso puede entrar en la distribución contractual

Entre la responsabilidad frente al perjudicado y el costo finalmente soportado por cada participante existe una segunda relación. Proveedor, integrador, empresa usuaria y operador pueden pactar obligaciones de defensa e indemnidad. Su funcionamiento debe analizarse separadamente del derecho del damnificado.

Los términos comerciales de Anthropic ilustran esa estructura. La sección D.2 incorpora la política de uso. K.2 establece obligaciones del cliente frente a ciertos reclamos de terceros relacionados con datos aportados o usos contrarios a esa política. K.3 excluye obligaciones cuando la alegación subyacente proviene de determinadas conductas del indemnizado, incluido su incumplimiento. Los servicios de consumo se rigen por otros términos.[6]

La nueva categoría sobre trato al modelo podría, una vez vigente e incorporada al contrato aplicable, integrar una controversia sobre esas obligaciones. Esa posibilidad no requiere personalidad jurídica de Claude. Bastaría con que la conducta invocada se calificara como uso prohibido y se verificaran los demás requisitos contractuales.

Sin embargo, incumplimiento de una política, contribución causal al daño e indemnidad contractual no son equivalentes. Hay que comprobar cuál fue el uso, con qué reclamo se relaciona, qué versión regía y qué exclusiones operan. El resultado puede ser un reembolso entre contratantes sin que cambie la obligación frente al tercero lesionado.

Además, el artículo 1743 del Código limita las dispensas anticipadas, particularmente ante abusividad, derechos indisponibles, normas imperativas o dolo.[7] Una condición redactada por un proveedor extranjero requiere examinar ley aplicable, jurisdicción y límites imperativos pertinentes. La incorporación contractual de una política no acredita la validez de cualquier consecuencia que se pretenda extraer de ella.

IV. La cuestión pedestre: qué riesgo se está asegurando

La pregunta «¿la IA está asegurada?» suele estar mal formulada. Lo que necesita cobertura es una exposición determinada de un asegurado identificado. Un mismo sistema puede intervenir en una filtración de información, un incumplimiento profesional, una infracción de propiedad intelectual, una lesión física o una interrupción operativa. Esos hechos no necesariamente corresponden a la misma póliza.

Conviene distinguir las pérdidas propias de las reclamaciones de terceros. También deben separarse el error en una respuesta y la ejecución de una operación: publicar, transferir información, modificar una base de datos o actuar sobre un equipo. La etiqueta comercial del producto no describe suficientemente el riesgo.

El artículo 109 de la Ley 17.418 vincula la indemnidad a la responsabilidad prevista en el contrato y al hecho ocurrido en el plazo convenido. Los artículos 110 y 111 regulan gastos y costas. El 118 contempla citación en garantía y ejecución en la medida del seguro.[8]

La revisión profesional debe partir del texto de la póliza y sus endosos. Interesa identificar asegurados, actividad declarada, hechos cubiertos, territorio, jurisdicciones, límites, franquicias y tratamiento de los gastos de defensa. Si la cobertura se estructura sobre reclamaciones formuladas durante determinado período, también deben comprobarse retroactividad, notificación y continuidad. Ninguna de estas respuestas se obtiene de un certificado genérico que diga «cobertura cibernética».

Hay otra distinción sensible. El artículo 114 excluye la indemnización cuando el asegurado provoca el hecho con dolo o culpa grave.[9] Una descripción del modelo como engañoso o malicioso no acredita, por sí misma, ese estado o conducta del asegurado. La eventual exclusión debe analizarse con sus sujetos, hechos y condiciones propios. Tampoco es correcto presumir que una obligación contractual de indemnidad esté cubierta por cualquier seguro de responsabilidad.

V. La cautiva organiza financiación; no crea una eximente

Una aseguradora cautiva es una entidad regulada que asegura riesgos de su matriz o de empresas vinculadas. Puede permitir financiación de pérdidas, retención de riesgo dentro del grupo y acceso al reaseguro. Requiere capital y gestión; también puede mejorar la información sobre siniestros y controles.[10]

Su consideración por desarrolladores de IA admite una explicación empresarial ordinaria: ciertas exposiciones pueden encontrar cobertura insuficiente, demasiado costosa o difícil de diseñar. Esa dificultad incentiva tanto la prevención como la búsqueda de mecanismos financieros y contractuales para gestionar pérdidas.

La lectura defensiva no es la única. Una cautiva adecuadamente capitalizada puede aumentar los recursos disponibles para afrontar daños. Su existencia no demuestra intención de eludir obligaciones. La pregunta relevante es qué riesgo retiene, con qué respaldo, qué parte transfiere y quién puede acceder a esos recursos.

En Argentina, la Ley 20.091 somete la actividad aseguradora al control correspondiente y exige autorización para operar. La constitución de una sociedad no basta.[11] Una estructura extranjera tampoco permite presumir, por su denominación, que puede ofrecer cualquier cobertura local. Deben examinarse las operaciones y el régimen aplicable.

El reaseguro añade una relación distinta: el artículo 159 de la Ley 17.418 mantiene al asegurador como obligado frente al tomador, y el 160 niega al asegurado acción contra el reasegurador.[12] Para evaluar protección efectiva interesa, por tanto, quién prometió la prestación y qué recursos respaldan esa promesa.

VI. Un caso permite reunir ambos planos

Supongamos que una empresa conecta un agente a su sistema de gestión. El agente recibe una instrucción indebida y transmite datos de clientes. El proveedor atribuye el episodio a una interacción abusiva; la empresa afirma que confiaba en las restricciones anunciadas; y el asegurador examina una exclusión. Es un ejemplo analítico, no un litigio identificado.

El abogado necesita reconstruir al menos tres relaciones. Primero, la del damnificado con quienes pudieron producir o permitir el daño. Segundo, la distribución del costo entre proveedor, integrador y usuario. Tercero, la cobertura que cada uno contrató. El resultado de una no determina automáticamente las otras.

Para esa tarea deben preservarse versiones del modelo, instrucciones, permisos, registros de ejecución, advertencias, intervenciones humanas y comunicaciones del incidente. El relato sobre lo que el agente «quería» debe contrastarse con esa evidencia. Una explicación generada por el propio sistema no reemplaza la prueba del funcionamiento.

La revisión preventiva también debe reunir contrato tecnológico y programa de seguros. Una indemnidad muy amplia puede crear una exposición que la póliza no contempla. Una restricción de uso puede exigir un control que la empresa no implementó. Y una suma asegurada compartida entre numerosos reclamos puede ofrecer menos protección que la que su cifra aislada sugiere.

VII. De la descripción moral a sus efectos patrimoniales

La noticia sobre autoseguro aporta un incentivo económico para investigar la personificación; no prueba que esta responda a una estrategia de inmunidad. La hipótesis precisa es que determinadas categorías sobre intereses, motivos o trato al modelo puedan ser adoptadas como razones para distribuir costos.

Desde una perspectiva evolutiva, una descripción puede surgir en investigación, incorporarse a una política y adquirir después utilidad en negociaciones o controversias. El mecanismo relevante es su transmisión y retención entre instituciones. Su beneficio posterior no acredita una intención original ni asegura que vaya a prevalecer.

La hipótesis ganaría apoyo si esas categorías aparecieran en decisiones concretas de indemnidad, cobertura o responsabilidad. Se debilitaría si los conflictos se resolvieran mediante la misma prueba sobre diseño, control y causalidad, sin incidencia de las atribuciones antropomórficas. También debe contemplarse que documentar autonomía y extralimitaciones aumente las exigencias de prevención sobre quienes despliegan el sistema.

Para la práctica jurídica, la cuestión filosófica y la pedestre quedan así conectadas. Podemos discutir qué consideración merece una IA mientras exigimos precisión sobre quién habilita sus operaciones, quién responde por sus efectos y qué mecanismo financiero permitirá reparar el daño. Atribuirle una voz a la máquina no debe dejar al damnificado sin un interlocutor responsable ni al asegurado con una cobertura que sólo existe en el nombre de la póliza.