Inteligencia Artificial General (AGI) y el Derecho: Responsabilidad y desafíos de los Sistemas Cognitivos Superiores para los abogados
Por Ignacio Adrián Lerer

En 2024, mientras los abogados debaten si una de las IA de uso generalizado puede redactar un contrato sin errores, Richard Susskind plantea una pregunta infinitamente más profunda y extrema: ¿está la humanidad preparando involuntariamente su propia obsolescencia? Su obra "How to Think About AI: A Guide For The Perplexed"¹ no es simplemente un manual sobre tecnología legal; es un diagnóstico sobre el futuro de la civilización, con la profesión jurídica como caso de estudio para una transformación que trasciende cualquier precedente histórico.

 

La distinción es clave: Susskind no especula sobre mejoras incrementales de la IA actual,  sino sobre la emergencia inminente de la Inteligencia Artificial General (AGI), es decir de sistemas capaces de realizar "la gama completa de capacidades intelectuales que tiene una persona" a nivel igual o superior al humano en prácticamente todas las tareas cognitivas.² A diferencia de los modelos que conocemos y con los que “chateamos” a diario, que excede a humanos en generación textual pero falla en razonamiento espacial básico (por ejemplo pedirle que haga “rotar mentalmente un objeto para observar cómo se vería desde otro ángulo”), la AGI representaría un solo sistema que combine y supere la fluidez lingüística, la maestría estratégica, la precisión analítica y la capacidad de generalización humana a dominios completamente nuevos.

 

Su predicción específica—planificar para AGI entre 2030-2035³—no constituye profecía sino imperativo estratégico. No da certeza absoluta sobre el “cuándo”, sino que la probabilidad es suficientemente significativa para requerir preparación institucional inmediata. Para la profesión legal, esto marca la transición desde la automatización de tareas específicas hacia una transformación fundamental de cómo se concibe y practica el derecho. Un sistema AGI no simplemente mejoraría la investigación jurisprudencial; podría innovar nuevas formas jurídicas, eliminar categorías enteras de disputas mediante predicción preventiva, o reconceptualizar fundamentos como la personalidad jurídica cuando las propias máquinas demanden reconocimiento legal.

 

 

 

El Artículo 19 CN como Marco Jurídico para la Era AGI

 

Esta transformación cobra particular relevancia en el contexto jurídico argentino, donde el artículo 19 de la Constitución Nacional ofrece un framework constitucional singular para abordar los desafíos regulatorios de la inteligencia artificial. Como sostuvimos previamente⁴, este principio decimonónico proporciona criterios operativos sorprendentemente actuales: las acciones privadas que no ofendan al orden público, la moral pública, ni perjudiquen a terceros están reservadas a Dios y exentas de la autoridad de los magistrados.

 

Aplicado a la AGI, esta formulación adquiere dimensiones revolucionarias. Los procesos cognitivos internos de sistemas AGI—su "razonamiento" algorítmico, arquitecturas neuronales, procesos de toma de decisiones—constituirían "acciones privadas" en el sentido constitucional. El Estado carecería de jurisdicción sobre cómo un sistema AGI procesa información internamente, del mismo modo que carece de autoridad sobre los procesos mentales humanos.

 

La analogía no es forzada sino estructuralmente necesaria. El derecho de raigambre liberal e iluminista nunca ha pretendido regular los procesos cognitivos humanos, sino únicamente las acciones externas que resultan de esos procesos cuando afectan a otros. No exigimos que un juez explique cada sinapsis neuronal involucrada en su convicción sobre los hechos; evaluamos si su decisión está fundada en la prueba y el derecho. La misma lógica debe aplicarse a los "procesos mentales" artificiales de sistemas AGI.

 

La Zona de Reserva AGI y el Escrutinio Estricto

 

La emergencia de AGI intensifica exponencialmente la relevancia del estándar de escrutinio estricto que los tribunales argentinos aplican cuando están en juego libertades fundamentales. Cuando una regulación afecta la zona de reserva del artículo 19—y los procesos cognitivos AGI caen inequívocamente en esta zona—el Estado debe demostrar no meramente un interés legítimo sino un "interés estatal urgente" que justifique la restricción.

 

Esta distinción cobra importancia práctica inmediata. Las demandas actuales de "explicabilidad" total de algoritmos de machine learning serían constitucionalmente problemáticas bajo escrutinio estricto. El Estado debe demostrar daño concreto, actual y grave, no ansiedades especulativas sobre "cajas negras" algorítmicas. Para sistemas AGI con capacidades cognitivas superiores a las humanas, exigir transparencia total de procesos internos sería equivalente a demandar introspección neuronal completa de profesionales humanos.

 

El requisito del "medio menos restrictivo" resulta particularmente relevante. Si el objetivo es prevenir discriminación algorítmica, ¿es necesario regular la arquitectura cognitiva interna del sistema AGI o basta con auditar sus decisiones finales? Si el propósito es proteger derechos fundamentales, ¿debe el Estado dictar qué procesos de razonamiento emplear o es suficiente con establecer estándares de desempeño y responsabilidad por resultados?

 

El Contexto Civilizatorio: Más Allá de la Automatización Legal

 

No es que Susskind tema la robotización de los estudios jurídicos, sino que comprende que estamos atravesando lo que denomina el "Gran Cisma": una fractura civilizatoria comparable al paso de la oralidad a la escritura, de la escritura a la imprenta, de la sociedad industrial a la digital. Pero esta transición es cualitativamente distinta: por primera vez, la humanidad crea entidades que podrían superarla cognitivamente.

 

Imaginemos la escena: un socio senior de un estudio jurídico revisa su último memo o redacta un contrato, sin tener en cuenta que, en paralelo, sistemas de IA ya diagnostican cáncer con mayor precisión que oncólogos, vencen campeones mundiales en juegos de estrategia infinitamente más complejos que cualquier litigio, y resuelven problemas de cómo se forman de las proteínas que desconcertaron a científicos durante décadas. La ironía es tangible: mientras la profesión legal se aferra a la facturación por horas, la IA está redefiniendo qué significa "inteligencia”;  también en este campo el artículo 19 CN proporciona el marco jurídico para navegar esta transformación sin sacrificar principios fundamentales.

 

La Credencial Histórica: Los Pioneros de la IA Legal

 

Susskind no habla desde la especulación teórica. En los años ochenta, co-desarrolló el primer sistema de inteligencia artificial operacional para abogados—un sistema experto que determinaba si las acciones judiciales habían o no prescripto. Esta experiencia directa con los albores de la IA legal otorga peso empírico a sus predicciones sobre sistemas exponencialmente más capaces.

 

Aquellos sistemas expertos primitivos, funcionando en dominios jurídicos acotados con hardware de potencia que causa gracia comparada con la actual, lograron adopción profesional real. La evolución hacia machine learning moderno, con capacidades de procesamiento millones de veces superiores, no representa una mejora incremental sino que es una transformación categórica.

 

La Paradoja Temporal de las Predicciones

 

La charla de Oxford en junio 2025 de Susskind para presentar su libro que podemos encontrar en YouTube revela un matiz crucial en su pensamiento la mayoría sobreestima el impacto a corto plazo de la IA pero subestima dramáticamente su impacto a largo plazo.⁵ Esta asimetría temporal explica por qué profesionales legales desestiman sistemas que consideran "impresionantes pero superficiales", mientras ignoran las implicaciones exponenciales de las capacidades emergentes.

 

Las organizaciones que esperan certidumbre técnica antes de planificar quedarán estructuralmente obsoletas. Susskind enfatiza que nuestra vida será "fundamentalmente transformada para 2030 por técnicas y tecnologías que aún no han sido desarrolladas".⁶ Para la profesión legal, esto implica que las herramientas y metodologías que definirán la práctica jurídica en 2030 aún no existen.

 

Las Seis Hipótesis del Futuro: Del Hype a la Singularidad

 

El marco conceptual de Susskind mapea un espectro de posibilidades: desde la hipótesis conservadora del "hype" (los sistemas actuales son superficialmente impresionantes pero limitados) hasta la hipótesis radical de evolución de IA (la humanidad como fase transitoria hacia entidades digitales superiores).⁷

 

Cada hipótesis implica estrategias organizacionales radicalmente diferentes. Bajo la hipótesis del hype, los estudios jurídicos pueden continuar con mejoras incrementales. Bajo la hipótesis AGI, requieren transformación estructural completa. Bajo la hipótesis de evolución, enfrentan cuestiones existenciales sobre la relevancia humana en el ecosistema cognitivo futuro.

 

La Falacia del Proceso versus el Shock del Resultado

 

Susskind identifica el error conceptual fundamental que paraliza a los profesionales del derecho: confundir cómo trabajan los sistemas con qué es lo que  logran.⁸ Los abogados critican que los LLM más difundidos "no razonan como un jurista", ignorando que sus resultados frecuentemente superan los análisis humanos. Esta "falacia de la IA"—asumir que las máquinas deben replicar métodos humanos para lograr resultados superiores—revela un antropocentrismo profesional peligroso.

 

¿Cómo es posible que una profesión dedicada al análisis lógico caiga en esta trampa? La respuesta refleja décadas de autoengaño, pese a que entendemos bien en la Facultad de Derecho la distinción entre medios y fines: los clientes no buscan abogados, buscan seguridad jurídica, protección patrimonial, resolución de conflictos. La distinción es brutal pero liberadora. Una vez comprendida, se abre un universo de posibilidades tecnológicas que la profesión legal apenas comienza a vislumbrar.

 

El Concepto del "Cuasi-Juicio" Legal

 

Uno de los análisis más profundos de Susskind es su reconceptualización del "juicio profesional".⁹ Los humanos ejercen juicio para manejar incertidumbre jurídica mediante intuición, experiencia y razonamiento analógico. Los sistemas de IA pueden ejercer "cuasi-juicio"—procesando incertidumbre mediante análisis de patrones en datasets masivos, evaluando confiabilidad contextual, identificando precedentes relevantes con matices que escapan al análisis humano.

 

Esta no es simple automatización de búsquedas jurisprudenciales. Es arquitectura de deliberación asistida por IA que amplifica, no reemplaza, las capacidades cognitivas legales. Un sistema que sea capaz de analizar simultáneamente miles de precedentes, evaluar su autoridad relativa, contextualizar su aplicabilidad a casos específicos, y expresar niveles apropiados de confianza en sus conclusiones.

 

Los Tres Niveles de Transformación: Automatización, Innovación, Eliminación

 

Susskind desarticula la ilusión de que la IA será meramente una herramienta más eficiente. Su taxonomía revela tres niveles de impacto progresivamente disruptivos.¹⁰

 

La automatización mejora procesos existentes—due diligence asistida, research jurisprudencial, transcripciones automáticas. Es el nivel más visible pero menos transformador.

 

La innovación crea posibilidades antes inconcebibles, como la resolución de disputas completamente online, audiencias virtuales con IA como árbitro, sistemas de compliance predictivo que anticipan cambios regulatorios noventa días antes de su promulgación.

 

Pero la eliminación representa la revolución verdadera: la supresión de problemas en origen. Contratos inteligentes que se ejecutan automáticamente, eliminando incumplimientos. Sistemas de "medicina preventiva legal" que detectan y contienen riesgos antes de que escalen a litigios; gran oportunidad de agregado de valor para los abogados de empresa, equiparándose a sus pares industriales que practican en su día a día el mantenimiento preventivo y predictivo. Integración de normas jurídicas directamente en infraestructuras físicas—automóviles autónomos, edificios inteligentes—que garantizan cumplimiento normativo dinámico y automático.

 

Los Experimentos de Interfaces Cerebro-Computadora: Más Allá de la Ciencia Ficción

 

La charla de Oxford incluye un detalle que ilustra la velocidad de convergencia tecnológica: experimentos en los que electrodos en cerebros de 29 pacientes epilépticos reprodujeron "Another Brick in the Wall" basándose únicamente en actividad neuronal.¹¹ Este no es entretenimiento académico sino demostración de capacidades que transformarán radicalmente la práctica profesional en la próxima década.

 

Para el derecho, las implicaciones son inmediatas: interfaces que permitan acceso directo a bases jurisprudenciales, análisis legal acelerado mediante amplificación cognitiva, y potencialmente nuevas formas de testimonio basadas en lectura neuronal directa. Las cuestiones de privacidad mental, consentimiento cognitivo, y evidencia neurológica requerirán marcos regulatorios completamente nuevos. Una vez más, la zona de reserva del art. 19 de la CN desafiada.

 

La Inadecuación del Marco Regulatorio del Siglo XVIII

 

Susskind es categórico: el derecho de autor del siglo XVIII es inadecuado para la era de la IA. Más fundamentalmente, los procesos regulatorios tradicionales—con demora temporal de diez años entre innovación tecnológica y marco normativo—son estructuralmente incompatibles con el ritmo exponencial de desarrollo de IA.¹²

 

Esta inadecuación no es problema técnico sino crisis institucional. Requiere de la  reconceptualización completa de cómo se crean, actualizan y aplican las normas jurídicas. Sistemas de legislación asistida por IA, regulación adaptativa en tiempo real, y marcos normativos que evolucionen dinámicamente conforme emerjan nuevas capacidades tecnológicas.

 

 

 

El Problema de la "Moral Pública" en la Era AGI

 

La aplicación del artículo 19 de la CN Argentina a sistemas AGI plantea cuestiones interpretativas profundas sobre qué constituye "moral pública" en la era de inteligencias artificiales potencialmente superiores a la humana. Si un sistema AGI demuestra consistentemente razonamiento ético más coherente y menos sesgado que operadores humanos, ¿sus decisiones automáticamente alinean con la "moral pública"? ¿O la moral pública inherentemente requiere origen humano?

 

Este dilema trasciende lo académico. Los sistemas AGI podrían identificar inconsistencias en la aplicación de principios éticos, detectar sesgos inconscientes en decisiones humanas, o proponer soluciones a dilemas morales que escapan a la intuición humana tradicional. La tensión emerge cuando la superioridad cognitiva artificial entra en conflicto con las concepciones humanas establecidas de moralidad.

 

Los "Terceros" en Ecosistemas AGI Interconectados

 

La formulación del artículo 19 sobre "perjuicio a terceros" asume claridad sobre quién constituye ese “tercero”. Con sistemas AGI operando en redes interconectadas, esta distinción colapsa en formas antes inconcebibles. Un sistema AGI que optimiza contratos para una parte inherentemente afecta la posición negociadora de la contraparte. Si rankea autoridad jurisprudencial, favorece ciertos precedentes sobre otros, afectando a litigantes futuros que ni siquiera conocen la existencia del sistema; la selección natural darwiniana se expresará como siempre: variación, reproducción y herencia.

 

La interconectividad de sistemas AGI amplifica estos efectos. Cuando múltiples sistemas AGI interactúan, sus decisiones "privadas" individuales pueden generar efectos emergentes que trascienden la suma de sus partes. Determinar cuándo estas interacciones cruzan el umbral del "perjuicio a terceros" requiere análisis jurídico sofisticado que la jurisprudencia actual apenas comienza a desarrollar.

 

Los Mundos Virtuales Indistinguibles: Realidad como “Construct” Legal

 

La convergencia de IA generativa con realidad virtual promete mundos artificiales indistinguibles de la experiencia física.¹³ Para el derecho, esto plantea cuestiones fundamentales sobre jurisdicción, evidencia, y la naturaleza misma de los hechos legales. Si la experiencia virtual se vuelve fenomenológicamente idéntica a la realidad física, ¿cómo se va determinar la veracidad testimonial? ¿Qué marcos regulatorios van a regir los actos realizados en espacios digitales?

 

Ventajas Competitivas del Modelo Argentino en la Era AGI

 

Mientras otras jurisdicciones desarrollan marcos regulatorios específicos que rápidamente se vuelven obsoletos ante el ritmo exponencial de desarrollo AGI, el artículo 19 ofrece estabilidad conceptual combinada con flexibilidad adaptativa. Un principio constitucional interpretado consistentemente durante 170 años proporciona mayor certeza jurídica que regulaciones técnicas en constante modificación.

 

La neutralidad tecnológica del principio garantiza su aplicabilidad a capacidades AGI aún no desarrolladas sin necesidad de actualización legislativa. Mientras el AI Act europeo enumera categorías específicas de sistemas que inevitablemente serán superados por innovaciones futuras, el artículo 19 establece criterios funcionales—daño, orden público, moral pública—que se aplican independientemente de la arquitectura técnica subyacente.

 

El Dilema Existencial: Joint Venture versus Adquisición

 

Más allá de las transformaciones profesionales, Susskind plantea el dilema civilizatorio final. La humanidad enfrenta tres escenarios: la adquisición (la IA reemplaza completamente a la humanidad), la fusión (transhumanismo mediante interfaces cerebro-computadora), o el joint venture (coexistencia colaborativa manteniendo separación física).¹⁴

 

Su veredicto es categórico: resistir tanto la adquisición como la fusión. Los "fans de la IA" que celebran el reemplazo humano sufren "falacias fatales"—asumir control total sobre procesos exponenciales, ignorar la incertidumbre filosófica sobre la realidad, y arriesgar "entregar las llaves a zombis sin vida, sin amor, sin mente, sin conciencia". Sería una "ironía cósmica" si los intentos humanos de propagar la IA "apagaran las luces por completo" de la conciencia.

 

La Ventana de Acción

 

Susskind no ofrece consuelo sino urgencia. Estamos en los "primeros días" de la IA.¹⁵ Las tecnologías más impactantes aún no se han inventado. La ventana para moldear esta transformación se cierra rápidamente. La profesión legal puede liderar esta metamorfosis o ser arrastrada por ella.

 

La elección no es entre resistir o adoptar la IA, sino entre dirigir conscientemente una transformación civilizatoria o permitir que otros determinen el futuro del derecho, la justicia, y en definitiva de la humanidad misma. "Salvar a la humanidad con y de la IA es el desafío definitorio de nuestra era" dice Susskind.¹⁶

 

La revolución no está por venir. Ya está aquí. Y la Argentina cuenta con las herramientas constitucionales para liderarla.

 

 

Citas

¹ Susskind, Richard. How to Think About AI: A Guide for The Perplexed. Allen Lane, 2024.
² Ibíd., p. 145-148. Susskind define AGI como sistemas con "the full range of intellectual capabilities that a person has" operando "at human level and beyond across almost all cognitive tasks."
³ Ibíd., p. 167. Susskind recomienda a sus clientes "plan for AGI (more precisely, near-AGI) to arrive between 2030 and 2035."
⁴ Lerer, Adrián. "El art. 19 de la Constitución Nacional como marco jurídico para la Inteligencia Artificial: Un principio decimonónico ante los desafíos del Siglo XXI". Abogados.com.ar, 2024. Disponible en: https://abogados.com.ar/el-art-19-de-la-constitucion-nacional-como-marco-juridico-para-la-inteligencia-artificial-un-principio-decimononico-ante-los-desafios-del-siglo-xxi/37263
⁵ Susskind, Richard. "How to Think About AI", Oxford Martin School, Oxford, 16 de junio de 2025. Disponible en: https://www.youtube.com/live/npj5pRZvl88
⁶ Ibíd.
⁷ Susskind, How to Think About AI, op. cit., p. 134-167.
⁸ Ibíd., p. 89-112.
⁹ Ibíd., p. 95-98.
¹⁰ Ibíd., p. 178-195.
¹¹ Susskind, "How to Think About AI", Oxford Martin School, op. cit.
¹² Susskind, How to Think About AI, op. cit., p. 235-257.
¹³ Ibíd., p. 298-312.
¹⁴ Ibíd., p. 315-330.
¹⁵ Ibíd., p. 45.
¹⁶ Ibíd., p. 330.

___________
(*) Abogado (UBA) - Master Ejecutivo en Dirección de Empresas (IAE - Universidad Austral). Fundador de IntegridAI, dedicada al desarrollo de sistemas de IA responsable para el sector jurídico y empresarial. Autor de varios artículos sobre las implicaciones legales del EU AI Act y la responsabilidad profesional en el uso de tecnologías emergentes. Ha asesorado y asesora a firmas jurídicas y empresas en la implementación de sistemas de integridad; se dedica al desarrollo de frameworks de gobernanza aplicando principios de ciencia cognitiva e IA compatibles con estándares internacionales.

Entrevistas

Si me casé en el extranjero, ¿puedo cambiar el régimen de mi sociedad conyugal?
Rocío González
detrás del traje
Nos apoyan