El valor divino de (no) ser humano: Perspectivas sobre el uso de la Inteligencia Artificial en las negociaciones (Parte II)
Por Ignacio C. Furfaro (*)

La inteligencia artificial es uno de los desarrollos tecnológicos con el mayor potencial de transformar la prestación de servicios legales, y revolucionar el modo en el que éstos se conciben.  Como fue analizado en la primera entrega de este artículo, muchos son los beneficios que pueden derivarse de la aplicación de la inteligencia artificial a la práctica de las negociaciones.  Entre las funciones más relevantes se destacan la revisión de documentos, la redacción de instrumentos legales, el análisis de datos, la predicción de movimientos de la contraparte, y la generación de bases objetivas para las ofertas.  Sin embargo, es importante tener en cuenta que la inteligencia artificial también ha revelado limitaciones estructurales y ha planteado múltiples preocupaciones sobre posibles peligros y perjuicios. 

 

En consecuencia, en esta entrega profundizaremos sobre los aspectos negativos vinculados con la aplicación de estas tecnologías en las negociaciones, así como también llevaremos a cabo un análisis acerca de las proyecciones y expectativas para el futuro.

 

Limitaciones y perjuicios de una negociación 'Artificialmente Inteligente':

 

Aunque la inteligencia artificial puede aportar varios beneficios en la negociación, también es cierto que existen múltiples inconvenientes asociados a ella. Además de los posibles perjuicios para la práctica, existen también riesgos inherentes y limitaciones estructurales que deben de tenerse en cuenta[1]. Los más relevantes son los peligros de las decisiones artificiales que no guardan relación con la realidad humana; limitaciones en las negociaciones abstractas; dudas sobre la responsabilidad civil; fallas estructurales relacionadas con la negociación integrativa; y desafíos éticos.

 

Las decisiones artificiales que no guardan relación con la realidad humana son uno de los riesgos más relevantes. En lugar de un proceso de negociación mejorado por la inteligencia artificial, las partes podrían verse expuestas a un resultado "artificialmente inteligente". Las tecnologías analizadas, aunque extremadamente avanzadas y con capacidad de autoaprendizaje, están limitadas en su capacidad para comprender plenamente las complejidades de una práctica predominantemente impulsada por seres humanos[2]. Este campo no encaja perfectamente en el paradigma en el que la inteligencia artificial ha prosperado, ya que requiere "capacidad de resolución de problemas, intuición, creatividad, persuasión..., habilidad de comunicación..., dominio experto..., adaptabilidad a situaciones... e interacciones en persona"[3]. La inteligencia artificial puede ser un negociador limitado simplemente porque existen demasiados elementos humanos complejos que no pueden ser capturados plenamente por la tecnología, por muy inteligente que sea[4].

 

Otro inconveniente del uso de la inteligencia artificial en la negociación es principalmente práctico: plantea serios desafíos al régimen de responsabilidad civil generalmente aceptado[5]. Cuando los negociadores humanos no prestan servicios profesionales adecuados (por ejemplo, excediendo su autoridad o negociando un acuerdo que compromete a su cliente), pueden estar sujetos a sanciones éticas y acciones por negligencia profesional[6]. Sin embargo, cuando los sistemas de negociación basados en inteligencia artificial llevan a cabo el proceso en completa autonomía, surgen serios interrogantes sobre quién sería responsable de indemnizar al cliente perjudicado[7].

 

Algunos expertos podrían argumentar que este no es un problema, ya que se aplicarían las reglas genéricas de responsabilidad por productos defectuosos. Sin embargo, el caso no es tan simple como parece. Lo que hace que esta situación sea sustancialmente más compleja no sólo radica en la cantidad de partes involucradas (es decir, ingenieros que diseñan originalmente los productos; técnicos que actualizan periódicamente el software; abogados que insertan la entrada relevante, etc.), sino también en la naturaleza inherentemente fluida de estas tecnologías: los sistemas están específicamente diseñados para evolucionar por sí mismos a medida que procesan más datos[8]. Como resultado, los clientes podrían verse expuestos a situaciones de negligencia profesional en las que la cuestión de la responsabilidad queda en gran medida sin respuesta.

 

Además, también existen preocupaciones sobre las fallas estructurales de la inteligencia artificial en relación con la negociación integrativa. El objetivo de la negociación integrativa es "agrandar la torta" antes de dividirla, crear valor, y acomodar la mayor cantidad de intereses posibles, permitiendo de esta manera soluciones mejores y más creativas[9]. Por el contrario, el enfoque tradicional de negociación (es decir, la negociación distributiva) intenta maximizar la utilidad abordando los problemas como juegos de suma cero[10]. Los sistemas de negociación actuales basados en inteligencia artificial se han construido sobre modelos de teoría de juegos, que proporcionan un enfoque de negociación distributiva que busca encontrar el acuerdo más rápido y a menor costo[11]. Como resultado, la inteligencia artificial busca la forma de "dividir la torta" que maximiza la utilidad de la manera más eficiente, basándose en datos existentes. Sin embargo, por definición, esto excluye la posibilidad de innovación y/o creatividad para encontrar nuevas alternativas, resolver el problema y, al mismo tiempo, crear valor agregado para las partes involucradas. Como consecuencia, los enfoques de negociación integrativa no se tienen en cuenta en el proceso, lo que limita el rango de soluciones disponibles y dificulta la creación de valor.

 

Por último, surge el no menos importante punto de la ética. El comportamiento ético es fundamental en la práctica de la negociación. Además de las reglas profesionales que regulan el campo, que los negociadores se comporten de manera apropiada es un requisito previo para la creación de confianza mutua.  Éste, a su vez, es un elemento esencial para lograr acuerdos efectivos y mutuamente beneficiosos. Sin embargo, la inteligencia artificial ha demostrado ser problemática cuando se trata del comportamiento ético. Estas tecnologías "pueden aprender a seleccionar y utilizar el engaño como estrategia, incluso cuando los humanos no diseñaron los sistemas para hacerlo"[12]. Un ejemplo de esto ocurrió hace algunos años, cuando Facebook empleó inteligencia artificial para negociar con humanos. Aquí, la tecnología adoptó estrategias para engañar sin ningún diseño humano explícito (específicamente, al hacer inicialmente representaciones incorrectas menores y mostrar interés en elementos sin valor, solo para luego "cambiar de opinión" y concederlos)[13]. Como resultado, se ha vuelto evidente que la inteligencia artificial puede generar múltiples y graves problemas al emplear técnicas no éticas para intentar lograr su objetivo.

 

Mirando hacia el futuro: Predicciones y expectativas

 

Después de haber analizado el estado actual, es importante reflexionar sobre el futuro de la negociación y la inteligencia artificial. Es innegable que la tecnología continuará creciendo y mejorando, lo que implicará efectos inevitables y transformadores en muchos campos del derecho, incluida la negociación. Los expertos admiten que habrá cambios, pero existe un debate en curso sobre cómo impactarán y darán forma a la práctica. Además, los responsables de la formulación de políticas también discuten sobre la forma en que nuestras estructuras legales deberían reaccionar y si los peligros involucrados son suficientes para intentar restringirlo[14].  Por el contrario, se discute también si los riesgos involucrados deberían impulsar a las sociedades a canalizar y aprovechar sus efectos transformadores[15].

 

Hasta ahora, las predicciones han fallado en comprender la interacción de estas tecnologías con las especificidades y requisitos de las negociaciones efectivas. Como se explicó anteriormente, las profecías sobre dispositivos de inteligencia artificial reemplazando a los humanos que realizan tareas complejas e interpersonales como la negociación nunca se han materializado[16]. Estas predicciones se han demostrado excesivamente optimistas y probablemente quedarán inalteradas en el futuro cercano para cualquier tarea que no sea estrictamente mecánica[17].

 

Parece poco probable que la inteligencia artificial reemplace a los negociadores en tareas que requieran habilidades interpersonales, inteligencia emocional, escucha empática, creatividad, y evaluación de intereses ambiguos[18]. Incluso si la inteligencia artificial se utilizara cada vez más en la práctica, los negociadores humanos seguirían siendo necesarios para comprender las complejidades subyacentes de las interacciones y el comportamiento humano[19]. Incluso a medida que los negociadores dependan cada vez más de la tecnología, es probable que las tareas de mayor nivel permanezcan más allá de los límites de la inteligencia artificial en un futuro previsible[20].

 

Sin embargo, ciertos aspectos de la prestación de servicios legales en general, y la práctica de la negociación en particular, están listos para cambiar como resultado de los avances tecnológicos y el creciente uso de la inteligencia artificial. Estas tecnologías probablemente se convertirán en una herramienta extremadamente útil para ayudar a los negociadores para ser más eficientes, ahorrar tiempo y dinero, y abrir nuevas áreas dentro del campo[21]. La inteligencia artificial, cuando se utiliza en apoyo de la mente humana, tiene el potencial de impulsar a los negociadores a nuevos niveles[22].

 

En un futuro previsible, es probable que la inteligencia artificial en la negociación se utilice en "sistemas sólidos de apoyo a la negociación para ayudar a los humanos a obtener mejores resultados de los que lograrían por sí mismos, incluso cuando están en la cima de sus habilidades"[23]. De esta manera, impulsará el poder y las capacidades de los negociadores[24], permitiéndoles dedicar poco tiempo a la recopilación de información y otras actividades automatizables, y concentrar sus esfuerzos en aquellas tareas que requieren estrategia y análisis legales, asesoramiento al cliente, inteligencia emocional, innovación y creatividad[25].

 

Por último, en los próximos años es probable que se regule el uso de la inteligencia artificial en la profesión legal en su conjunto, y en el campo de la negociación en particular. Hasta ahora, la regulación existente es mínima (como en el caso de la Unión Europea, donde en 2017 el Parlamento Europeo comenzó a explorar cómo regular el asunto) o inexistente (como en el caso de los Estados Unidos)[26].

 

En particular, la regulación debería abordar, e incluso algunos argumentan que debería prohibir, el uso de la inteligencia artificial para negociar de manera autónoma y/o asesorar a los clientes, ya que estas tareas deberían considerarse una práctica no autorizada del derecho cuando las realiza cualquier persona (o cualquier cosa) que no sea un abogado. En este sentido, las regulaciones "deberían buscar establecer límites éticos para los [negociadores] artificialmente inteligentes al realizar tareas similares a las permitidas para los asistentes legales[27].

 

Consideraciones finales

 

En las últimas décadas, el mundo ha sido testigo de un aumento exponencial de nuevas tecnologías, incluyendo un crecimiento acelerado en el uso de la inteligencia artificial. Estas tecnologías han impactado drásticamente la forma en que se practica el derecho, y se conciben y prestan muchos servicios legales. En particular, la inteligencia artificial tiene el potencial de revolucionar diversos procesos. No obstante, la inteligencia artificial sigue siendo incipiente en el ámbito de la negociación. La mayoría de los avances tecnológicos no se ha traducido en prácticas cotidianas.

 

La aplicación de estas tecnologías a la negociación podría agilizar, abaratar y mejorar sustancialmente el análisis de los datos disponibles, la predicción de los movimientos de las contrapartes, la generación de bases objetivas para las propuestas, y la provisión de información sobre costos, beneficios, reacciones personales y BATNAs. Sin embargo, la inteligencia artificial también ha revelado limitaciones estructurales, así como suscitado múltiples preocupaciones por posibles peligros y perjuicios. Entre ellos se destacan los peligros de decisiones artificiales que no estén relacionadas con la realidad humana, las limitaciones en las negociaciones abstractas, las perplejidades acerca de la responsabilidad civil, los fallos estructurales en relación con la negociación integrativa, y los desafíos éticos.

 

Un análisis comparativo muestra que los seres humanos continúan siendo los más adecuados para llevar a cabo negociaciones, ya que poseen habilidades y capacidades específicas que van más allá de los límites de estas tecnologías. La negociación requiere intuición, creatividad, innovación, y adaptabilidad. Estos elementos humanos complejos no pueden ser completamente capturados por la tecnología. Además, también existen desafíos serios en relación con la responsabilidad civil, el comportamiento ético, la falta de confianza, y la imposibilidad de incorporar completamente la negociación integrativa.

 

Por todas estas razones, la revolución pronosticada no se ha materializado. El elemento humano ha demostrado ser esencial para las negociaciones efectivas y probablemente continuará siéndolo en el futuro cercano. Sin embargo, no se deben ignorar los beneficios que la inteligencia artificial puede aportar a la práctica. Con el marco regulatorio adecuado, estas tecnologías, aunque no puedan reemplazar al negociador humano, podrán desempeñar un papel crucial al brindar apoyo a quienes participan en un proceso de negociación, ayudando a los abogados a generar valor y potenciar sus habilidades para servir los intereses de sus clientes de una manera mejor y más efectiva.

 

 

Citas

(*) El autor es abogado graduado de la Universidad Austral, Máster en Derecho (LLM) por Duke University, y Master in Business Administration por la Universidad de Roma II. Trabajó en Beccar Varela, Debevoise & Plimpton (New York), y Open Impact (Italia)

[1] Cfr. Tom C. W. Lin, Rise of the Machines: Artificial Intelligence, Robotics, and the Reprogramming of Law: Artificial Intelligence, Finance, and the Law, 88 Fordham L. Rev. 531, p. 533 (2019).

[2] Idem, p. 536.

[3] Cfr. Milan Markovic, Rise of Robot Lawyers, 61 Ariz. L. Rev. 325, p. 330 (2019). 

[4] Cfr. Lin, op. cit., loc. cit. 1, p. 534.

[5] Cfr. Markovic, op. cit., loc. cit. 3, p. 343.

[6] Ibid.

[7] Ibid.

[8] Ibid.

[9] Cfr. Amy J. Schmitz & John Zeleznikow, Intelligent Legal Tech to Empower Self-Represented Litigants, 23 Colum. Sci. & Tech. L. Rev. 142, 155 (2021), pp. 1225-26.

[10] Ibid.

[11] Ibid.

[12] Cfr. Lauren E. Willis, Deception by Design, 34 Harv. J. Law & Tec 115, p. 150 (2020).

[13] Ibid.

[14] Cfr. William Magnuson, Artificial Financial Intelligence, 10 Harv. Bus. L. Rev. 337, p. 340 (2020).

[15] Ibid.

[16] Cfr. Brian Farkas, Old Problem, New Medium: Deception in Computer-Facilitated Negotiation and Dispute Resolution, 14 Cardozo J. Conflict Resol. 161, p. 176 (2012).

[17] See Markovic, op. cit., loc. cit. 3, p. 329. 

[18] Cfr. Bradley Wendel, Lawyering in The Age of Artificial Intelligence: The Promise and Limitations of Artificial Intelligence in The Practice of Law, 72 Okla. L. Rev. 21, pp. 24-25 (2019).

[19] Cfr. Alyson Carrel & Noam Ebner, Mind the Gap: Bringing Technology to the Mediation Table, 2019 J. Disp. Resol. 1, p. 1158 (2019).

[20] Cfr. Markovic, op. cit., loc. cit. 3, p. 328. 

[21] Cfr. Jordan Brigda, The Legal Profession: From Human to Robots, 18 J. High Tech. L. 396, p. 398 (2018).

[22] Cfr. William E. Foster & Andrew L. Lawson, When to Praise the Machine: The Promise and Perils of Automated Transactional Drafting, 69 S.C. L. Rev. 597, p. 635 (2018).

[23] Cfr. Schmitz & Zeleznikow, op. cit., loc. cit. 9, p. 148.

[24] Cfr. Carrel, op. cit., loc. cit. 19, p. 1160.

[25] Cfr. Markovic, op. cit., loc. cit. 3, p. 334. 

[26] Cfr. Brigda, op. cit., loc. cit. 21, p. 418.

[27] Idem, p. 427.

Opinión

Práctica Societaria. Convocatoria a asambleas en sociedades anónimas cerradas
Por Horacio E. Castellani
Romera, Ongay, Romano, Castellani & Figueroa Casas
opinión
ver todos
Oro blanco: ¿El mineral del momento?
Por Alina Bendersky F.
Bofill Mir Abogados

Unión Europea - Diligencia debida en materia de sostenibilidad
Por Mariana Vázquez
Richards, Cardinal, Tützer, Zabala & Zaefferer

Impulso Procesal – Caducidad de la Instancia – Fuero laboral Nacional
Por Hector R. Cano
Cano, Ambrosoni & Parada, Abogados

El impuesto a los Ingresos Brutos y las actividades sin fines de lucro
Por Constanza Aranda
Arroyo Barbarach Abogados

detrás del traje
Walter Mañko
De DELOITTE LEGAL ARGENTINA
Nos apoyan