SESGOS DE LA IA EN EL DERECHO

Por Trajano Vidal Potentini Adames

1. Concepto e impacto de los sesgos en el ámbito legal

El diccionario en línea de la Real Academia Española (RAE), en términos gramaticales, plantea que el sesgo se refiere a algo torcido, cortado o situado oblicuamente. En estadística, se define como un error sistemático en el que se puede incurrir al realizar muestreos o ensayos en los que se seleccionan o favorecen unas respuestas frente a otras.

En el contexto que nos ocupa, el sesgo hace alusión a factores culturales, creencias, costumbres u otras circunstancias que se toman en consideración para eventuales decisiones, las cuales podrían verse afectadas por criterios particulares y subjetivos, alejados y carentes de objetividad.

La Inteligencia Artificial (IA) está transformando numerosos sectores, incluido el ámbito legal, donde se utiliza para mejorar la eficiencia, reducir costos y optimizar procesos. Sin embargo, su adopción no está exenta de riesgos, y uno de los mayores desafíos son los sesgos que pueden surgir en sus sistemas, con posibles consecuencias para la imparcialidad y la justicia en la toma de decisiones legales.

A continuación, se presentan los principales tipos de sesgos de la IA en el derecho, sus causas, ejemplos relevantes y posibles soluciones para mitigar sus efectos.

1.1. Sesgo en los datos de entrenamiento

Los modelos de IA dependen de grandes volúmenes de datos históricos para aprender patrones y realizar predicciones. Si los datos están sesgados o reflejan desigualdades pasadas, la IA puede perpetuar o incluso amplificar esos sesgos.

En el derecho, este tipo de sesgo puede ser especialmente problemático, ya que puede afectar las decisiones judiciales, el análisis de riesgos y la evaluación de pruebas.

Ejemplo: si un sistema de IA se entrena con datos de sentencias previas influenciadas por prejuicios raciales, el algoritmo podría replicar esas tendencias y generar recomendaciones discriminatorias.

1.2. Sesgo algorítmico

El sesgo algorítmico ocurre cuando el diseño del modelo o los criterios utilizados para optimizar el rendimiento del algoritmo refuerzan resultados que favorecen a ciertos grupos.

Este tipo de sesgo puede surgir incluso si los datos de entrenamiento son equilibrados, ya que los algoritmos pueden tomar decisiones basadas en correlaciones que no reflejan causalidad o justicia.

Ejemplo: un algoritmo que evalúa la probabilidad de reincidencia en casos criminales puede dar mayor peso a determinadas características demográficas, como la edad o el lugar de residencia, sin considerar el contexto individual o las circunstancias de rehabilitación.

1.3. Sesgo de diseño o implementación

Este sesgo se relaciona con las decisiones tomadas por los diseñadores de los sistemas de IA, quienes seleccionan las variables que deben incluirse o excluirse.

Estas decisiones, aunque puedan parecer técnicas, pueden reflejar valores subjetivos o normas que no son neutrales.

Ejemplo: en los sistemas de evaluación de riesgos utilizados por los tribunales, priorizar factores como los antecedentes penales o el historial de empleo podría tener un impacto desproporcionado en determinados grupos sociales.

1.4. Sesgo de interpretación

Aunque la IA proporcione resultados precisos, el sesgo puede surgir en la interpretación de esos resultados por parte de los usuarios humanos, como jueces, abogados o fiscales.

Si los actores legales interpretan las recomendaciones del sistema sin cuestionar los resultados o comprender las limitaciones del modelo, pueden tomar decisiones basadas en predicciones defectuosas.

Ejemplo: un juez que depende excesivamente de un sistema de IA para calcular la probabilidad de fuga de un acusado podría tomar decisiones basadas más en la sugerencia automatizada que en su propio juicio.

1.5. Sesgos cognitivos

Los sesgos cognitivos son patrones de pensamiento y percepción que pueden influir en nuestras decisiones y juicios sin que nos demos cuenta. Pueden ser resultado de la evolución humana, la cultura, la educación y la experiencia individual.

Reconocer estos sesgos y trabajar para minimizar su influencia permite desarrollar perspectivas más críticas y objetivas. La toma de decisiones y el juicio pueden beneficiarse de una mayor conciencia sobre estos mecanismos.

Independientemente de la IA, los sesgos forman parte del funcionamiento humano y están presentes en la vida cotidiana. Entre ellos se encuentran los siguientes:

• a) Sesgo de confirmación: tendencia a buscar, interpretar y recordar información de una manera que confirme las creencias preexistentes.
• b) Sesgo egocéntrico: tendencia a suponer que los demás piensan, sienten y perciben las cosas de la misma manera que uno mismo.
• c) Sesgo de anclaje: las inferencias se ven afectadas por información que sirve como referencia inicial, lo que puede conducir a juicios diferentes según el punto de partida.
• d) Sesgo de optimismo: tendencia a ser más optimista de lo que la realidad justifica y a creer que se tiene menos probabilidad de sufrir acontecimientos negativos.
• e) Sesgo de disponibilidad: tendencia a juzgar la probabilidad de un evento según la facilidad con la que viene a la mente, lo que puede distorsionar la percepción de la realidad.
• f) Sesgo de prejuicio: creencia desfavorable, preconcebida y fija hacia una persona o grupo, que puede provocar discriminación.
• g) Sesgo de grupo: tendencia a favorecer a los miembros del propio grupo y desfavorecer a los de otros grupos.
• h) Sesgo de atención: tendencia a prestar más atención a ciertos estímulos e ignorar otros.
• i) Sesgo de confirmación retrospectiva: tendencia a reinterpretar el pasado para que se ajuste a las creencias actuales.
• j) Sesgo de proyección: tendencia a atribuir a otras personas los propios pensamientos, sentimientos y motivaciones.
• k) Sesgo de statu quo: tendencia a preferir la continuidad y resistirse al cambio, incluso cuando este puede ser beneficioso.
• l) Sesgo de efecto halo: tendencia a juzgar a una persona, objeto o situación a partir de una característica dominante.
• m) Sesgo de aversión a la pérdida: tendencia a valorar más las pérdidas que las ganancias, lo que puede generar una aversión excesiva al riesgo.
• n) Sesgo de representatividad: tendencia a juzgar la probabilidad de un evento según cuánto se ajusta a un estereotipo o prototipo.
• ñ) Sesgo de autoridad: tendencia a conceder mayor peso a la opinión de personas con autoridad o prestigio, incluso cuando no tienen experiencia en el tema en cuestión.

2. Causas de los sesgos en la IA legal

2.1. Desigualdad en los datos históricos

Los datos utilizados para entrenar sistemas de IA suelen reflejar prejuicios sociales, raciales, de género y económicos preexistentes.

En el campo del derecho, esto resulta particularmente preocupante, ya que las decisiones legales y las políticas anteriores pueden haber estado influenciadas por dichas desigualdades.

2.2. Falta de diversidad en los equipos de desarrollo

Los equipos que diseñan sistemas de IA pueden carecer de diversidad en términos de género, raza, antecedentes culturales y perspectivas.

Esto puede llevar a decisiones de diseño que no consideren adecuadamente las necesidades o los impactos sobre todos los grupos afectados.

2.3. Prioridad de la eficiencia sobre la equidad

Los sistemas de IA suelen diseñarse para maximizar la eficiencia y la precisión, lo que puede entrar en conflicto con la necesidad de equidad y justicia.

Al centrarse únicamente en mejorar el rendimiento del sistema, los desarrolladores pueden ignorar las implicaciones éticas y sociales de los resultados generados por la IA.

2.4. Falta de regulación y supervisión

El desarrollo de la IA en el ámbito legal es relativamente nuevo, y las regulaciones destinadas a supervisar su implementación y garantizar que se eviten los sesgos todavía son insuficientes en muchos países.

Sin un marco regulatorio claro, estas tecnologías pueden implementarse sin los controles adecuados para garantizar la justicia.

3. Ejemplos de sesgos de la IA en el derecho

3.1. Caso COMPAS en Estados Unidos

En Estados Unidos, el sistema COMPAS (Correctional Offender Management Profiling for Alternative Sanctions) ha sido objeto de críticas por sus posibles sesgos raciales.

Este sistema, que predice la probabilidad de reincidencia, fue señalado en estudios independientes por tender a asignar evaluaciones de riesgo más altas a personas afroamericanas que a otras personas, incluso cuando presentaban historiales similares.

3.2. Reconocimiento facial

El uso de sistemas de reconocimiento facial en investigaciones policiales ha demostrado mayores tasas de error al identificar a personas de color, lo que ha contribuido a casos de arrestos injustificados.

Esta situación plantea serios problemas de discriminación y posibles violaciones de derechos civiles, que pueden comprometer la legitimidad de los sistemas de justicia.

4. Soluciones para atenuar los sesgos de la IA en el derecho

4.1. Auditorías algorítmicas

Es fundamental realizar auditorías periódicas de los algoritmos para identificar y corregir posibles sesgos.

Estas auditorías deben ser realizadas por equipos diversos y por expertos en ética, tecnología y derecho.

4.2. Mejora de la calidad y diversidad de los datos

Para reducir los sesgos en la IA, es fundamental que los sistemas se entrenen con datos diversos y representativos de la sociedad.

Esto incluye recopilar información que refleje diferentes perspectivas y experiencias.

Asimismo, resulta indispensable procurar la transparencia y explicabilidad de los sistemas, mantener la participación humana en la toma de decisiones y desarrollar un marco regulatorio adecuado, como parte de los cambios y la evolución de la Inteligencia Artificial.

Sobre el autor

Trajano Vidal Potentini Adames es abogado, politólogo y catedrático universitario con más de 36 años de experiencia. Posee maestrías en Derecho y Relaciones Internacionales, Ciencias Políticas, Derecho Constitucional y Derecho Administrativo Electoral.

Ha sido profesor investigador para el doctorado en Sociedad Democrática, Estado y Derecho de la Universidad del País Vasco, España, y profesor de grado y maestría. También se desempeña como coordinador académico de la Maestría en Derecho Constitucional y Procesal Constitucional de la Universidad Autónoma de Santo Domingo (UASD).

Es presidente del Colegio de Abogados de la República Dominicana (CARD) para el período 2024-2027 y presidente de la Fundación Justicia y Transparencia (FJT). Además, dirige la firma de abogados Trajano Potentini & Asociados, es propietario y coordinador general de TEMISIA, plataforma de inteligencia artificial jurídica dominicana, y director del capítulo dominicano de la Asociación Mundial de Justicia Constitucional.

Es autor de más de una veintena de obras jurídicas y cuenta con estudios especializados en globalización y tecnología, Inteligencia Artificial, comunicación política, gobierno abierto y políticas públicas sobre transparencia e institucionalidad democrática.

Ha participado como expositor en congresos, seminarios e intercambios internacionales celebrados en México, Cuba, Uruguay, Francia, España, Italia, Colombia, Perú, Argentina, Ecuador, Costa Rica, Puerto Rico, Panamá, Alemania, Taiwán y Estados Unidos.

Fuentes y metodología: el autor indica que las fuentes consultadas para este artículo proceden de consultas bibliográficas en línea y, fundamentalmente, del apoyo de TEMISIA, identificada en el texto como la primera IA jurídica de la República Dominicana, así como de las principales herramientas de IA generativa, mediante instrucciones orientadas a fines didácticos y académicos.

Correo electrónico: [email protected] 

NOVENA ENTREGA, ESPECIAL PARA EL GRUPO SMI

Pratrocinado por