REGULACIÓN DE LA IA EN LOS SISTEMAS JURÍDICOS

POR TRAJANO POTENTINI

1.- Parámetros base para su regulación

A medida que la IA se convierte en una parte integral de los sistemas legales, la necesidad de regulación se vuelve más evidente. Varias jurisdicciones ya han comenzado a explorar marcos normativos para regular el uso de la IA, con un enfoque particular en la ética, la transparencia, la responsabilidad y la protección de derechos fundamentales.

a).- Transparencia: Los sistemas de IA a menudo son cajas negras, lo que significa que los usuarios no pueden ver cómo se toman las decisiones. Esto plantea problemas en cuanto a la transparencia y la posibilidad de revisar las decisiones tomadas por estas máquinas.

b).- Rendición de cuentas: Las legislaciones actuales deben definir quién será responsable cuando una IA cometa un error o tome una decisión incorrecta.

c).- Protección de derechos fundamentales: Es crucial garantizar que los sistemas de IA no infrinjan los derechos fundamentales, como el derecho a un juicio justo, la protección de datos personales y la no discriminación.

2.- Iniciativas regulatorias de entidades y organizaciones internacionales

En 2018, el grupo de Expertos de Alto Nivel sobre Inteligencia Artificial (AI HLEG) de la UE adoptó una estrategia integral para fomentar el desarrollo confiable de la IA, publicando en 2019 un conjunto de directrices éticas, para una IA fiable, sustentada en siete principios, la dignidad humana, la autonomía, la prevención del daño, la equidad, la transparencia, responsabilidad y explicabilidad.

El Consejo de Europa, también elaboró recomendaciones sobre el impacto de la IA en los derechos humanos, el estado de derecho y la democracia, a los fines de avanzar en una propuesta de acuerdo internacional sobre la IA.

En abril de 2021, la Comisión Europea recibió la propuesta de Reglamento por el que se establecen Normas Armonizadas en materia de Inteligencia Artificial. Con la propuesta del referido Reglamento de IA (Artificial Intelligence Act), La Unión Europea ha adoptado un enfoque pionero que clasifica los sistemas de IA según el nivel de riesgo que presentan para los derechos fundamentales.

Los sistemas que se consideran de «alto riesgo», como aquellos utilizados en la justicia penal o la atención médica, están sujetos a requisitos más estrictos de transparencia, supervisión y control.

Además, la UE cuenta con el Reglamento General de Protección de Datos (GDPR) que regula el uso de datos personales, estableciendo normas para el consentimiento informado y el derecho de las personas a conocer y controlar el uso de sus datos. La propuesta de la UE busca regular los usos de IA con diferentes niveles de riesgo, colocando un énfasis en los derechos fundamentales.

3.- Pacto Digital Mundial de la ONU, iniciativa sobre la IA

En el marco de la celebración de la cumbre del futuro de naciones unidas, en New York el secretario general de la ONU Antonio Guterres en septiembre del año 2023, presentó el Pacto Digital Mundial (PDM) para establecer un marco global de cooperación en este ámbito, para avanzar hacia un futuro digital inclusivo, sostenible y centrado en los derechos humanos, como parte de los esfuerzos para abordar los desafíos actuales y futuros relacionados con la gobernanza digital a nivel global.

Aunque no se trata de una iniciativa centrada en la Inteligencia Artificial, sus propósitos servirían para propiciar un marco geopolítico uniforme de mayor garantía para el uso y expansión de la tecnología lo que sin lugar a duda potenciaría aún más el crecimiento y desarrollo exponencial de la IA.

Con el PDM se propone establecer un conjunto de principios y objetivos compartidos para guiar la cooperación global en el ámbito digital. Los cuales tendrán como norte los valores fundamentales en que descansa la cooperación internacional, los derechos humanos y el desarrollo sostenible, privilegiando temas como el acceso universal, la seguridad digital, la privacidad, la ética y la sostenibilidad ambiental. Rublos indiscutiblemente acordes con el desarrollo, vigilancia y facilidades para una objetiva regulación de la IA.

También la Organización para la Cooperación y el Desarrollo Económico (OCDE), los 36 países que la conforman adoptaron en 2019 un primer conjunto de directrices de políticas intergubernamentales en materia de Inteligencia Artificial, estableciendo que debe ser respetuosa de los derechos humanos y los valores democráticos, inclusiva, transparente, innovadora, responsable y confiable.

Entre los principios también se encuentran el crecimiento inclusivo, desarrollo sostenible y el bienestar; la transparencia y explicabilidad y la rendición de cuentas.

En sentido similar la UNESCO, viene trabajando en pautas ética de la IA, para una plataforma común que garantice el desarrollo y uso sostenible de la IA, también ha publicado recomendaciones sobre la ética de la IA, instando a los países a implementar marcos normativos que eviten el uso indebido de estas tecnologías.

Asimismo, más de 20 países en una coalición multilateral están conformando la creación de una Asociación Mundial para la Inteligencia Artificial (GPAI), con el común denominador de una IA sustentada en un desarrollo responsable y humano de la IA.

La Asociación para el Avance de la Inteligencia Artificial (AAAI), bajo la dirección de un comité permanente, trabaja en la promoción del debate e investigación sobre el tema y la responsabilidad social y ética en la utilización de la IA.

4.- Rol del Estado en la Regulación de la IA

Los Estados tienen el deber de garantizar que el uso de IA se haga de manera responsable, protegiendo los derechos fundamentales. Algunas áreas claves de regulación incluyen:

a).- Legislación y control: Es necesario un marco regulatorio sólido que garantice que la IA respeta los derechos constitucionales. Este marco debe establecer principios de transparencia, responsabilidad y rendición de cuentas para los desarrolladores y operadores de IA.

b).- Supervisión y auditoría: El Estado debe implementar mecanismos de supervisión para asegurar que las tecnologías de IA no vulneren los derechos fundamentales. La creación de órganos de control y la realización de auditorías de algoritmos son esenciales para este propósito.

c).- Regulación del sector privado: Muchas aplicaciones de IA están en manos de empresas privadas. La regulación debe garantizar que estas empresas respeten los derechos constitucionales y no vulneren los principios de igualdad y privacidad.

5.- Países con proyectos e iniciativas para legislar sobre la IA

Estrategias y accione de los Estados Unidos en materia de IA.

En el año 2020, EE.UU. lanzó su Estrategia Nacional de Inteligencia Artificial, con enfoque en fomentar la innovación, establecer normas éticas y reforzar la competitividad. El enfoque de Estados Unidos sobre la regulación es más orientado al impacto económico de la IA y menos en las garantías constitucionales, aunque se están fomentando iniciativas en algunos estados.

En ese mismo tenor los Estados Unidos de Norteamérica promulgaron una la Ley de Iniciativa Nacional de Inteligencia Artificial (National Artificial Intelligence Initiative Act) el 1 de enero del 2021. Con ello plantean coordinar esencialmente las actividades de investigación y educación sobre IA en todas las agencias federales estadunidenses.

En el año 2022, la administración Biden-Harris presentó un proyecto para una Carta de Derechos de la IA (Blueprint for an AI Bill of Rights), consistente en pautas de orientación para establecer los principios y criterios sobre los cuales operarían los sistemas de IA, garantizando la protección de los derechos de las personas de cara a la implementación de los mismos.

También informaron sobre la realización de consultas públicas con el objetivo de plantear posibles controles y regulaciones para IA como ChatGPT y otras similares, con el fin de asegurarse de que “los sistemas de IA sean legales, eficaces, éticos, seguros y dignos de confianza”.

China ha integrado la IA en su sistema judicial mediante tribunales en línea que emplean IA para resolver disputas menores, como problemas de consumidores. Además, el país ha desarrollado jueces robotizados para ayudar en la redacción de decisiones y en la gestión de casos. China busca liderar la innovación global en IA con su Plan de Desarrollo de IA de Nueva Generación (lanzado en 2017). Este plan pretende convertir a China en líder global en IA para 2030.

El Reino Unido ha publicado su propia Estrategia Nacional de IA, que busca fomentar el desarrollo ético de la IA, mejorar la cooperación internacional en normativas y fortalecer las capacidades locales en innovación.

Canadá ha introducido una Ley de IA Responsable, Bill C-27 (Digital Charter Implementation Act), que propone un enfoque regulador centrado en la responsabilidad, la transparencia y la evaluación de impacto de las aplicaciones de IA.

En 2018, se lanzó Declaración de Montreal para la IA Responsable: También es uno de los líderes en promover el desarrollo ético de la IA.

La visión de Japón se orienta hacia la promoción de la IA en áreas como la atención médica y la robótica, el gobierno busca un desarrollo ético a través de su Plan Estratégico de Innovación en IA. para guiar su desarrollo y uso, priorizando la equidad, transparencia y protección de datos.

En el año 2021, el Congreso de Brasil aprobó un marco legal inicial para la regulación de la IA, enfocándose en la transparencia, la responsabilidad y la ética en el uso de algoritmos. Presentando una propuesta más amplia en el 2023.

La República Dominicana, Chile, Costa Rica y Argentina, Singapur, Corea del Sur, están entre los países donde comienzan a surgir intentos por regular la Inteligencia Artificial. (Lideres Chile, Brasil, México y Uruguay).

6.- Escollos y desafíos de la IA para su regularización

a).- Propiciar la cooperación nacional e internacional entre los sectores público, garantizando universalidad y coherencia para las normas y leyes sobre la IA.

b).- La socialización y participación de la sociedad en las discusiones sobre el uso y aplicación de la IA acorde con los interese y expectativa de los ciudadanos.

c).- La dinámica y evolución sin precedentes que experimenta la IA en tiempo récord, hace prácticamente imposible que las legislaciones puedan estar a tono con los constante y sucesivos cambios.

d).- Buscar en el desarrollo un punto de equilibrio, que conjugue la armonización y coexistencia, entre la innovación y la competitividad, con los derechos humanos y principios que sustentan la democracia.

e).- El radio de acción e impacto de la IA sobre los más variados temas y situaciones de la vida, hacen casi imposible, una clasificación y definición estable para garantizar ámbitos de regulación duraderos.

 Sobre el autor

TRAJANO VIDAL POTENTINI ADAMES, Es Abogado, Politólogo y Catedrático Universitario por más de 36 años, con Maestrías en Derecho y Relaciones Internacionales, Ciencias Políticas, Derecho Constitucional, Administrativo, Electoral, Profesor Investigador para el PHD en Sociedad Democrática, Estado y Derecho de la Universidad del País Vasco España, con multiplex especialidades en el ámbito jurídico, Profesor de Grado y Maestría, además de Coordinador Académico de la Maestría en Derecho Constitucional y Procesal Constitucional de la Universidad Autónoma de Santo Domingo (UASD), es actualmente presidente del Colegio de Abogados de la República Dominicana (CARD), para el periodo 2024-2027, también se desempeña como Presidente de la Fundación Justicia y Transparencia (FJT), es presidente de la Sociedad Comercial Serví Marketing Interactivo, SMI, SRL, Plataforma de Medios Digitales y Firma Encuestadora, también es el PROPIETARIO Y COORDINADOR GENERAL DE LA PRIMERA IA JURÍDICA DOMINICANA TEMISIA, Director de la Firma de Abogados Trajano Potentini & Asocs y; Director del Capítulo Dominicano de la Asociación Mundial de Justicia Constitucional, Autor de más de una veintena de obras Jurídicas. Cuenta con estudios especializados en las áreas de Globalización y Tecnología, Inteligencia Artificial, Comunicación Política, Gobierno Abierto, y Políticas Públicas sobre Transparencia e Institucionalidad Democrática. Ha participado como expositor en diversos Congresos, Seminarios e Intercambios Internacionales, en México, Cuba, Uruguay, Francia, España, Italia, Colombia, Perú, Argentina, Ecuador, Costa Rica, Puerto Rico, Panamá, Alemania, Taiwán y Estados Unidos. [email protected]

Fuentes consultadas

Las fuentes consultadas para el presente artículo o reflexiones son el resultado de consultas bibliográficas en línea y fundamentalmente con el apoyo de la primera IA jurídica de la República Dominicana TEMISIA, www.temisia.com.do, y de las principales IAs Generativas, a partir de prompts orientados a propósitos netamente didácticos y académicos.

DECIMA PRIMERA ENTREGA, ESPECIAL PARA EL GRUPO SMI

Patrocinado por