Por Trajano Potentini

1. Predicciones apocalípticas y otros temores

Las predicciones apocalípticas sobre la inteligencia artificial (IA) han captado la atención de académicos, tecnólogos y de la sociedad en general debido al avance de esta tecnología. Estas preocupaciones también están vinculadas a corrientes ideológicas como el transhumanismo, que plantea escenarios de transformación de la humanidad mediante la tecnología.

Uno de los escenarios más discutidos es el posible desarrollo de una inteligencia artificial superinteligente, es decir, una entidad cuyas capacidades cognitivas superen ampliamente las humanas en todos los ámbitos. Teóricos como Nick Bostrom han advertido que una IA de estas características podría desarrollar objetivos incompatibles con los intereses humanos, adquirir recursos y tomar el control de sistemas críticos, hasta representar una amenaza existencial para la humanidad.

Bostrom ha comparado esta posibilidad con la de unos niños que juegan con una bomba, al advertir que la humanidad podría enfrentarse a un desafío para el que todavía no está preparada.

Este escenario se fundamenta en la hipótesis de una posible «explosión de inteligencia», mediante la cual una IA podría mejorar sus propias capacidades de forma exponencial. Sin embargo, sus críticos consideran que se trata de un riesgo especulativo, pues no existen indicios concluyentes de que una inteligencia artificial pueda alcanzar semejante nivel de autonomía y poder destructivo en el corto o mediano plazo.

En este contexto, resulta pertinente recordar la reflexión de la jurista Anna Pintore: «Nada puede resguardar a la humanidad de la locura o del suicidio», una frase que invita a reflexionar sobre los riesgos derivados de las propias decisiones humanas.

Las proyecciones sobre el futuro de la IA también se relacionan con el crecimiento exponencial de la capacidad de procesamiento informático, asociado a la Ley de Moore. Estas estimaciones han alimentado el debate sobre la posibilidad de que las máquinas lleguen a superar ampliamente las capacidades humanas.

1.1. La destrucción masiva de empleos y la disparidad económica

Otra preocupación es que la inteligencia artificial provoque una automatización masiva de puestos de trabajo, con la posible eliminación de millones de empleos en todo el mundo. Este escenario podría agravar las desigualdades económicas y concentrar aún más el poder en manos de grandes corporaciones tecnológicas.

Entre los sectores potencialmente afectados se encuentran la fabricación, el transporte y los servicios. Sin políticas adecuadas de protección social, redistribución económica y capacitación profesional, numerosos trabajadores podrían enfrentar dificultades para incorporarse a la nueva economía digital.

1.2. Control y vigilancia masiva

El uso de la inteligencia artificial para la vigilancia masiva, el control social y la represión política constituye otra fuente de preocupación. Los sistemas de reconocimiento facial, el análisis de datos personales y otras herramientas automatizadas pueden ampliar la capacidad de gobiernos y empresas para supervisar el comportamiento de los ciudadanos.

La expansión de estas tecnologías plantea interrogantes sobre la privacidad, la protección de los datos personales y el respeto de los derechos humanos. En un contexto de creciente autoritarismo digital, existe el riesgo de que la seguridad y la eficiencia se utilicen como justificación para limitar libertades fundamentales.

1.3. Armas autónomas y conflicto global

El desarrollo de armas autónomas capaces de seleccionar y atacar objetivos plantea importantes desafíos para la seguridad internacional. La reducción de la intervención humana en decisiones de vida o muerte podría aumentar el riesgo de errores catastróficos y escaladas militares imprevistas.

Diversos expertos han advertido que estas tecnologías podrían impulsar una nueva carrera armamentista. Por ello, la falta de mecanismos internacionales eficaces para regular su desarrollo y utilización constituye uno de los principales desafíos de la inteligencia artificial aplicada al ámbito militar.

1.4. La pérdida de autonomía humana

La posibilidad de que los sistemas de inteligencia artificial asuman decisiones importantes en ámbitos como la justicia, la medicina y la política también genera inquietudes sobre la autonomía humana.

Si las decisiones cruciales dependen cada vez más de algoritmos, las personas podrían perder capacidad de control sobre aspectos esenciales de sus vidas. Esta situación plantea cuestiones éticas relacionadas con la libertad, el juicio moral y la responsabilidad, especialmente cuando las decisiones automatizadas afectan derechos fundamentales.

1.5. Errores algorítmicos y desastres inesperados

Los errores algorítmicos en sistemas críticos pueden provocar consecuencias graves, incluso cuando no existe una intención de causar daño. En sectores como la energía, las finanzas y la defensa, una falla inesperada podría desencadenar interrupciones y efectos en cadena de gran magnitud.

La complejidad de algunos sistemas de inteligencia artificial dificulta comprender plenamente sus procesos de decisión, lo que refuerza la necesidad de establecer mecanismos de supervisión, evaluación y control. El denominado Flash Crash de 2010, ocurrido en los mercados financieros estadounidenses, suele citarse en los debates sobre los riesgos asociados a la negociación automatizada.

2. Escenarios de singularidad tecnológica y posthumanismo

La singularidad tecnológica es un escenario hipotético en el que los avances de la inteligencia artificial permitirían a las máquinas diseñar o producir sistemas cada vez más potentes. La repetición de este ciclo de mejoras podría generar una aceleración tecnológica difícil de controlar, conocida como «explosión de inteligencia».

El término «singularidad» se ha utilizado para describir un punto de transformación profunda en el que el desarrollo tecnológico podría alterar radicalmente las condiciones de la vida humana.

Por su parte, el posthumanismo es una perspectiva filosófica que cuestiona las concepciones tradicionales centradas exclusivamente en el ser humano y explora las relaciones entre los organismos, la tecnología y los sistemas complejos. Algunas de sus corrientes plantean la posibilidad de transformar la naturaleza humana mediante avances biológicos y tecnológicos.

Las predicciones más extremas sostienen que una eventual singularidad tecnológica podría conducir a una transformación radical de la humanidad. En ese escenario, las máquinas superarían determinadas limitaciones biológicas y cognitivas de las personas, lo que suscita interrogantes sobre la identidad, la moralidad y la esencia de la experiencia humana.

Mientras algunos consideran que estas transformaciones podrían representar una evolución natural, otros advierten sobre los riesgos de perder atributos fundamentales de la condición humana.

Conclusión

Las predicciones apocalípticas sobre la inteligencia artificial pueden parecer extremas, pero constituyen advertencias relevantes acerca de los riesgos de desarrollar esta tecnología sin controles adecuados. Para prevenir escenarios indeseables, resulta fundamental promover mecanismos de regulación, supervisión ética y cooperación internacional.

La colaboración entre gobiernos, empresas tecnológicas y sociedad civil será esencial para garantizar que la inteligencia artificial se utilice de manera segura y responsable, respetando los derechos humanos y los intereses colectivos.

Aunque figuras como Elon Musk y Stephen Hawking advirtieron sobre los peligros potenciales de una inteligencia artificial fuera de control, otros expertos consideran que algunas de estas predicciones pueden resultar alarmistas. Más allá de las diferencias, el debate pone de relieve la importancia de establecer mecanismos eficaces de supervisión para prevenir el uso indebido de la IA en conflictos militares, la vigilancia y la manipulación de la opinión pública.

QUINTA ENTREGA, ESPECIAL PARA EL GRUPO SMI

Sobre el autor

Trajano Vidal Potentini Adames es abogado, politólogo y catedrático universitario, con más de 36 años de experiencia académica. Posee maestrías en Derecho y Relaciones Internacionales, Ciencias Políticas, Derecho Constitucional y Derecho Administrativo, entre otras especialidades.

Es presidente del Colegio de Abogados de la República Dominicana (CARD) para el período 2024-2027 y presidente de la Fundación Justicia y Transparencia (FJT). También dirige la firma de abogados Trajano Potentini & Asociados y es propietario y coordinador general de TEMISIA, plataforma de inteligencia artificial jurídica dominicana. Es autor de más de una veintena de obras jurídicas y ha participado como expositor en congresos y encuentros internacionales.

Nota sobre las fuentes: El artículo original señala que sus reflexiones se apoyan en consultas bibliográficas en línea y en herramientas de inteligencia artificial generativa, incluida TEMISIA, con fines didácticos y académicos.