Líderes IA advierten a ONU de riesgos para seguridad mientras sistemas se vuelven más potentes

NACIONES UNIDAS, 23 sep (Reuters) – Directivos de tres de las principales empresas de inteligencia artificial del mundo informaron el miércoles al Consejo de Seguridad de la ONU, en medio de advertencias de que los sistemas de IA, cada vez más potentes, podrían pronto mejorar por sí mismos, escapar al control humano y suponer una amenaza para la seguridad internacional.

Entre quienes se dirigieron al Consejo, compuesto por 15 miembros, durante la reunión anual de la Asamblea General se encontraban el director ejecutivo de OpenAI, Sam Altman; el director ejecutivo de Anthropic, Dario Amodei, y el cofundador de Hugging Face, Clément Delangue, tres de los ejecutivos más destacados del sector.

«Si se gestiona mal, incluso creo que la IA podría suponer un riesgo para la humanidad en su conjunto», declaró Amodei, de Anthropic, ante el Consejo de Seguridad.

Los gobiernos se han enfrentado al reto de cómo supervisar unos sistemas de IA que avanzan más rápido de lo que los reguladores pueden seguir el ritmo, mientras que Estados Unidos y China los dos actores dominantes en el desarrollo de la IA siguen divididos sobre si la tecnología necesita medidas de control globales …

Fuente: