Anthropic pide frenar la IA ante la posibilidad de que evolucione sola

En una publicación difundida, la compañía explicó que cada vez delega más tareas de desarrollo a sus propios sistemas de inteligencia artificial, acercándose a lo que denomina “automejora recursiva”, es decir, la capacidad de una IA para crear a su propio sucesor sin intervención humana significativa.

Según Anthropic, este avance podría generar importantes beneficios en áreas como la ciencia y la salud, pero también aumentar los riesgos de que los seres humanos pierdan capacidad de supervisión y control sobre estos sistemas.

La empresa señaló que, si las inteligencias artificiales llegan a desarrollar por completo a sus sucesoras, será aún más importante garantizar mecanismos de seguridad, supervisión y control de su comportamiento.

Ante este panorama, la firma consideró conveniente ralentizar temporalmente el desarrollo de los sistemas de IA más avanzados para permitir que la investigación en seguridad y las instituciones sociales puedan adaptarse al ritmo de la tecnología.

Anthropic propuso además la creación de mecanismos internacionales que permitan verificar que los principales laboratorios de inteligencia artificial cumplan cualquier eventual acuerdo de pausa, evitando ventajas para actores que decidan continuar desarrollando estos sistemas.

La propuesta fue presentada por el cofundador de la compañía, Jack Clark, y la directora de The Anthropic Institute, Marina Favaro, quienes destacaron la rapidez con que evolucionan los modelos actuales.

Como ejemplo, revelaron que actualmente más del 80 % del código incorporado a la base tecnológica de Anthropic es generado por Claude, su sistema de inteligencia artificial, mientras que en febrero de 2025 esa cifra era inferior al 10 %.

Fuente: N Digital