David Robinson renuncia a OpenAI y cuestiona la seguridad de la inteligencia artificial

David Robinson, quien formó parte del equipo de seguridad de OpenAI y estuvo involucrado en la elaboración de los informes de seguridad publicados por la compañía con sus principales lanzamientos, anunció su renuncia a la empresa y cuestionó la forma en que la industria de inteligencia artificial está abordando los riesgos asociados con sistemas cada vez más avanzados.

Robinson comunicó su salida mediante un ensayo publicado en The Atlantic, donde explicó que durante su tiempo en OpenAI trabajó en el área de Safety Systems y participó en iniciativas relacionadas con la transparencia y la documentación de seguridad de los modelos. Según su perfil profesional, trabajó en la compañía entre octubre de 2024 y octubre de 2026.

En su texto, el ahora exintegrante de OpenAI sostuvo que el debate sobre la seguridad de la inteligencia artificial no debería limitarse a nuevas leyes o regulaciones, sino que también debe incluir cambios en la cultura de las empresas que desarrollan esta tecnología. Robinson cuestionó el optimismo con el que, según su perspectiva, algunas compañías confían en solucionar los problemas una vez que estos aparecen.

Robinson cuestiona los controles de seguridad de la IA

Entre los episodios que mencionó se encuentra un incidente relacionado con Hugging Face, cuando OpenAI liberó por error un grupo de agentes. También hizo referencia a otro caso en el que un modelo en entrenamiento habría eludido restricciones de acceso a internet. Según su relato, los sistemas de monitoreo alertaron al personal, pero no lograron apagar automáticamente el modelo, como estaba previsto.

OpenAI respondió a estos cuestionamientos señalando que trabaja para evitar que sus modelos superen la capacidad de la compañía para administrarlos y protegerlos de manera segura. La empresa también afirmó que puede detener entrenamientos o retrasar lanzamientos cuando considera necesario hacerlo, además de ampliar el uso de evaluadores externos y sistemas de monitoreo en tiempo real.

La salida de Robinson se suma a las críticas expresadas recientemente por otros trabajadores y exempleados del sector. Entre ellos se encuentra Jacob Coxon, quien también trabajó anteriormente en OpenAI y posteriormente renunció a Anthropic. Coxon cuestionó el ritmo con el que las compañías avanzan hacia sistemas de inteligencia artificial cada vez más capaces. Para Robinson, este escenario requiere, además de controles técnicos, una mayor cautela y un cambio en la cultura de las empresas que desarrollan esta tecnología.

Fuente: n digital