Google, OpenAI y Anthropic buscan regular seguridad de sus modelos de IA
Analizando noticia con IA…espere un momento
RESUMEN
Google, OpenAI y Anthropic avanzan en la creación de un organismo privado para vigilar la seguridad de sus modelos de inteligencia artificial más avanzados, según reportó el medio The Information. La entidad se llamaría Standards Authority for Frontier AI (SAFA) y apunta a lanzarse a fines de 2026 o principios de 2027.
SAFA respaldaría pruebas de seguridad hechas por terceros antes del lanzamiento de cada modelo, fijaría reglas para informar incidentes de seguridad y definiría estándares para certificar auditores externos, según los planes citados por TechRepublic y GovInfoSecurity.
La idea nació de una propuesta que Demis Hassabis, cofundador de Google DeepMind y científico jefe de Alphabet, publicó en un ensayo el 14 de julio. Hassabis planteó un organismo inspirado en la FINRA, el regulador que supervisa a los corredores de bolsa en Wall Street bajo un esquema mixto entre la industria y el Estado.
Por qué el gobierno de Estados Unidos quedó afuera de esta alianza
El plan original de las tres empresas era distinto, ya que buscaban una asociación público-privada con supervisión federal. Esa vía se frenó después de que un borrador de orden ejecutiva de la Casa Blanca quedara en pausa, según GovInfoSecurity.
El gobierno de Donald Trump les pidió a las compañías alcanzar primero un consenso dentro de la propia industria antes de sumarse. Ese giro dejó a SAFA como un esquema de autorregulación pura, sin intervención directa de agencias federales.
Chris Lehane, director de asuntos globales de OpenAI, confirmó a mediados de septiembre que su compañía llevaba semanas conversando con Anthropic y Google DeepMind sobre la creación conjunta de un organismo de estándares de seguridad.
No es el primer intento del sector. En 2023, OpenAI, Google, Microsoft y Anthropic ya habían fundado el Frontier Model Forum, un foro que prometía investigación conjunta sobre seguridad pero que, según Winzheng, logró avances limitados en la práctica.
Quiénes podrían liderar el organismo para la seguridad de la IA
Las tres empresas se acercaron a Sriram Krishnan, exsocio general de la firma de capital de riesgo a16z y ex asesor de inteligencia artificial de la Casa Blanca, para ocupar la dirección ejecutiva de SAFA.
También evalúan a Arati Prabhakar, exdirectora de la Oficina de Política Científica y Tecnológica de la Casa Blanca, para ese mismo cargo, de acuerdo con GovInfoSecurity.
Para presidir el directorio suenan la excanciller de Estados Unidos Condoleezza Rice y el empresario e inversor David Friedberg. Como asesores científicos, las compañías sondearon a Beth Barnes, fundadora y directora del grupo de investigación METR, y a Paul Christiano, asesor del Centro de Estándares e Innovación en IA del Departamento de Comercio y flamante integrante del directorio de la fundación de OpenAI.
Cuáles son las dudas frente a la independencia del organismo
El propio diseño del organismo despierta objeciones. Si Google, OpenAI y Anthropic son al mismo tiempo quienes redactan las reglas y quienes serán evaluados por ellas, la independencia del esquema queda en entredicho, según planteó el análisis de Winzheng.
El contexto político acompaña el reclamo. El 23 de septiembre, los directores ejecutivos de OpenAI y Anthropic, Sam Altman y Dario Amodei, hablaron ante el Consejo de Seguridad de la ONU sobre riesgos de la inteligencia artificial, en la primera sesión de ese organismo dedicada específicamente al tema.
SAFA todavía no tiene estatuto legal ni mecanismos de cumplimiento definidos, y su lanzamiento formal sigue apuntado para fines de este año o comienzos de 2027.
Fuente: Infobae
