El CEO de OpenAI, Sam Altman, ha decidido dejar su puesto en el comité interno creado por la compañía para supervisar las decisiones de seguridad críticas relacionadas con sus proyectos y operaciones. Esta comisión, establecida en mayo de 2023, estaba diseñada para garantizar que los desarrollos de OpenAI se llevaran a cabo de manera segura y responsable.
En una publicación en su blog, OpenAI anunció que el comité, denominado Comité de Seguridad y Protección, se convertirá en un grupo de supervisión independiente. Este será liderado por el profesor de Carnegie Mellon, Zico Kolter, e incluirá figuras destacadas como el CEO de Quora, Adam D’Angelo, el general retirado del ejército de EE.UU., Paul Nakasone, y la ex vicepresidenta ejecutiva de Sony, Nicole Seligman. Todos ellos ya formaban parte de la junta directiva de OpenAI.
Cambios en la supervisión de seguridad
OpenAI detalló que el comité revisó la seguridad de su modelo más reciente, o1, después de la salida de Altman. Este grupo continuará recibiendo informes regulares del equipo de seguridad de OpenAI y tendrá la autoridad para retrasar lanzamientos si no se abordan adecuadamente las preocupaciones sobre seguridad.
Según el comunicado de la empresa, el comité seguirá supervisando los aspectos técnicos de los modelos actuales y futuros, y gestionará la monitorización post-lanzamiento. Además, OpenAI señaló que están trabajando para integrar un marco de seguridad más robusto en sus procesos de lanzamiento de modelos, con criterios de éxito claramente definidos.
La salida de Altman del comité de seguridad ocurre después de que cinco senadores de Estados Unidos cuestionaran las políticas de OpenAI en una carta dirigida a él. A esto se suma que casi la mitad del personal que se enfocaba en los riesgos a largo plazo de la IA ha dejado la empresa. Algunos ex investigadores han acusado a Altman de oponerse a una regulación real de la IA, priorizando los intereses comerciales de OpenAI.
Crecientes intereses comerciales
A pesar de la creación de este comité independiente, algunos críticos señalan que es poco probable que este organismo tome decisiones que afecten significativamente la hoja de ruta comercial de OpenAI. La compañía, que busca recaudar más de 6.500 millones de dólares en una nueva ronda de financiación, podría incluso abandonar su estructura corporativa híbrida de fines no lucrativos, lo que incrementa las preocupaciones sobre la alineación de sus objetivos con su misión original de beneficiar a la humanidad mediante la inteligencia artificial.
