Respuesta de OpenAI
Los ejecutivos de OpenAI revelaron el incidente a sus empleados durante una reunión general en las oficinas de la compañía en San Francisco en abril de 2023 e informaron a su junta directiva. Sin embargo, decidieron no hacer pública la noticia ya que no se robó información sobre clientes o socios. Los directivos no consideraron el incidente como una amenaza a la seguridad nacional, creyendo que el hacker era un individuo privado sin vínculos conocidos con gobiernos extranjeros, por lo que no informaron al FBI ni a otras autoridades.
La noticia generó temores entre algunos empleados de que adversarios extranjeros, como China, pudieran robar tecnología de IA que podría eventualmente poner en peligro la seguridad nacional de Estados Unidos. También surgieron preguntas sobre la seriedad con la que OpenAI estaba tratando la seguridad y expuso divisiones dentro de la empresa sobre los riesgos de la inteligencia artificial.
Tras el incidente, Leopold Aschenbrenner, gerente de programas técnicos, envió un memorando a la junta directiva argumentando que OpenAI no estaba haciendo lo suficiente para evitar que el gobierno chino y otros adversarios extranjeros robaran sus secretos. Aschenbrenner fue despedido en primavera por filtrar otra información y argumentó que su despido tuvo motivaciones políticas. Aludió a la violación en un podcast reciente, pero los detalles no se habían informado previamente. Dijo que la seguridad de OpenAI no era lo suficientemente fuerte para proteger contra el robo de secretos clave si actores extranjeros se infiltraban en la empresa.
"Apreciamos las preocupaciones que Leopold planteó mientras estaba en OpenAI, y esto no condujo a su separación", dijo una portavoz de OpenAI, Liz Bourgeois. Refiriéndose a los esfuerzos de la compañía para construir inteligencia artificial general, agregó: "Si bien compartimos su compromiso de construir una IA segura, no estamos de acuerdo con muchas de las afirmaciones que ha hecho desde entonces sobre nuestro trabajo. Esto incluye sus caracterizaciones de nuestra seguridad, en particular este incidente, que abordamos y compartimos con nuestra junta directiva antes de que se uniera a la empresa".
Temores de que un hackeo pueda tener vínculos con China no son infundados. El mes pasado, Brad Smith, presidente de Microsoft, testificó en el Capitolio sobre cómo piratas informáticos chinos utilizaron los sistemas de Microsoft para lanzar un ataque contra las redes del gobierno federal. Sin embargo, según las leyes federales y de California, OpenAI no puede impedir que personas trabajen en la empresa debido a su nacionalidad. Prohibir el talento extranjero podría obstaculizar significativamente el progreso de la IA en Estados Unidos. "Necesitamos las mejores y más brillantes mentes trabajando en esta tecnología", dijo Matt Knight, jefe de seguridad de OpenAI. "Conlleva algunos riesgos, y tenemos que resolverlos".
Empresas como OpenAI y sus competidores Anthropic y Google agregan barreras de seguridad a sus aplicaciones de IA antes de ofrecerlas a individuos y empresas, con la esperanza de evitar que las personas usen las aplicaciones para difundir desinformación o causar otros problemas. Pero no hay mucha evidencia de que las tecnologías de IA actuales sean un riesgo significativo para la seguridad nacional. Los estudios realizados por OpenAI, Anthropic y otros mostraron que la IA no era significativamente más peligrosa que los motores de búsqueda.
Empresas chinas están construyendo sus propios sistemas casi tan poderosos como los principales sistemas de Estados Unidos. Según algunas métricas, China eclipsó a Estados Unidos como el mayor productor de talento de IA, generando casi la mitad de los principales investigadores de IA del mundo. "No es descabellado pensar que China pronto estará por delante de Estados Unidos", dijo Clément Delangue, director ejecutivo de Hugging Face.
