Dos exempleados de OpenAI, que renunciaron este año por preocupaciones relacionadas con la seguridad, han expresado su decepción ante la decisión de la empresa de oponerse al proyecto de ley SB 1047 de California, que busca prevenir desastres relacionados con la inteligencia artificial. Daniel Kokotajlo y William Saunders, quienes anteriormente advirtieron sobre la “carrera imprudente” de OpenAI por dominar el mercado, señalan que esta postura de la compañía no les sorprende, aunque sí les decepciona.
Preocupaciones por la seguridad y la regulación
En una carta, Kokotajlo y Saunders critican la aparente contradicción en la postura de OpenAI. “Sam Altman, nuestro antiguo jefe, ha pedido repetidamente la regulación de la IA”, escriben. “Ahora, cuando una regulación real está sobre la mesa, él se opone”. Los dos investigadores subrayan que con una regulación adecuada, aún esperan que OpenAI pueda cumplir con su misión de desarrollar inteligencia artificial general (AGI) de manera segura.
Esta carta surge en un momento de tensión dentro del sector de la IA, donde la necesidad de regulaciones para evitar posibles riesgos se enfrenta a las preocupaciones sobre cómo estas normas podrían afectar la innovación. El proyecto de ley SB 1047 ha sido uno de los focos de este debate, especialmente en California, un estado clave para el desarrollo tecnológico.
Respuesta de OpenAI y postura de otras empresas
En respuesta a las críticas de los exempleados, un portavoz de OpenAI declaró que la empresa “discrepa categóricamente con la mala interpretación de nuestra postura sobre el SB 1047”. El portavoz explicó que OpenAI apoya la implementación de regulaciones de seguridad para la IA a nivel federal, debido a sus implicaciones para la seguridad nacional y la competitividad global, y ha respaldado proyectos de ley en el Congreso que reflejan esta visión.
Por otro lado, Anthropic, una empresa competidora de OpenAI, ha expresado su apoyo al proyecto de ley SB 1047, aunque con ciertas reservas y propuestas de enmiendas. Algunas de estas enmiendas ya han sido incorporadas al proyecto, lo que llevó al CEO de Anthropic, Dario Amodei, a escribir al gobernador Gavin Newsom afirmando que los “beneficios del proyecto de ley probablemente superen sus costos”, aunque sin darle un respaldo total.
El debate en torno al SB 1047 subraya la compleja relación entre la innovación tecnológica y la necesidad de establecer marcos regulatorios que garanticen la seguridad y el bienestar público, sin sofocar el progreso en el campo de la inteligencia artificial.
