Dois ex-funcionários da OpenAI, que se demitiram este ano por questões de segurança, expressaram sua decepção com a decisão da empresa de se opor à proposta de lei SB 1047 da Califórnia, que visa evitar desastres relacionados à IA. Daniel Kokotajlo e William Saunders, que já haviam alertado sobre a "corrida imprudente" da OpenAI para dominar o mercado, dizem que não estão surpresos com a posição da empresa, mas estão decepcionados.
Em uma carta, Kokotajlo e Saunders criticam a aparente contradição na postura da OpenAI. "Sam Altman, nosso ex-chefe, pediu repetidamente a regulamentação da IA", escreveram eles. "Agora, quando a regulamentação real está sobre a mesa, ele se opõe a ela." Os dois pesquisadores enfatizam que, com a regulamentação adequada, eles ainda esperam que a OpenAI possa cumprir sua missão de desenvolver inteligência artificial geral (AGI) com segurança.
Essa carta chega em um momento de tensão no setor de IA, em que a necessidade de regulamentações para evitar riscos em potencial é confrontada com preocupações sobre como essas regras podem afetar a inovação. O SB 1047 tem sido o foco desse debate, especialmente na Califórnia, um estado importante para o desenvolvimento tecnológico.
Resposta da OpenAI e posição de outras empresas
Em resposta às críticas dos ex-funcionários, um porta-voz da OpenAI declarou que a empresa "discorda categoricamente da interpretação errônea de nossa posição sobre a SB 1047". O porta-voz explicou que a OpenAI apoia a implementação de regulamentações de segurança de IA em nível federal, devido às suas implicações para a segurança nacional e a competitividade global, e apoiou projetos de lei no Congresso que refletem essa visão..
Por outro lado, a Anthropic, uma concorrente da OpenAI, expressou seu apoio ao SB 1047, embora com algumas reservas e emendas propostas. Algumas dessas emendas já foram incorporadas ao projeto de lei, o que levou o CEO da Anthropic, Dario Amodei, a escrever para o governador Gavin Newsom afirmando que os "benefícios do projeto de lei provavelmente superam seus custos", embora sem dar total apoio.
O debate em torno do SB 1047 ressalta a complexa relação entre a inovação tecnológica e a necessidade de estabelecer estruturas regulatórias que garantam a segurança e o bem-estar público, sem sufocar o progresso no campo da inteligência artificial.
