La empresa de inteligencia artificial Anthropic ha expresado su apoyo cauteloso al proyecto de ley SB 1047, que busca regular el uso de la inteligencia artificial en California. En una carta enviada al gobernador Gavin Newsom, el CEO de Anthropic, Dario Amodei, afirmó que “los beneficios del proyecto de ley probablemente superen los costos”, aunque también señaló que la compañía aún tiene reservas sobre algunos aspectos de la legislación que considera “preocupantes o ambiguos”.
Modificaciones y enfoques sugeridos
El respaldo de Anthropic se produce apenas un mes después de que la compañía sugiriera una serie de enmiendas a la SB 1047, un proyecto de ley presentado por el senador Scott Wiener en febrero. En una carta enviada en julio a los líderes estatales, Anthropic propuso un mayor énfasis en desalentar la creación de modelos de IA inseguros, en lugar de imponer regulaciones estrictas antes de que ocurran incidentes graves. También sugirieron que las empresas deberían tener la flexibilidad de establecer sus propios estándares de pruebas de seguridad en lugar de seguir únicamente las regulaciones impuestas por el estado.
El proyecto de ley fue modificado el 19 de agosto para incluir varios cambios importantes. Por ejemplo, se limitó el alcance de las sanciones civiles en casos donde las infracciones no resulten en daño o riesgo inminente. Además, el lenguaje del proyecto fue ajustado: en lugar de exigir una “garantía razonable” contra posibles daños, ahora se requiere demostrar un “cuidado razonable”. Este cambio, según Nathan Calvin, asesor principal de políticas del Centro para el Fondo de Acción para la Seguridad de la IA, busca aclarar el enfoque en las pruebas y la mitigación de riesgos, y se alinea con los estándares más comunes en responsabilidad civil.
Otra modificación significativa fue la reducción del tamaño de una nueva agencia gubernamental encargada de hacer cumplir las regulaciones de IA, que pasó de ser una “División de Modelos Fronterizos” a una “Junta de Modelos Fronterizos” dentro de la Agencia de Operaciones Gubernamentales ya existente. Este cambio aumentó el número de miembros de cinco a nueve y amplió los requisitos de informes para las empresas, que ahora deben presentar informes de seguridad al fiscal general del estado.
Impacto en la industria de la IA
Dario Amodei afirmó que el proyecto de ley actualizado “parece estar a medio camino entre nuestra versión sugerida y el proyecto de ley original”. Considera que los protocolos de seguridad y protección propuestos, así como las medidas para mitigar los daños y hacer que las empresas reflexionen seriamente sobre los riesgos de sus tecnologías, fortalecerán significativamente la capacidad de la industria para combatir amenazas.
Mientras Anthropic respalda parcialmente el proyecto, otras empresas tecnológicas han mostrado más resistencia. OpenAI, por ejemplo, envió una carta esta semana manifestando su oposición, al igual que Meta, que expresó su preocupación de que las nuevas regulaciones podrían expulsar a las empresas de IA de California y desalentar el desarrollo de IA de código abierto.
Este debate refleja la tensión entre la innovación y la seguridad en la industria de la inteligencia artificial, mientras las empresas y los legisladores intentan encontrar un equilibrio que permita el desarrollo tecnológico sin comprometer la seguridad pública.
