El proyecto de ley SB 1047, actualmente en debate en California, está generando un intenso debate en la comunidad tecnológica, especialmente entre las empresas de inteligencia artificial (IA) con sede en Silicon Valley. Presentado por el senador estatal Scott Wiener, el proyecto de ley propone establecer estrictos requisitos de seguridad para las empresas que desarrollen modelos de IA de gran envergadura, con el objetivo de evitar posibles catástrofes como la creación de armas biológicas o desastres financieros.
Fechas clave en California
La legislación, que ya fue aprobada por el Senado estatal en mayo de 2024, se encuentra ahora en la fase final de revisión por la Asamblea estatal. La votación en la Asamblea está programada para finales de agosto de 2024. Si se aprueba, la ley podría ser firmada por el gobernador Gavin Newsom y entrar en vigor a principios de 2025. Las empresas de IA tendrían un plazo para cumplir con los nuevos requisitos de seguridad, probablemente durante el primer semestre de 2025.
El proyecto de ley obligaría a las empresas de IA a implementar mecanismos que permitan desconectar los sistemas en caso de emergencia, además de tomar medidas preventivas para evitar daños catastróficos. Las empresas también estarían obligadas a presentar una declaración de conformidad al fiscal general de California y podrían enfrentar sanciones civiles si no cumplen con estos requisitos.
Sin embargo, el proyecto de ley ha encontrado una fuerte oposición en Silicon Valley, un centro neurálgico de la innovación tecnológica. Empresas líderes en el sector, como OpenAI, han expresado su preocupación de que la regulación estatal pueda frenar la innovación y desalentar la inversión en tecnología dentro del estado. En una carta dirigida a la oficina del senador Wiener, Jason Kwon, director de estrategia de OpenAI, destacó: “La revolución de la IA no ha hecho más que empezar, y el estatus único de California como líder mundial en IA está impulsando el dinamismo económico del estado. El SB 1047 amenazaría ese crecimiento, ralentizaría el ritmo de la innovación y llevaría a los ingenieros y emprendedores de clase mundial de California a abandonar el estado en busca de mayores oportunidades en otros lugares”.
Los opositores al proyecto de ley también temen que la legislación pueda provocar una fuga de talentos e inversiones hacia otros estados o países con un entorno regulatorio más favorable.
Críticas Demócratas
Hasta figuras Demócratas como Nancy Pelosi, ex presidenta de la Cámara de Representantes y una voz influyente en la política estadounidense, también se ha pronunciado en contra del proyecto de ley. Pelosi calificó la legislación como "mal informada" y expresó su preocupación de que podría afectar negativamente la posición de California como líder en tecnología. Según Pelosi, la ley podría generar consecuencias no deseadas al imponer restricciones excesivas que frenarían el avance de la IA en el estado. En esa misma línea también se colocaron otro políticos del 'Estado dorado' como Anna Eshoo y Ro Khanna.
En respuesta a las críticas, el senador Wiener ha defendido la necesidad de la legislación, afirmando que el SB 1047 busca establecer normas de seguridad "de sentido común" que ya han sido aceptadas por los principales laboratorios de IA. Además, ha señalado que la ley se aplicaría a cualquier empresa que opere en California, independientemente de dónde tengan su sede, lo que refuta las preocupaciones sobre una posible fuga de talentos. Wiener comentó: “En resumen: El SB 1047 es un proyecto de ley muy razonable que pide a los grandes laboratorios de IA que hagan lo que ya se han comprometido a hacer, es decir, probar sus grandes modelos para detectar riesgos de seguridad catastróficos. El SB 1047 está bien calibrada con lo que sabemos sobre los riesgos previsibles de la IA, y merece ser promulgada”.
Para abordar algunas de las preocupaciones planteadas, Wiener introdujo enmiendas al proyecto de ley, eliminando la responsabilidad penal para las empresas que no cumplan con la normativa y protegiendo a los desarrolladores de código abierto más pequeños. No obstante, estas modificaciones no han sido suficientes para calmar la oposición.
A medida que se acerca la votación en la Asamblea estatal, el futuro del proyecto de ley SB 1047 sigue siendo incierto. Si se aprueba, la ley podría sentar un precedente en la regulación de la IA en Estados Unidos, marcando un punto de inflexión en la relación entre la innovación tecnológica y la regulación gubernamental. Sin embargo, también podría desencadenar una serie de desafíos legales y económicos que podrían afectar la posición de California como líder global en tecnología.
