El gobernador de California, Gavin Newsom, vetó el controvertido proyecto de ley de regulación de la IA SB 1047 el 29 de septiembre. El proyecto de ley “no llega a proporcionar una solución flexible e integral para frenar los riesgos catastróficos potenciales”, escribió la oficina del gobernador. El anuncio incluyó medidas alternativas para fomentar la industria de la IA en California y prevenir daños.
Newsom: el proyecto de ley ‘podría dar al público una falsa sensación de seguridad’
La SB 1047, la Ley de Innovación Segura para Modelos Fronterizos de Inteligencia Artificial, habría sido la regulación más estricta del país con respecto a la IA generativa. Su objetivo era brindar protección a los denunciantes de la industria, exigir a los grandes desarrolladores de IA que pudieran cerrar completamente sus modelos y responsabilizar a las principales empresas de IA de que cumplieran estrictos protocolos de seguridad.
El proyecto de ley fue aprobado por la Asamblea y el Senado del Estado de California en agosto.
En su declaración vetando el proyecto de ley, Newsom dijo que la SB 1047 “establece un marco regulatorio que podría dar al público una falsa sensación de seguridad sobre el control de esta tecnología de rápido movimiento” porque el proyecto de ley se centra en modelos grandes y costosos en lugar de modelos más pequeños en alta gama. -situaciones de riesgo.
“Aunque tiene buenas intenciones, la SB 1047 no tiene en cuenta si un sistema de Al se implementa en entornos de alto riesgo, implica la toma de decisiones críticas o el uso de datos confidenciales”, escribió Newsom. “En cambio, el proyecto de ley aplica estándares estrictos incluso a las funciones más básicas, siempre que lo implemente un sistema grande. No creo que este sea el mejor enfoque para proteger al público de las amenazas reales que plantea la tecnología”.
Sin embargo, el 29 de septiembre, el gobernador señaló varias iniciativas nuevas relacionadas con la IA generativa:
- Se requerirá que la Oficina de Servicios de Emergencia de California amplíe su trabajo actual para evaluar las amenazas potenciales de la IA generativa.
- El estado convocará a un grupo de expertos y académicos en IA, incluida la profesora de la Universidad de Stanford y “abuela” de la IA, Fei-Fei Li, para “ayudar a California a desarrollar barreras de seguridad viables”.
- El estado convocará a académicos, partes interesadas laborales y el sector privado para “explorar enfoques para utilizar la tecnología GenAI en el lugar de trabajo”.
¿El proyecto de ley de IA de California va demasiado lejos o no lo suficiente?
El senador Scott Wiener (D-Calif) es el autor principal de la SB 1047. Criticó la decisión de Newsom en una publicación X el domingo.
“Este veto es un revés para todos los que creen en la supervisión de corporaciones masivas que están tomando decisiones críticas que afectan la seguridad y el bienestar del público y el futuro del planeta”, escribió.
“El mensaje de veto del Gobernador enumera una variedad de críticas a la SB 1047: que el proyecto de ley no va lo suficientemente lejos, pero va demasiado lejos; “Los riesgos son urgentes, pero debemos actuar con precaución”, escribió Wiener en una respuesta formal a la decisión de Newsom. “El SB 1047 fue elaborado por algunas de las principales mentes de inteligencia artificial del planeta, y cualquier implicación de que no se base en evidencia empírica es evidentemente absurda”.
El gobierno federal había estado siguiendo de cerca a California, ya que el estado podría sentar un precedente para la regulación de la IA. Hasta ahora, se ha abstenido en gran medida de implementar regulaciones amplias o específicas sobre IA, optando en cambio por acuerdos voluntarios.
VER: El gobierno de EE. UU. firmó un tratado internacional que declara que la IA debe respetar la dignidad humana y estar sujeta a supervisión.
Empresas como OpenAI, Meta y Google se opusieron a la SB 1047 por ralentizar la innovación o aprovechar “requisitos técnicamente inviables”. Otros actores tecnológicos, incluidos Elon Musk y Anthropic, que contribuyeron a la redacción del proyecto de ley, apoyaron la forma en que el proyecto de ley aborda los riesgos potenciales de la IA.
¿Qué significa el veto para las empresas?
Para las partes interesadas empresariales involucradas en la estrategia de IA, el veto significa que los proyectos de IA a gran escala en California enfrentarán menos escrutinio estatal del que podrían tener de otra manera. Newsom ha aprobado una variedad de otras regulaciones sobre IA, incluida la prohibición de deepfakes durante la temporada electoral y regulaciones sobre el uso de IA en industrias como la atención médica y los seguros.
El veto también significa que se pueden seguir desarrollando grandes modelos de IA en California sin “interruptores de apagado”. Las organizaciones pueden instituir su propia gobernanza de la IA según lo deseen. En agosto, Deloitte descubrió que “equilibrar la innovación con la regulación” era la cuestión ética más importante en el despliegue y desarrollo de la IA entre las organizaciones encuestadas.
