California impone "kill switch" a empresas de inteligencia artificial mientras Washington no actúa
El gobernador Gavin Newsom firmó una orden ejecutiva que obliga a evaluar un interruptor de apagado de emergencia y auditores permanentes en los laboratorios de IA del estado.
La regulación de la inteligencia artificial en California dio un salto este viernes 19 de septiembre cuando el gobernador Gavin Newsom firmó una orden ejecutiva que endurece la vigilancia sobre las empresas del sector en el estado con la economía más grande de Estados Unidos.
La orden instruye a la Agencia de Operaciones Gubernamentales de California a presentar, antes del 16 de noviembre, recomendaciones sobre la viabilidad técnica de reformar las leyes estatales vigentes en materia de seguridad de la IA. Esas recomendaciones deberán elaborarse en consulta con expertos nacionales.
El "kill switch": qué es y a quién afecta
Entre los puntos que deberá analizar el gobierno estatal figura la obligatoriedad de que los llamados "grandes desarrolladores de frontera", las empresas que crean los modelos de inteligencia artificial más avanzados, integren de forma permanente auditores independientes dentro de sus instalaciones. La medida incluye también la creación de un mecanismo de apagado de emergencia: un "kill switch" cuya eficacia sería verificada de manera continua por esas mismas organizaciones certificadoras.
La orden llegó en un momento en que el Congreso federal no ha logrado avanzar en una regulación nacional para el sector. Newsom no dejó pasar la oportunidad de presionar a Washington con una publicación directa en X.
Newsom le manda el mensaje al Congreso
"California hará lo que puede hacer, pero la nación tiene que entrar al juego. Washington D.C. tiene que hacer su trabajo", escribió el gobernador en su cuenta de X. Newsom, quien es visto como un posible aspirante a la presidencia de EE.UU. en 2028, calificó de "notable" que el Congreso se haya tomado un receso a mitad de año y llamó al presidente de la Cámara de Representantes, Mike Johnson, y a sus colegas legisladores a regresar de su descanso.
"Un marco de seguridad integral como estándar mínimo es lo mínimo que se puede esperar de ellos. Nuestro modelo funciona y si el Congreso no actúa, California sí", añadió Newsom.
California ya lleva la delantera en regulación de IA
El estado no llegó a este punto de improviso. En 2024, California lideró un proyecto para abordar las falsificaciones profundas (deepfakes), las marcas de agua digitales, la protección de la infancia y los derechos de los trabajadores. Además, promulgó una medida pionera para exigir que las mayores empresas de inteligencia artificial en California divulguen públicamente sus protocolos de seguridad, y firmó dos proyectos de ley para proteger la imagen digital de los artistas frente al uso de actuaciones generadas por IA.
El estado cuenta también con la Ley de Transparencia de IA, que exige el uso de marcas de agua en contenidos generados por esta tecnología y obliga a las empresas a ofrecer herramientas de detección y avisos informativos a los usuarios.
Qué sigue
La pelota queda ahora en manos de la Agencia de Operaciones Gubernamentales, que tiene hasta el 16 de noviembre para entregar sus recomendaciones. Si se adoptan, las empresas de IA más poderosas del planeta, muchas de ellas con sede en Silicon Valley, tendrían que abrirle las puertas a auditores del Estado y demostrar que pueden apagar sus propios sistemas cuando sea necesario. Lo que decida California suele marcar el camino para el resto del país, y esta vez no sería la excepción.
