Newsom firma nuevas leyes para fortalecer la supervisión de la inteligencia artificial en California

-Editorial 

El gobernador Gavin Newsom firmó dos proyectos de ley que establecen nuevos requisitos de supervisión y auditoría para los sistemas de inteligencia artificial en California, ampliando el marco regulatorio del estado a medida que esta tecnología se utiliza cada vez más en el gobierno, las empresas y otros sectores.

El Proyecto de Ley del Senado 813 (SB 813) y el Proyecto de Ley de la Asamblea 1405 (AB 1405) crean un marco para que organizaciones independientes y auditores evalúen los sistemas de inteligencia artificial y su cumplimiento con los requisitos estatales.

La SB 813, del senador estatal Jerry McNerney, demócrata de Pleasanton, establece un marco para organizaciones independientes de verificación que podrán evaluar sistemas y modelos de inteligencia artificial para determinar si cumplen con las leyes de California.

La AB 1405, de la asambleísta Rebecca Bauer-Kahan, demócrata de Orinda, establece un registro estatal de auditores de inteligencia artificial y fija estándares relacionados con su independencia, transparencia e integridad.

La administración de Newsom señaló que las medidas buscan aumentar la supervisión independiente de la inteligencia artificial a medida que sus capacidades y usos continúan expandiéndose.

“La inteligencia artificial tiene el potencial de mejorar nuestras vidas, pero sin salvaguardas efectivas, representa riesgos significativos”, dijo McNerney en un comunicado. Agregó que las evaluaciones independientes realizadas por terceros podrían ayudar a identificar posibles problemas de seguridad y brindar una supervisión adicional.

Bauer-Kahan dijo que los auditores independientes podrían desempeñar un papel en la evaluación de las afirmaciones realizadas por los desarrolladores de inteligencia artificial y en la identificación de posibles riesgos para las comunidades y la infraestructura crítica.

“Los californianos merecen saber que los sistemas y modelos de inteligencia artificial que influyen en sus vidas son seguros”, dijo Bauer-Kahan. “No podemos esperar que la industria simplemente se califique a sí misma”.

Las nuevas leyes se suman a varias medidas relacionadas con la inteligencia artificial que California ha adoptado en los últimos años.

En 2023, Newsom emitió una orden ejecutiva que instruyó a las agencias estatales a analizar cómo podría utilizarse la inteligencia artificial generativa dentro del gobierno, al tiempo que identificaban posibles riesgos relacionados con la privacidad, la seguridad, los trabajadores y el público.

California adoptó legislación adicional sobre inteligencia artificial en 2024, abordando temas como los contenidos falsos generados mediante inteligencia artificial, conocidos como “deepfakes”, las marcas de agua digitales y las protecciones para menores y trabajadores.

En 2025, Newsom firmó la SB 53, conocida como Ley de Transparencia en Inteligencia Artificial de Frontera, que estableció requisitos de divulgación para los desarrolladores de ciertos modelos avanzados de inteligencia artificial. La ley exige que los desarrolladores sujetos a sus disposiciones hagan públicos sus marcos de seguridad y reporten determinados incidentes críticos de seguridad al estado. También incluye protecciones para denunciantes que informen sobre posibles riesgos.

California también ha adoptado regulaciones y programas relacionados con los chatbots de inteligencia artificial diseñados para interactuar como acompañantes, las tecnologías automatizadas para la toma de decisiones y el uso de inteligencia artificial en la ciberseguridad.

A principios de este año, Newsom emitió una orden ejecutiva relacionada con la protección de la privacidad y las libertades civiles en la adquisición de tecnología de inteligencia artificial por parte del estado. Su administración también estableció un Grupo de Trabajo contra el Fraude Tecnológico enfocado en combatir fraudes relacionados con la inteligencia artificial.

En agosto, la administración anunció un Programa de Ciberdefensa con Inteligencia Artificial dentro del Centro de Integración de Ciberseguridad de California. El programa busca utilizar tecnología de inteligencia artificial para identificar vulnerabilidades, fortalecer las redes y apoyar la respuesta ante incidentes de ciberseguridad.

Newsom dijo que California busca fomentar el desarrollo tecnológico al mismo tiempo que establece salvaguardas para su uso.

“La inteligencia artificial ofrece posibilidades extraordinarias, pero debe desarrollarse e implementarse con salvaguardas significativas para proteger al público”, dijo Newsom.

El gobernador también pidió regulaciones federales para la inteligencia artificial, argumentando que el alcance de esta tecnología va más allá de las fronteras de cada estado.

Las nuevas leyes entran en vigor mientras legisladores y funcionarios de todo el país continúan debatiendo cómo regular el rápido desarrollo de la inteligencia artificial, buscando un equilibrio entre sus posibles beneficios económicos y tecnológicos y las preocupaciones relacionadas con la privacidad, la ciberseguridad, la desinformación, la seguridad y la rendición de cuentas.