California acelera medidas de seguridad para IA y plantea desarrollar un mecanismo de apagado de emergencia
Sacramento, California.- El gobernador de California, Gavin Newsom, firmó una orden ejecutiva para acelerar las medidas de supervisión y seguridad aplicables a sistemas avanzados de inteligencia artificial (IA), además de impulsar el desarrollo de un mecanismo que permita detener modelos de IA en caso de una emergencia.
La medida contempla la participación de especialistas que deberán elaborar recomendaciones para fortalecer las normas estatales de seguridad y supervisión de la tecnología. Entre las propuestas que serán analizadas se encuentra la creación de un “interruptor de apagado” o “kill switch” para modelos de IA considerados de frontera.
Buscan mayor supervisión independiente
La orden ejecutiva también acelera la implementación de un sistema de verificación y auditorías independientes para empresas que desarrollan sistemas avanzados de IA.
De acuerdo con la oficina del gobernador, California busca que terceros especializados puedan evaluar los riesgos de estos sistemas y verificar la aplicación de medidas de seguridad, transparencia y prevención de incidentes.
El mecanismo de apagado de emergencia todavía forma parte de las recomendaciones que deberán desarrollarse y evaluar las autoridades estatales, por lo que no se trata de una herramienta que ya se encuentre operando de manera generalizada.
Newsom cuestiona la respuesta federal
Al anunciar la medida, Newsom criticó al Gobierno federal encabezado por Donald Trump y sostuvo que Washington no ha establecido suficientes mecanismos de supervisión y rendición de cuentas para la inteligencia artificial.
La oficina del gobernador también señaló que la orden responde a recientes incidentes relacionados con riesgos de seguridad tecnológica y a la preocupación por posibles usos indebidos de sistemas avanzados.
Las declaraciones forman parte de la postura política de la administración de California frente a la regulación de la IA y a la falta de una legislación federal que, según el gobierno estatal, establezca requisitos nacionales de seguridad.
California amplía su marco regulatorio
La nueva orden se suma a otras medidas adoptadas recientemente por California para establecer controles sobre la inteligencia artificial.
El pasado 9 de septiembre, Newsom promulgó leyes que establecen un marco para organizaciones independientes encargadas de evaluar la seguridad y los riesgos de sistemas de IA. Estas disposiciones buscan incrementar la transparencia y la supervisión de las empresas tecnológicas.
Con la nueva orden ejecutiva, las autoridades estatales deberán acelerar estos procesos y presentar recomendaciones para reforzar las medidas de seguridad, incluida la posibilidad de establecer un mecanismo de apagado de emergencia para determinados modelos avanzados.
El objetivo, de acuerdo con el gobierno estatal, es establecer controles que permitan responder ante incidentes graves sin frenar el desarrollo de nuevas tecnologías.
