El gobernador de California, Gavin Newsom, vetó la ley SB1047, que regularía la IA al punto de frenar su desarrollo, por considerarla demasiado inflexible; después anunció una serie de nuevas iniciativas en la materia que están enfocadas en proteger a la población frente a los riesgos de esta tecnología. Newsom subrayó la necesidad de una regulación equilibrada que permita aprovechar el potencial de la IA, sin descuidar los posibles peligros.
El gobernador de California, Gavin Newsom, anunció nuevas iniciativas para regular la inteligencia artificial (IA) en el estado, enfocándose en garantizar su uso seguro y responsable. Aunque Newsom firmó varias leyes relacionadas con la IA, también vetó la ley SB 1047, argumentando que imponía reglas demasiado rígidas sin diferenciar entre sistemas de alto y bajo riesgo.
Iniciativas de regulación y colaboración con expertos
Newsom ha firmado 17 leyes en los últimos 30 días para abordar diferentes aspectos de la IA, como la protección de los niños y trabajadores, la lucha contra las «deepfakes» (videos falsificados) y la creación de marcas de agua en contenidos generados por IA. Además, se ha comprometido a seguir trabajando con la Legislatura de California para desarrollar regulaciones flexibles que protejan a los californianos de posibles riesgos catastróficos.
Para liderar estos esfuerzos, Newsom ha convocado a expertos como la Dra. Fei-Fei Li, conocida como la “madrina de la IA”, Tino Cuéllar, miembro del Comité de Implicaciones Éticas de la IA, y Jennifer Tour Chayes, decana de la Universidad de California en Berkeley. Estos expertos ayudarán a desarrollar medidas prácticas y basadas en la ciencia para guiar el uso de la IA en el estado.
El veto a la SB 1047
La ley SB1047 fue redactado por el senador Scott Wiener y estaba enfocado en presionar a las empresas que desarrollan IA a que implementaran protocolos de seguridad para prevenir «daños críticos» en proyectos con una inversión superior a 100 millones de dólares y requirieran de 10^26 FLOPS (operaciones de medida flotante). Empresas como Open AI y Meta se opusieron a esta iniciativa pero aún así, la ley fue aprobada por el Congreso de California.
Tras la aprobación del congreso con las reservas de las empresas tecnológicas, el gobernador decidió vetar la ley SB 1047, argumentando que, aunque tenía buenas intenciones, aplicaba estándares estrictos incluso para funciones básicas de IA, lo que podría obstaculizar la innovación. Newsom afirmó que era necesario un enfoque más equilibrado que distinga entre aplicaciones de IA de alto riesgo y aquellas que no representen peligro para el público.
“Si bien tiene buenas intenciones, la SB 1047 no tiene en cuenta si un sistema de IA se implementa en entornos de alto riesgo, si implica la toma de decisiones críticas o el uso de datos confidenciales. En cambio, el proyecto de ley aplica estándares estrictos incluso a las funciones más básicas, siempre que un sistema de gran tamaño las implemente. No creo que este sea el mejor enfoque para proteger al público de las amenazas reales que plantea la tecnología”, explicó el gobernador.
El liderazgo de California en IA
California sigue siendo líder mundial en inteligencia artificial, albergando a más de la mitad de las empresas más importantes del sector. El estado también se ha destacado en la implementación de iniciativas tecnológicas para resolver problemas como el tráfico y la falta de vivienda. Con estas nuevas medidas, Newsom busca asegurar que la IA sea utilizada para el beneficio de la sociedad, sin comprometer la seguridad de los californianos.
Peoyectos firmados por Newsom
-AB 1008 de la asambleísta Rebecca Bauer-Kahan (D-Orinda) : aclara que la información personal según la Ley de Privacidad del Consumidor de California (CCPA) puede existir en varios formatos, incluida la información almacenada por sistemas de inteligencia artificial. (previamente firmada).
-AB 1831 del asambleísta Marc Berman (D-Menlo Park) : amplía el alcance de los estatutos existentes sobre pornografía infantil para incluir material alterado digitalmente o generado mediante el uso de IA.
-AB 1836 de la asambleísta Rebecca Bauer-Kahan (D-Orinda) : Prohíbe que una persona produzca, distribuya o ponga a disposición la réplica digital de la voz o la imagen de una personalidad fallecida en una obra audiovisual expresiva o grabación de sonido sin consentimiento previo, excepto según lo dispuesto. (previamente firmado).
-AB 2013 de la asambleísta Jacqui Irwin (D-Thousand Oaks) : exige que los desarrolladores de IA publiquen información sobre los datos utilizados para entrenar el sistema o servicio de IA en sus sitios web. (previamente firmada).
-AB 2355 de la asambleísta Wendy Carrillo (D-Los Ángeles) : exige que los comités que creen, publiquen o distribuyan un anuncio político que contenga cualquier imagen, audio o video generado o alterado sustancialmente mediante inteligencia artificial incluyan una declaración en el anuncio que indique que el contenido ha sido alterado de esa manera. (previamente firmada).
-AB 2602 del asambleísta Ash Kalra (D-San José) : establece que un acuerdo para la prestación de servicios personales o profesionales que contenga una disposición que permita el uso de una réplica digital de la voz o la imagen de un individuo no se podrá hacer cumplir si no incluye una descripción razonablemente específica de los usos previstos de la réplica y el individuo no está representado por un asesor legal o por un sindicato, como se especifica. (previamente firmado).
-AB 2655 del asambleísta Marc Berman (demócrata de Menlo Park) : exige que las grandes plataformas en línea con al menos un millón de usuarios en California eliminen contenido engañoso y modificado o creado digitalmente relacionado con las elecciones, o etiqueten ese contenido, durante períodos específicos antes y después de una elección, si el contenido se informa a la plataforma. Prevé medidas cautelares. (Firmada previamente).
-AB 2839 de la asambleísta Gail Pellerin (D-Santa Cruz) : amplía el plazo en el que se prohíbe a un comité u otra entidad distribuir a sabiendas un anuncio u otro material electoral que contenga contenido engañoso generado o manipulado por IA de 60 días a 120 días, entre otras cosas. (previamente firmada),
-AB 2876 del asambleísta Marc Berman (D-Menlo Park) : requiere que la Comisión de Calidad Instruccional (IQC) considere incluir la alfabetización en IA en los marcos curriculares y materiales instructivos de matemáticas, ciencias e historia-ciencias sociales.
-AB 2885 de la asambleísta Rebecca Bauer-Kahan (D-Orinda) : establece una definición uniforme de IA, o inteligencia artificial, en la ley de California. (previamente firmada).
-AB 3030 de la asambleísta Lisa Calderón (D-Whittier) : exige que determinados proveedores de atención médica revelen el uso de GenAI cuando se utiliza para generar comunicaciones con un paciente relacionadas con información clínica del paciente. (previamente firmada).
-SB 896 del Senador Bill Dodd (D-Napa) – Requiere que CDT actualice el informe para el Gobernador según lo solicitado en la Orden Ejecutiva N-12-23, relacionado con la adquisición y el uso de GenAI por parte del estado; requiere que OES realice un análisis de riesgos de las amenazas potenciales que plantea el uso de GenAI a la infraestructura crítica de California (con un resumen de alto nivel para la Legislatura); y requiere que se divulgue el uso de GenAI para las comunicaciones estatales.
-SB 926 de la Senadora Aisha Wahab (D-Silicon Valley) – Crea un nuevo delito para una persona que intencionalmente cree y distribuya cualquier imagen sexualmente explícita de otra persona identificable que haya sido creada de una manera que haría que una persona razonable crea que la imagen es una imagen auténtica de la persona retratada, bajo circunstancias en las que la persona que distribuye la imagen sabe o debería saber que la distribución de la imagen causará una angustia emocional grave, y la persona retratada sufre esa angustia. (previamente firmada).
-SB 942 del Senador Josh Becker (D-Menlo Park) : Requiere que los desarrolladores de sistemas GenAI cubiertos incluyan divulgaciones de procedencia en el contenido original que producen sus sistemas y pongan a disposición herramientas para identificar el contenido GenAI producido por sus sistemas. (previamente firmado).
-SB 981 de la senadora Aisha Wahab (D-Silicon Valley) : requiere que las plataformas de redes sociales establezcan un mecanismo para denunciar y eliminar el “robo de identidad digital sexualmente explícito”. (Firmado previamente).
-SB 1120 del Senador Josh Becker (D-Menlo Park) : Establece requisitos para los planes de salud y las aseguradoras aplicables a su uso de IA para la revisión de la utilización y las decisiones de gestión de la utilización, incluido que el uso de IA, algoritmos u otro software debe basarse en el historial médico u otro historial clínico del paciente y las circunstancias clínicas individuales según lo presentado por el proveedor solicitante y no suplantar la toma de decisiones del proveedor de atención médica. (previamente firmado)
-SB 1288 del Senador Josh Becker (D-Menlo Park) : Requiere que el Superintendente de Instrucción Pública (SPI) convoque a un grupo de trabajo con el propósito de explorar cómo la inteligencia artificial (IA) y otras formas de tecnología igualmente avanzada se están utilizando actualmente en la educación. (previamente firmada).
-SB 1381 de la senadora Aisha Wahab (D-Silicon Valley) : amplía el alcance de los estatutos existentes sobre pornografía infantil para incluir material alterado digitalmente o generado mediante el uso de IA.
