El gobernador de California, Gavin Newsom, habló con la prensa antes del debate presidencial entre la candidata presidencial demócrata Kamala Harris y el ex presidente republicano Donald Trump en el National Constitution Center en Filadelfia, Pensilvania, el 10 de septiembre de 2024.
Matthew Hatcher | Afp | Getty Images
El gobernador de California, Gavin Newsom, vetó el domingo un controvertido proyecto de ley de seguridad de la inteligencia artificial, después de que la industria tecnológica planteó objeciones, diciendo que podría expulsar a las empresas de IA del estado y obstaculizar la innovación.
Newsom dijo que el proyecto de ley “no tiene en cuenta si un sistema de IA se implementa en entornos de alto riesgo, implica decisiones críticas o el uso de datos sensibles” y que aplicaría “normas estrictas incluso a las funciones más básicas, siempre y cuando un sistema grande lo implemente”.
Newsom dijo que había pedido a destacados expertos en IA generativa que ayudaran a California a “desarrollar barreras de protección viables” que se centren “en el desarrollo de un análisis empírico y basado en la ciencia de la trayectoria”. También ordenó a las agencias estatales que amplíen su evaluación de los riesgos de posibles eventos catastróficos relacionados con el uso de la IA.
La IA generativa, que puede crear texto, fotos y videos en respuesta a indicaciones abiertas, ha suscitado tanto entusiasmo como temores de que podría hacer que algunos puestos de trabajo se vuelvan obsoletos, alterar elecciones y potencialmente superar a los humanos y tener efectos catastróficos.
El autor del proyecto de ley, el senador estatal demócrata Scott Wiener, dijo que la legislación era necesaria para proteger al público antes de que los avances en IA se volvieran tanto inmanejables como incontrolables. La industria de la IA está creciendo rápidamente en California y algunos líderes cuestionaron el futuro de estas empresas en el estado si el proyecto de ley se promulgaba.
Wiener dijo el domingo que el veto hace que California sea menos segura y significa que “las empresas que tienen como objetivo crear una tecnología extremadamente potente no enfrentan restricciones vinculantes”. Añadió que “los compromisos voluntarios de la industria no son ejecutables y rara vez funcionan bien para el público”.
“No podemos esperar a que ocurra una catástrofe importante antes de tomar medidas para proteger al público”, dijo Newsom, pero añadió que no estaba de acuerdo “en que debamos conformarnos con una solución que no esté informada por un análisis empírico de la trayectoria de los sistemas y capacidades de IA”.
Newsom dijo que trabajará con la legislatura en la legislación de IA durante su próxima sesión. Esto sucede mientras que la legislación en el Congreso de EE.UU. para establecer salvaguardas se ha estancado y la administración Biden está avanzando propuestas de supervisión regulatoria de la IA.
Newsom dijo que “un enfoque exclusivo de California bien podría estar justificado, especialmente ante la ausencia de acción federal por parte del Congreso”.
La Cámara de Progreso, una coalición de la industria tecnológica, elogió el veto de Newsom diciendo que “la economía tecnológica de California siempre ha prosperado gracias a la competencia y la apertura”.
Entre otras cosas, la medida habría obligado a realizar pruebas de seguridad para muchos de los modelos de IA más avanzados que cuestan más de $100 millones en su desarrollo o aquellos que requieran una cantidad definida de potencia informática. Los desarrolladores de software de IA que operan en el estado también habrían necesitado describir métodos para apagar los modelos de IA, efectivamente un interruptor de apagado.
El proyecto de ley habría establecido una entidad estatal para supervisar el desarrollo de los llamados “Modelos Fronterizos” que exceden las capacidades presentes en los modelos existentes más avanzados.
El proyecto de ley enfrentó una fuerte oposición de una amplia gama de grupos. Alphabet’s Google, Microsoft-backed OpenAI y Meta Platforms, todos los cuales están desarrollando modelos de IA generativa, expresaron sus preocupaciones sobre la propuesta.
Algunos demócratas en el Congreso de EE.UU., incluida la representante Nancy Pelosi, también se opusieron. Entre los partidarios se encontraba Elon Musk, CEO de Tesla, que también dirige una empresa de IA llamada xAI. Anthropic, respaldada por Amazon, dijo que los beneficios del proyecto de ley probablemente superan los costos, aunque añadió que todavía hay algunos aspectos que parecen preocupantes o ambiguos.
Newsom firmó por separado legislación que requería al estado evaluar las amenazas potenciales planteadas por la IA Generativa a la infraestructura crítica de California.
El estado está analizando los riesgos de la infraestructura energética y anteriormente reunió a proveedores del sector energético y llevará a cabo la misma evaluación de riesgos con proveedores de infraestructura de agua en el próximo año y más tarde con el sector de las comunicaciones, dijo Newsom.