“
Como investigador de IA, tengo un enorme respeto por las contribuciones científicas de la Dra. Fei-Fei Li a nuestro campo. Sin embargo, discrepo con su postura recientemente publicada sobre el SB 1047 de California. Creo que este proyecto de ley representa un paso crucial, ligero y medido para garantizar el desarrollo seguro de los sistemas de IA de vanguardia para proteger al público.
Muchos expertos en el campo, incluyéndome a mí mismo, estamos de acuerdo en que el SB 1047 establece un mínimo indispensable para regular de manera efectiva los modelos de IA de vanguardia contra riesgos previsibles, y que sus requisitos de cumplimiento son ligeros y no prescriptivos por intención. En cambio, se basa en que los desarrolladores de modelos realicen autoevaluaciones de riesgos e implementen requisitos básicos de pruebas de seguridad. También se centra solo en los modelos de IA más grandes, aquellos que cuestan más de $100 millones para entrenar, lo que garantiza que no obstaculizará la innovación entre las startups o las empresas más pequeñas. Sus requisitos se alinean estrechamente con los compromisos voluntarios que muchas compañías líderes de IA ya han hecho (especialmente con la Casa Blanca y en la Cumbre de IA de Seúl).
No podemos permitir que las corporaciones califiquen sus propios deberes y simplemente emitan aseguranzas bien sonantes. No aceptamos esto en otras tecnologías como los productos farmacéuticos, aeroespacial y seguridad alimentaria. ¿Por qué la IA debería ser tratada de manera diferente? Es importante pasar de compromisos voluntarios a compromisos legales para nivelar el campo competitivo entre las empresas. Espero que este proyecto de ley refuerce la confianza del público en el desarrollo de IA en un momento en el que muchos se preguntan si las empresas están actuando de manera responsable.
Los críticos del SB 1047 han afirmado que este proyecto de ley castigará a los desarrolladores de una manera que sofocará la innovación. Esta afirmación no se sostiene bajo escrutinio. Tiene sentido común que cualquier sector que construya productos potencialmente peligrosos esté sujeto a regulaciones que garanticen la seguridad. Esto es lo que hacemos en sectores y productos cotidianos, desde automóviles hasta electrodomésticos y códigos de construcción de viviendas. Aunque es importante escuchar perspectivas de la industria, la solución no puede ser abandonar completamente un proyecto de ley tan específico y medido como el SB 1047. En cambio, tengo la esperanza de que, con enmiendas clave adicionales, algunas de las principales preocupaciones de la industria puedan abordarse, manteniéndose fieles al espíritu del proyecto de ley: Proteger la innovación y a los ciudadanos.
Otro tema de preocupación particular para los críticos ha sido el impacto potencial del SB 1047 en el desarrollo de IA de código abierto de vanguardia. He sido un partidario de toda la vida del código abierto, pero no lo veo como un fin en sí mismo que siempre sea bueno independientemente de las circunstancias. Considere, por ejemplo, el caso reciente de un modelo de código abierto que se está utilizando a gran escala para generar pornografía infantil. Esta actividad ilegal está fuera de los términos de uso del desarrollador, pero ahora el modelo está liberado y nunca podemos retroceder. Con modelos mucho más capaces en desarrollo, no podemos esperar a su lanzamiento abierto antes de actuar. Para modelos de código abierto mucho más avanzados que los que existen hoy, el cumplimiento del SB 1047 no será un simple ejercicio de marcar casillas, como colocar “actividad ilegal” fuera de los términos de servicio.
También acojo con agrado el hecho de que el proyecto de ley requiera que los desarrolladores mantengan la capacidad de cerrar rápidamente sus modelos de IA, pero solo si están bajo su control. Esta excepción fue diseñada explícitamente para hacer posible el cumplimiento para los desarrolladores de código abierto. En general, encontrar soluciones políticas para IA de código abierto altamente capaz es un tema complejo, pero el umbral de riesgos versus beneficios debe decidirse a través de un proceso democrático, no basado en los caprichos de ninguna empresa de IA que sea imprudente o excesivamente confiada.
La Dra. Li aboga por una “mentalidad de misión lunar” en el desarrollo de IA. Estoy profundamente de acuerdo con este punto. También creo que este esfuerzo de misión lunar de IA requiere protocolos de seguridad rigurosos. Simplemente no podemos esperar que las empresas prioricen la seguridad cuando los incentivos para priorizar las ganancias son tan inmensos. Al igual que la Dra. Li, preferiría ver regulaciones sólidas de seguridad en IA a nivel federal. Pero el Congreso está estancado y las agencias federales limitadas, lo que hace que la acción estatal sea indispensable. En el pasado, California ha sido pionera en energía verde y privacidad del consumidor, y tiene una tremenda oportunidad de liderar nuevamente en IA. Las decisiones que tomemos sobre este campo ahora tendrán consecuencias profundas para las generaciones actuales y futuras.
El SB 1047 es un paso positivo y razonable hacia el avance tanto de la seguridad como de la innovación a largo plazo en el ecosistema de IA, incentivando especialmente la investigación y desarrollo en seguridad de IA. Esta legislación técnicamente sólida, desarrollada con los principales expertos en IA y legales, es sumamente necesaria, y espero que el gobernador de California, Gavin Newsom, y la legislatura lo respalden.
Más comentarios imprescindibles publicados por Fortune:
Las opiniones expresadas en las piezas de comentario de Fortune.com son únicamente las opiniones de sus autores y no necesariamente reflejan las opiniones y creencias de Fortune.
Newsletter recomendado: CEO Daily proporciona un contexto clave para las noticias que los líderes necesitan saber de todo el mundo de los negocios. Cada mañana de lunes a viernes, más de 125,000 lectores confían en CEO Daily para obtener información sobre, y desde dentro, de la alta dirección. Suscríbete ahora.”