By admin
El gobernador de California, Gavin Newsom, vetó el proyecto de ley SB 1047, que tiene como objetivo evitar que los malos actores utilicen la IA para causar “daños críticos” a los humanos. La asamblea del estado de California aprobó la legislación por un margen de 41 a 9 el 28 de agosto, pero varias organizaciones, incluida la Cámara de Comercio, habían instado a Newsom a vetar el proyecto de ley. En su mensaje de veto del 29 de septiembre, Newsom dijo que el proyecto de ley tiene “buenas intenciones” pero “no tiene en cuenta si un sistema de IA se implementa en entornos de alto riesgo, implica la toma de decisiones críticas o el uso de datos confidenciales”. En cambio, el proyecto de ley aplica estándares estrictos incluso a las funciones más básicas, siempre y cuando un sistema grande las implemente”.
La SB 1047 habría responsabilizado a los desarrolladores de modelos de IA de adoptar protocolos de seguridad que detendrían usos catastróficos de su tecnología. Eso incluye medidas preventivas como pruebas y evaluación de riesgos externa, así como una “parada de emergencia” que cerraría por completo el modelo de IA. Una primera infracción costaría un mínimo de 10 millones de dólares y 30 millones de dólares por infracciones posteriores. Sin embargo, el proyecto de ley fue revisado para eliminar la capacidad del fiscal general del estado de demandar a las empresas de IA por prácticas negligentes si no ocurre un evento catastrófico. Las empresas sólo estarían sujetas a medidas cautelares y podrían ser demandadas si su modelo causara un daño crítico.
Esta ley se aplicaría a los modelos de IA cuyo uso cueste al menos 100 millones de dólares y 10^26 FLOPS para el entrenamiento. También habría cubierto proyectos derivados en casos en los que un tercero haya invertido 10 millones de dólares o más en el desarrollo o modificación del modelo original. Cualquier empresa que haga negocios en California estaría sujeta a las reglas si cumple con los demás requisitos. Al abordar el enfoque del proyecto de ley en los sistemas a gran escala, Newsom dijo: “No creo que este sea el mejor enfoque para proteger al público de las amenazas reales que plantea la tecnología”. El mensaje de veto añade:
Al centrarse únicamente en los modelos más caros y de mayor escala, la SB 1047 establece un marco regulatorio que podría dar al público una falsa sensación de seguridad sobre el control de esta tecnología de rápido movimiento. Los modelos más pequeños y especializados pueden surgir como igual o incluso más peligrosos que los modelos a los que apunta la SB 1047, a costa de restringir la innovación misma que impulsa el avance a favor del bien público.
La versión anterior de la SB 1047 habría creado un nuevo departamento llamado Frontier Model Division para supervisar y hacer cumplir las reglas. En cambio, el proyecto de ley fue modificado antes de una votación del comité para poner la gobernanza en manos de una Junta de Modelos Fronterizos dentro de la Agencia de Operaciones Gubernamentales. Los nueve miembros serían designados por el gobernador y la legislatura del estado.
El proyecto de ley enfrentó un camino complicado hasta la votación final. El autor de la SB 1047 fue el senador estatal de California Scott Wiener, quien dijo TechCrunch: “Tenemos una historia con la tecnología de esperar a que ocurran daños y luego retorcernos las manos. No esperemos a que suceda algo malo. Simplemente salgamos adelante”. Los notables investigadores de IA Geoffrey Hinton y Yoshua Bengio respaldaron la legislación, al igual que el Centro para la Seguridad de la IA, que ha estado dando la alarma sobre los riesgos de la IA durante el año pasado.
“Permítanme ser claro – estoy de acuerdo con el autor – no podemos darnos el lujo de esperar a que ocurra una catástrofe importante antes de tomar medidas para proteger al público”, dijo Newsom en el mensaje de veto. La declaración continúa:
California no abandonará su responsabilidad. Se deben adoptar protocolos de seguridad. Se deben implementar barreras de seguridad proactivas y las consecuencias graves para los malos actores deben ser claras y ejecutables. Sin embargo, no estoy de acuerdo en que, para mantener la seguridad del público, debamos conformarnos con una solución que no se base en un análisis empírico de la trayectoria de los sistemas y capacidades de la IA. En última instancia, cualquier marco para regular eficazmente la IA debe seguir el ritmo de la tecnología misma.
La SB 1047 generó una fuerte oposición en todo el espacio tecnológico. El investigador Fei-Fei Li criticó el proyecto de ley, al igual que Yann LeCun, científico jefe de IA de Meta, por limitar el potencial para explorar nuevos usos de la IA. El grupo comercial que representa a gigantes tecnológicos como Amazon, Apple y Google dijo que la SB 1047 limitaría los nuevos desarrollos en el sector tecnológico del estado. La firma de capital riesgo Andreeson Horowitz y varias nuevas empresas también cuestionaron si el proyecto de ley imponía cargas financieras innecesarias a los innovadores en IA. Anthropic y otros opositores al proyecto de ley original impulsaron enmiendas que fueron adoptadas en la versión de la SB 1047 que fue aprobada por el Comité de Asignaciones de California el 15 de agosto.