El gobernador de California veta un importante proyecto de ley sobre seguridad de la IA

El gobernador de California, Gavin Newsom, vetó hoy la Ley de Innovación Segura para Modelos Fronterizos de Inteligencia Artificial (SB 1047). En su mensaje de veto, el gobernador Newsom citó múltiples factores en su decisión, incluida la carga que el proyecto de ley habría supuesto para las empresas de inteligencia artificial, el liderazgo de California en este espacio y una crítica de que el proyecto de ley puede ser demasiado amplio.

“Aunque tiene buenas intenciones, la SB 1047 no tiene en cuenta si un sistema de IA se implementa en entornos de alto riesgo, implica la toma de decisiones críticas o el uso de datos confidenciales. En cambio, el proyecto de ley aplica estándares estrictos incluso a las funciones más básicas, siempre que las implemente un sistema grande. No creo que este sea el mejor enfoque para proteger al público de las amenazas reales que plantea la tecnología”.

Se habría aplicado a las empresas de IA cubiertas que hacen negocios en California con un modelo cuyo entrenamiento cuesta más de 100 millones de dólares o más de 10 millones de dólares para ajustarlo, añadiendo requisitos para que los desarrolladores implementen salvaguardias como un “interruptor de apagado” y establezcan protocolos para las pruebas. reducir la posibilidad de eventos desastrosos como un ciberataque o una pandemia. El texto también establece protecciones para que los denunciantes denuncien violaciones y permite al AG demandar por daños causados ​​por incidentes de seguridad.

Los cambios desde su introducción incluyeron la eliminación de propuestas para una nueva agencia reguladora y otorgar al fiscal general del estado poder para demandar a los desarrolladores por posibles incidentes antes de que ocurran. La mayoría de las empresas cubiertas por la ley rechazaron la legislación, aunque algunas silenciaron sus críticas después de esas enmiendas.

La Cámara del Progreso, una coalición que representa a Amazon, Meta y Google, advirtió de manera similar que la ley “paralizaría la innovación”.

Entre los opositores al proyecto de ley se encuentran la ex presidenta de la Cámara de Representantes, Nancy Pelosi, el alcalde de San Francisco, London Breed, y ocho congresistas demócratas de California. Por otro lado, entre los partidarios vocales se encuentran Elon Musk, nombres destacados de Hollywood como Mark Hamill, Alyssa Milano, Shonda Rhimes y JJ Abrams, y sindicatos como SAG-AFTRA y SEIU.

El gobierno federal también está estudiando formas de regular la IA. En mayo, el Senado propuso una hoja de ruta de 32.000 millones de dólares que abarca varias áreas que los legisladores deberían examinar, incluido el impacto de la IA en las elecciones, la seguridad nacional, el contenido protegido por derechos de autor y más.