Los legisladores de California se disponen a votar esta semana un proyecto de ley que regularía ampliamente cómo se desarrolla y se implementa la inteligencia artificial en California, incluso cuando varios gigantes tecnológicos han expresado una amplia oposición.
A continuación se detallan los antecedentes del proyecto de ley, conocido como SB 1047, y por qué ha enfrentado una reacción negativa por parte de los tecnólogos de Silicon Valley y algunos legisladores:
¿Qué hace el proyecto de ley?
La propuesta, presentada por el senador estatal demócrata Scott Wiener, exigiría pruebas de seguridad para muchos de los modelos de IA más avanzados cuyo desarrollo cuesta más de 100 millones de dólares o aquellos que requieren una cantidad definida de potencia informática. Los desarrolladores de software de IA que operen en el estado también tendrían que describir métodos para apagar los modelos de IA si fallan, lo que en realidad sería un interruptor de apagado.
El proyecto de ley también le daría al fiscal general del estado el poder de demandar si los desarrolladores no cumplen con las normas, particularmente en el caso de una amenaza constante, como por ejemplo que la IA se apodere de sistemas gubernamentales como la red eléctrica.
Además, el proyecto de ley requeriría que los desarrolladores contraten auditores externos para evaluar sus prácticas de seguridad y brindar protecciones adicionales a los denunciantes que se pronuncien contra los abusos de la IA.
¿Qué han dicho los legisladores?
La SB 1047 ya fue aprobada por el Senado estatal con una votación de 32 a 1. La semana pasada fue aprobada por el comité de asignaciones de la Asamblea estatal, lo que establece una votación en la Asamblea en pleno. Si se aprueba antes del final de la sesión legislativa el 31 de agosto, pasaría al gobernador Gavin Newsom para que la firme o vete antes del 30 de septiembre.
Wiener, que representa a San Francisco, sede de OpenAI y de muchas de las empresas emergentes que desarrollan el poderoso software, ha dicho que la legislación es necesaria para proteger al público antes de que los avances en IA se vuelvan difíciles de manejar o incontrolables.
Sin embargo, un grupo de demócratas del Congreso de California se oponen al proyecto de ley, entre ellos Nancy Pelosi, de San Francisco; Ro Khanna, cuyo distrito del Congreso abarca gran parte de Silicon Valley; y Zoe Lofgren, de San José.
Esta semana, Pelosi calificó la SB 1047 de mal informada y dijo que podría causar más daño que beneficio. En una carta abierta la semana pasada, los demócratas dijeron que el proyecto de ley podría expulsar a los desarrolladores del estado y amenazar los llamados modelos de inteligencia artificial de código abierto, que se basan en un código que está disponible libremente para que cualquiera lo use o modifique.
¿Qué dicen los líderes tecnológicos?
Las empresas tecnológicas que desarrollan inteligencia artificial (que puede responder a indicaciones con texto, imágenes o audio completamente formados, así como ejecutar tareas repetitivas con una intervención mínima) han pedido que se establezcan límites más estrictos para la implementación de la inteligencia artificial. Han mencionado los riesgos de que algún día el software pueda evadir la intervención humana y causar ciberataques, entre otras preocupaciones. Pero también se opusieron en gran medida a la SB 1047.
Wiener revisó el proyecto de ley para apaciguar a las empresas tecnológicas, basándose en parte en las aportaciones de la startup de inteligencia artificial Anthropic, respaldada por Amazon y Alphabet. Entre otros cambios, eliminó la creación de un comité de supervisión de la inteligencia artificial en el gobierno.
Wiener también impuso sanciones penales por perjurio, aunque todavía se pueden presentar demandas civiles.
Google y Meta, de Alphabet, han expresado sus preocupaciones en cartas a Wiener. Meta dijo que el proyecto de ley amenaza con hacer que el estado sea desfavorable al desarrollo y la implementación de la IA. El científico jefe de la empresa matriz de Facebook, Yann LeCun, en una publicación de julio X calificó el proyecto de ley como potencialmente perjudicial para los esfuerzos de investigación.
OpenAI, a cuyo ChatGPT se le atribuye el mérito de acelerar el frenesí en torno a la IA desde su amplio lanzamiento a fines de 2022, ha dicho que la IA debería ser regulada por el gobierno federal y que la SB 1047 crea un entorno legal incierto.
En una carta a Wiener, OpenAI dijo que se opone a la SB 1047 porque es una amenaza para el crecimiento de la IA y podría provocar que empresarios e ingenieros abandonen el estado.
Un tema de especial preocupación es la posibilidad de que el proyecto de ley se aplique a los modelos de IA de código abierto. Muchos tecnólogos creen que los modelos de código abierto son importantes para crear aplicaciones de IA menos riesgosas con mayor rapidez, pero Meta y otros han temido que se les pueda responsabilizar de vigilar los modelos de código abierto si se aprueba el proyecto de ley. Wiener ha dicho que apoya los modelos de código abierto y una de las recientes enmiendas al proyecto de ley elevó el estándar para los modelos de código abierto que están cubiertos por sus disposiciones.
El proyecto de ley también cuenta con partidarios en el sector tecnológico. Geoffrey Hinton, considerado ampliamente como el “padrino de la IA”, el ex empleado de OpenAI Daniel Kokotajlo y el investigador Yoshua Bengio han dicho que apoyan el proyecto de ley.
Descargo de responsabilidad: Esta historia ha sido publicada a partir de una fuente de una agencia de noticias sin modificaciones en el texto. Solo se ha cambiado el título.
Entérate de todas las noticias de negocios, noticias corporativas, eventos de última hora y actualizaciones de noticias más recientes en Live Mint. Descarga la aplicación Mint News para recibir actualizaciones diarias del mercado.
MásMenos