El Congreso estatal de California aprobó una polémica para la regulación de la inteligencia synthetic (IA). Diversas empresas, académicos y agentes políticos acusan que la reforma es demasiado restrictiva y podría frenar el avance de la industria.
La propuesta se conoce como SB 1047 o Ley de Innovación Segura y Protegida para Modelos de Inteligencia Synthetic de Frontera. Está impulsada por Scott Wiener, senador demócrata. Contempla una serie de mecanismos y requisitos similares a los establecidos en la Unión Europea. Pretende “aplicar normas de seguridad claras, predecibles y de sentido común para los desarrolladores de sistemas de inteligencia synthetic grandes y poderosos”.
“Estoy orgulloso de la diversidad de la coalición que ha apoyado este proyecto; una coalición que cree profundamente en la innovación y en la seguridad”, escribió en redes sociales el promotor de la iniciativa. Tras la decisión legislativa, Gavin Newsom, gobernador de California, tiene hasta el 30 de septiembre para ratificar o vetar la ley.
Así busca California common la IA
La SB 1047 obligaría a las empresas que diseñan grandes modelos de IA a implementar protocolos de seguridad para evitar usos indebidos. Los algoritmos cuyo entrenamiento cueste más de 100 millones de dólares deberán incluir un “botón de apagado de emergencia” que permita desactivar su operación por completo y de inmediato, en caso de que su funcionamiento se salga de management.
La normativa prohíbe la distribución y comercialización de herramientas de IA que puedan causar “daños críticos” a la sociedad. La categoría incluye a aquellos desarrollos con potencial para facilitar la creación de armas biológicas, químicas, nucleares y cibernéticas.
La Agencia de Operaciones Gubernamentales tendría la facultad de exigir auditorías externas anuales para verificar el cumplimiento de las disposiciones y podría imponer multas civiles a las compañías que violen los protocolos de seguridad. Las sanciones más severas serían equivalentes al 30% del costo de la potencia de cálculo que utilizan los programas infractores. El regulador también podría dictaminar la suspensión o eliminación de los sistemas transgresores.
Sin consenso en Silicon Valley
Los lineamientos han generado opiniones divididas entre congresistas, especialistas y los principales actores de Silicon Valley. Nancy Pelosi, presidenta emérita de la Cámara de Representantes, advirtió hace unas semanas que “la SB 1047 tiene buenas intenciones, pero está mal informada. La IA surge en California. Debemos tener una legislación que sea un modelo para la nación y el mundo. Tenemos la oportunidad y la responsabilidad de permitir que los pequeños empresarios y el mundo académico dominen el sector y no solo las grandes corporaciones tecnológicas”, dijo.
Wiener respondió al señalamiento. “Si bien tengo un enorme respeto por la presidenta emérita, discrepo respetuosa y firmemente con su declaración. La SB 1047 apoya y alienta la innovación. Animo a [Nancy Pelosi] a que tenga una conversación con las luminarias de la inteligencia artificial que están bastante informadas y que apoyan [la reforma]. La invito a que hable con cualquiera de las diversas empresas emergentes de inteligencia synthetic que respaldan el proyecto de ley”.
Las empresas que lideran el desarrollo de modelos de IA han expresado preocupación sobre los efectos a largo plazo que puede tener la normativa. Dario Amodei, director ejecutivo de Antropic, expuso que los beneficios de la ley podrían superar los costos de su implementación. “Sin embargo, no estamos seguros de esto, y todavía hay algunos aspectos que nos parecen preocupantes o ambiguos”, agregó en una carta enviada a Newsom la semana pasada.
OpenAI ha señalado que establecer una estatuto a nivel estatal podría provocar una fuga de inversiones y de talento en California. Jason Kwon, director de estrategia de la startup, señaló en una misiva dirigida al gobernador del estado que la SB 1074 puede frenar el crecimiento de la industria. “Ralentizaría el ritmo de la innovación y llevaría a los ingenieros y emprendedores californianos, de talla mundial, a abandonar el estado en busca de mayores oportunidades”.
