Califórnia veta lei de segurança sobre IA após alerta de empresas
Projeto expandia necessidade de testes, obrigava instalação de dispositivo para desligar sistemas e estabelecia regulador
O governador da Califórnia, Gavin Newsom, vetou no domingo (29) um projeto de lei de segurança de inteligência artificial muito contestado, depois que a indústria de tecnologia levantou objeções, dizendo que isso poderia expulsar empresas de IA do estado e dificultar a inovação.
Newsom pediu aos principais especialistas em IA generativa para ajudar a Califórnia a “desenvolver barreiras de proteção viáveis” que se concentrem “no desenvolvimento de uma análise de trajetória empírica e baseada na ciência”.
Ele também ordenou que as agências estaduais expandissem sua avaliação dos riscos de potenciais eventos catastróficos vinculados ao uso de IA.
A IA generativa — que pode criar texto, fotos e vídeos em resposta a solicitações abertas — gerou entusiasmo e também temores de que poderia tornar alguns empregos obsoletos, prejudicar eleições e potencialmente dominar os humanos, além de ter efeitos catastróficos.
O autor do projeto de lei, o senador estadual democrata Scott Wiener, disse que a legislação era necessária para proteger o público antes que os avanços em IA se tornassem difíceis de manejar ou incontroláveis.
A indústria de IA está crescendo rapidamente na Califórnia e alguns líderes questionaram o futuro dessas empresas no estado se o projeto de lei fosse aprovador.
Wiener disse no domingo que o veto torna a Califórnia menos segura e significa que “empresas que visam criar uma tecnologia extremamente poderosa não enfrentam restrições vinculativas”.
Ele acrescentou que “compromissos voluntários da indústria não são executáveis e raramente funcionam bem para o público”.
“Não podemos esperar que uma grande catástrofe ocorra antes de tomar medidas para proteger o público”, disse Newsom, mas acrescentou que não concorda que “devemos nos contentar com uma solução que não seja informada por uma análise de trajetória empírica de sistemas e capacidades de IA”.
Newsom disse que trabalhará com a legislatura na lei de IA durante sua próxima sessão. Isso acontece enquanto a legislação no Congresso dos EUA para definir salvaguardas estagnou e a administração Biden está avançando com propostas de supervisão regulatória de IA.
Newsom disse que “uma abordagem somente da Califórnia pode ser justificada — especialmente na ausência de uma ação federal por parte do Congresso”.
A Câmara do Progresso, uma coalizão da indústria de tecnologia, elogiou o veto de Newsom, dizendo que “a economia tecnológica da Califórnia sempre prosperou com base na competição e na abertura”.
Entre outras coisas, a medida teria exigido testes de segurança para muitos dos modelos de IA mais avançados que custam mais de US$ 100 milhões para desenvolver ou aqueles que exigem uma quantidade definida de poder de computação.
Os desenvolvedores de software de IA que operam no estado também precisariam delinear métodos para desligar os modelos de IA, efetivamente um kill switch.
O projeto de lei estabeleceria uma entidade estadual para supervisionar o desenvolvimento dos chamados “Modelos de Fronteira”, que excedem as capacidades presentes nos modelos existentes mais avançados.
O projeto de lei enfrentou forte oposição de uma ampla gama de grupos. O Google da Alphabet, a OpenAI apoiada pela Microsoft e a Meta Platforms, todas as quais estão desenvolvendo modelos de IA generativos, expressaram suas preocupações sobre a proposta.
Alguns democratas no Congresso dos EUA, incluindo a representante Nancy Pelosi, também se opuseram.
Os proponentes incluíam o CEO da Tesla, Elon Musk, que também dirige uma empresa de IA chamada xAI. A Anthropic, apoiada pela Amazon, disse que os benefícios do projeto de lei provavelmente superam os custos, embora tenha acrescentado que ainda há alguns aspectos que parecem preocupantes ou ambíguos.
Newsom assinou separadamente uma legislação exigindo que o estado avalie as potenciais ameaças representadas pela IA generativa à infraestrutura crítica da Califórnia.
O estado está analisando os riscos da infraestrutura energética e os provedores do setor de energia previamente convocados e realizará a mesma avaliação de risco com os provedores de infraestrutura hídrica no próximo ano e, posteriormente, com o setor de comunicações, disse Newsom.
Inteligência artificial está substituindo humanos, mostra pesquisa
