O governador da Califórnia, Gavin Newsom, vetou no domingo um projeto de lei de segurança de inteligência artificial altamente contestado depois que a indústria de tecnologia levantou objeções, dizendo que isso poderia expulsar as empresas de inteligência artificial do estado e impedir a inovação.
Newsom disse que o projeto de lei “não leva em consideração se um sistema de IA é implantado em ambientes de alto risco, envolve tomadas de decisão críticas ou usa dados confidenciais” e imporia “padrões rigorosos até mesmo para as funções mais básicas – desde que um um grande sistema o implementa.”
Newsom disse que pediu aos principais especialistas em inteligência artificial generativa para ajudar a Califórnia a “desenvolver barreiras de proteção acionáveis” que se concentrem “no desenvolvimento de análises de trajetória empíricas e baseadas na ciência”. Ele também orientou as agências estaduais a expandir as avaliações de risco de potenciais eventos catastróficos relacionados ao uso de inteligência artificial.
A IA generativa, que pode criar textos, fotos e vídeos em resposta a solicitações abertas, despertou entusiasmo, bem como receios de que pudesse tornar alguns empregos obsoletos, alterar escolhas e potencialmente incapacitar pessoas, o que terá consequências desastrosas.
O autor do projeto, o senador estadual democrata Scott Wiener, disse que a legislação é necessária para proteger o público antes que os avanços na inteligência artificial se tornem difíceis de manejar ou incontroláveis. A indústria de inteligência artificial está crescendo rapidamente na Califórnia, e alguns líderes questionam o futuro dessas empresas no estado se o projeto se tornar lei.
Wiener disse no domingo que o veto torna a Califórnia menos segura e significa que “não há restrições vinculativas para empresas que buscam criar tecnologia extremamente poderosa”. Ele acrescentou que “os compromissos voluntários da indústria não são viáveis e raramente funcionam bem para a sociedade”.
“Não podemos esperar até que ocorra um grande desastre antes de tomarmos medidas para proteger o público”, disse Newsom, mas acrescentou que discorda. “Devemos nos contentar com uma solução que não dependa de análises empíricas das trajetórias dos sistemas e capacidades de IA”.
Newsom disse que trabalhará com o Legislativo na legislação sobre inteligência artificial na próxima sessão. A decisão ocorreu num momento em que a legislação do Congresso dos EUA para estabelecer salvaguardas estagnou e a administração Biden está a lançar propostas regulamentares para a supervisão da IA.
Newsom disse que “uma abordagem apenas para a Califórnia pode ser justificada – especialmente na ausência de ação federal por parte do Congresso”.
A Câmara do Progresso, uma coalizão da indústria tecnológica, elogiou o veto de Newsom, dizendo que “a economia tecnológica da Califórnia sempre prosperou com base na competição e na abertura”.
Entre outras coisas, esta solução exigiria testes de segurança de muitos dos modelos de IA mais avançados que custam mais de US$ 100 milhões (cerca de Rs 838 milhões) para serem desenvolvidos ou que exigem uma certa quantidade de poder computacional. Os desenvolvedores de software de IA em execução no estado também teriam que identificar métodos para desligar os modelos de IA, o que seria um interruptor eficaz.
A lei estabeleceria uma entidade estatal que supervisionaria o desenvolvimento do chamado “modelos de fronteira” que excederiam as capacidades dos modelos existentes mais avançados.
O projeto encontrou forte oposição de vários grupos. Alphabet, Google, OpenAI e Meta Platforms apoiadas pela Microsoft, que desenvolvem modelos generativos de IA, expressaram preocupações sobre a proposta.
Alguns democratas no Congresso dos EUA, incluindo a deputada Nancy Pelosi, também se opuseram. Os apoiadores incluíam o CEO da Tesla, Elon Musk, que também dirige uma empresa de inteligência artificial chamada xAI. A Anthropic, apoiada pela Amazon, disse que os benefícios do projeto de lei provavelmente superam seus custos, embora tenha acrescentado que ainda havia alguns aspectos que pareciam preocupantes ou ambíguos.
Newsom assinou separadamente uma legislação exigindo que o estado avalie as ameaças potenciais representadas pela inteligência artificial generativa à infraestrutura crítica da Califórnia.
O estado está a analisar os riscos associados às infra-estruturas energéticas e já recorreu a fornecedores do sector energético e realizará a mesma avaliação de riscos no próximo ano com fornecedores de infra-estruturas hídricas e mais tarde com o sector das comunicações, disse Newsom.
©ThomsonReuters 2024
(Esta história não foi editada pela equipe da NDTV e é gerada automaticamente a partir de um feed distribuído.)
