A União Europeia deu um passo importante na quarta-feira para aprovar o que seria um dos primeiras grandes leis para regular a inteligência artificialum modelo potencial para os formuladores de políticas em todo o mundo, enquanto eles lutam para colocar barreiras na tecnologia em rápido desenvolvimento.
O Parlamento Europeu, um dos principais ramos legislativos da União Europeia, aprovou um projeto de lei conhecido como AI Act, que colocaria novas restrições sobre o que é visto como o uso da tecnologia. usos mais arriscados. Isso reduziria severamente o uso de software de reconhecimento facial, ao mesmo tempo em que exigiria que os fabricantes de sistemas de IA, como o chatbot ChatGPT, divulgassem mais sobre os dados usados para criar seus programas.
A votação é uma etapa de um processo mais longo. A versão final da lei não deve ser aprovada até o final deste ano.
A União Europeia está mais adiantada do que os Estados Unidos e outros grandes governos ocidentais na regulamentação da IA. O bloco de 27 nações debate o tema há mais de dois anos, e a questão assumiu nova urgência depois lançamento do ano passado do ChatGPTo que intensificou as preocupações sobre os efeitos potenciais da tecnologia no emprego e na sociedade.
Os formuladores de políticas em todos os lugares, de Washington a Pequim, estão agora correndo para controlar uma tecnologia em evolução que está alarmando até mesmo alguns de seus primeiros criadores. Nos Estados Unidos, a Casa Branca divulgou ideias políticas que incluem regras para testar sistemas de IA antes de serem disponibilizados publicamente e proteger os direitos de privacidade. Na China, rascunho de regras revelado em abril exigiria que os fabricantes de chatbots aderissem às rígidas regras de censura do país. Pequim também está assumindo mais controle sobre como os fabricantes de sistemas de IA usam dados.
Quão eficaz qualquer regulamentação de IA pode ser não está claro. Em um sinal de que as novas habilidades da tecnologia estão surgindo aparentemente mais rápido do que os legisladores são capazes de abordá-las, as versões anteriores da lei da UE não deram muita atenção aos chamados sistemas de IA generativos como o ChatGPT, que pode produzir texto, imagens e vídeo em resposta às solicitações.
De acordo com a versão mais recente do projeto de lei europeu aprovado na quarta-feira, a IA generativa enfrentaria novos requisitos de transparência. Isso inclui a publicação de resumos de material protegido por direitos autorais usado para treinar o sistema, uma proposta apoiada pela indústria editorial, mas contestada por desenvolvedores de tecnologia por ser tecnicamente inviável. Os fabricantes de sistemas de IA generativos também teriam que implementar salvaguardas para impedi-los de gerar conteúdo ilegal.
Francine Bennett, diretora interina do Ada Lovelace Institute, uma organização de Londres que pressiona por novas leis de IA, disse que a proposta da UE é um “marco importante”.
“É claro que é difícil regulamentar a tecnologia rápida e rapidamente adaptável, quando nem mesmo as empresas que desenvolvem a tecnologia têm certeza absoluta de como as coisas vão acontecer”, disse Bennett. “Mas definitivamente seria pior para todos nós continuar operando sem nenhuma regulamentação adequada.”
O projeto de lei europeu adota uma abordagem “baseada em risco” para regulamentar a IA, concentrando-se em aplicativos com maior potencial de danos humanos. Isso incluiria onde os sistemas de IA foram usados para operar infraestrutura crítica como água ou energia, no sistema legal e ao determinar o acesso a serviços públicos e benefícios do governo. Os fabricantes da tecnologia teriam que realizar avaliações de risco antes de colocar a tecnologia em uso diário, semelhante ao processo de aprovação de medicamentos.
Um grupo da indústria de tecnologia, a Computer & Communications Industry Association, disse que a União Europeia deveria evitar regulamentações excessivamente amplas que inibem a inovação.
“A UE está prestes a se tornar líder na regulamentação da inteligência artificial, mas ainda não se sabe se ela liderará a inovação da IA”, disse Boniface de Champris, gerente de políticas do grupo para a Europa. “As novas regras de IA da Europa precisam lidar com riscos claramente definidos, deixando flexibilidade suficiente para que os desenvolvedores forneçam aplicativos de IA úteis para o benefício de todos os europeus.”
Uma grande área de debate é o uso de reconhecimento facial. O Parlamento Europeu votou para proibir o uso de reconhecimento facial ao vivo, mas permanecem dúvidas sobre se as isenções devem ser permitidas para fins de segurança nacional e outros fins de aplicação da lei.
Outra disposição proibiria as empresas de extrair dados biométricos das mídias sociais para criar bancos de dados, uma prática que atraiu escrutínio depois que a empresa de reconhecimento facial Clearview AI usou.
Os líderes de tecnologia têm tentado influenciar o debate. Sam Altman, executivo-chefe da OpenAI, criadora do ChatGPT, nos últimos meses visitou pelo menos 100 legisladores americanos e outros formuladores de políticas globais na América do Sul, Europa, África e Ásia, incluindo Ursula von der Leyen, presidente da Comissão Européia. Altman pediu a regulamentação da IA, mas também disse que a proposta da União Européia pode ser proibitivamente difícil de cumprir.
Após a votação na quarta-feira, uma versão final da lei será negociada por representantes dos três ramos da União Europeia – o Parlamento Europeu, a Comissão Europeia e o Conselho da União Europeia. Autoridades disseram que esperam chegar a um acordo final até o final do ano.
