Canadá precisa se apressar na supervisão de IA, alertam especialistas

Dois dos três padrinhos da IA ​​são professores residentes no Canadá. Um deles, Geoffrey Hinton, da Universidade de Toronto, recentemente deixou seu emprego no Google para falar mais francamente sobre os riscos da inteligência artificial.

O outro, Yoshua Bengio, da Université de Montréal, ecoou o soar desse alarme em uma recente carta aberta pedindo uma pausa no desenvolvimento de sistemas de IA cada vez mais poderosos.

Ele está entre os vários nomes de destaque, incluindo Elon Musk e o co-fundador da Apple, Steve Wozniak, que acreditam é hora de bombear os intervalosmesmo que por apenas seis meses.

[Read: ‘The Godfather of A.I.’ Leaves Google and Warns of Danger Ahead]

[Read Dan Bilefsky’s 2019 Saturday Profile of Yoshua Bengio: He Helped Create A.I. Now, He Worries About ‘Killer Robots’]

“É porque há uma aceleração inesperada – eu provavelmente não teria assinado tal carta há um ano – que precisamos dar um passo para trás e que minha opinião sobre esses tópicos mudou”, disse o Prof. Bengio em um publicar em seu blog. “Conseguimos regular as armas nucleares em escala global após a Segunda Guerra Mundial, podemos chegar a um acordo semelhante para IA”

O Canadá está longe de assinar a legislação, que deve entrar em vigor não antes de 2025. Ainda faltam vários meses para definir os regulamentos do projeto de lei C-27, a Lei de Inteligência Artificial e Dados, que foi introduzida no último Junho.

No curto prazo, os reguladores de privacidade canadenses estão atualmente trabalhando para investigar uma reclamação não especificada sobre se o chatbot ChatGPT coleta, usa ou divulga dados de canadenses sem o devido consentimento. Na quinta-feira, o escritório do comissário federal de privacidade anunciou que seus colegas provinciais em Quebec, British Columbia e Alberta se juntariam à investigação.

“Como reguladores, precisamos acompanhar – e ficar à frente – dos rápidos avanços tecnológicos para proteger os direitos fundamentais de privacidade dos canadenses”, disse Philippe Dufresne, o comissário de privacidade, em um comunicado. declaração.

A aceitação de ferramentas públicas de IA, especialmente ChatGPT – abreviação de “Transformador pré-treinado generativo” – tem sido explosiva. Analistas do banco suíço UBS estimaram em um relatório de maio que o ChatGPT, criado pela empresa OpenAI, com sede em San Francisco, atingiu mais de 200 milhões de usuários ativos mensais em abril, o dobro do número de janeiro, embora a tendência mostre sinais de estagnação. .

Em menos de seis meses, o ChatGPT parece ter crescido rapidamente. Ele apareceu nos campi universitários como uma ferramenta para fabricar cursos e foi restrito pelas universidades. está sendo usado para filtrar através de perspectivas românticas em aplicativos de namoro. E como meus colegas – o colunista de tecnologia do Times Kevin Roose e Emma Goldberg, que cobre o futuro do trabalho para a mesa de negócios – descobriram, esses chatbots de IA podem levar a algumas conversas bastante complicadas.

[Read Kevin’s story: A Conversation With Bing’s Chatbot Left Me Deeply Unsettled]

[Read Emma’s story: ChatFished: How to Lose Friends and Alienate People With A.I.]

O mercado de ações experimentou as consequências mais assustadoras do uso indevido da IA ​​no início desta semana, quando os preços despencaram depois que fotos mostrando um prédio perto do Pentágono aparentemente em chamas circularam na internet. Acabou sendo um paródia gerada por IA.

Enquanto pressiona por uma desaceleração no desenvolvimento de sistemas de super IA, o Prof. Bengio, que também é o fundador e diretor científico da Mila (também conhecido como Quebec Artificial Intelligence Institute), também está pedindo ao governo canadense que acelere os esforços de regulamentação .

Valerie Pisano, presidente e diretora-executiva da Mila, disse que há medidas que o governo pode tomar imediatamente – como exigir rótulos apropriados para identificar texto, imagens ou vozes geradas por IA – para proteger o público de alguns dos perigos da tecnologia, como campanhas de desinformação durante as eleições e perturbações no mercado de trabalho.

[Read: A.I.’s Threat to Jobs Prompts Question of Who Protects Workers]

“Esta tecnologia está entrando em nossas vidas muito, muito mais rápido do que qualquer coisa que já vimos antes”, disse Pisano e disse que a regulamentação estava muito atrasada. “Essa lacuna está criando um desequilíbrio que é realmente preocupante.”

A Sra. Pisano, junto com acadêmicos, pesquisadores e líderes da indústria no Canadá estão pedindo ao governo aumentar a supervisão do governo por meio do Projeto de Lei C-27 e agir rapidamente.

Luke Stark, pesquisador da história e ética da IA ​​e professor assistente da Western University em London, Ontário, disse que está satisfeito em ver a investigação do comissário de privacidade em andamento nesse ínterim.

“A questão de onde vem o material que foi usado para treinar esses grandes modelos de linguagem é claramente um grande problema”, disse o Prof. Stark. Essa questão, acrescentou, “foi um pouco perdida na pressa de promover essas tecnologias, para o bem e para o mal”.

Trans Canadá

• Os eleitores de Alberta vão às urnas na segunda-feira para eleger seu próximo primeiro-ministro. Ian Austen visitou Calgary e viajou pela região rural ao sul de Alberta, conversando com canadenses conservadores que estavam repensando suas escolhas após a virada radical do partido para a direita.

• Grimes, uma musicista e produtora canadense, conversou com Joe Coscarelli, repórter cultural do The Times, sobre sua nova ferramenta de inteligência artificial que tem “código aberto” sua voz.

• Para aqueles que viajam por Vancouver para um fim de semana de verão, aqui estão algumas recomendações de restaurantes, compras, lugares para visitar e coisas para ver na cidade como parte de Série 36 Horas do The Times.

• Os EUA estão competindo com o Canadá e outros países para garantir os minerais essenciais necessários para fabricação de carros elétricos e outros itens na transição energética.

• Você é um ávido observador de pássaros ou mesmo um iniciante? O departamento de ciências do Times está trabalhando em um projeto com o Cornell Lab of Ornithology e está recebendo sugestões de leitores para ele. Saiba mais aqui.

Vjosa Isai é repórter-pesquisadora do The New York Times no Canadá. Siga-a no Twitter em @lavjosa.

Como estamos indo?
Estamos ansiosos para saber sua opinião sobre este boletim informativo e os eventos no Canadá em geral. Por favor, envie-os para nytcanada@nytimes.com.

Gostou deste e-mail?
Encaminhe para seus amigos e avise-os que podem se inscrever aqui.