Para ter uma ideia do rumo que a inteligência artificial está tomando nas campanhas eleitorais, olhemos para a Índia, a maior democracia do mundo, que começa a ir às urnas na sexta-feira.
Uma versão do primeiro-ministro Narendra Modi gerada por IA e partilhada no WhatsApp mostra as possibilidades de divulgação hiperpersonalizada num país com quase mil milhões de eleitores. No vídeo – um clipe de demonstração cuja fonte não é clara – o avatar de Modi se dirige diretamente a uma série de eleitores, pelo nome.
No entanto, não é perfeito. Modi parece usar dois pares de óculos diferentes e algumas partes do vídeo estão pixeladas.
Descendo a hierarquia, os trabalhadores do partido de Modi estão a enviar vídeos pelo WhatsApp nos quais os seus próprios avatares de IA entregam mensagens pessoais a eleitores específicos sobre os benefícios governamentais que receberam e pedem o seu voto.
Essas mensagens de vídeo podem ser geradas automaticamente em qualquer uma das dezenas de línguas da Índia que o eleitor fale. O mesmo acontece com as mensagens telefónicas de chatbots alimentados por IA que ligam aos constituintes nas vozes dos líderes políticos e procuram o seu apoio.
Essa divulgação requer uma fração do tempo e do dinheiro gastos em campanhas tradicionais e tem potencial para se tornar um instrumento essencial nas eleições. Mas à medida que a tecnologia entra no cenário político, existem poucas barreiras de proteção para evitar o uso indevido.
Chatbots e vídeos personalizados podem parecer mais ou menos inofensivos. Os especialistas temem, no entanto, que os eleitores tenham dificuldades cada vez maiores distinguir entre mensagens reais e sintéticas à medida que a tecnologia avança e se espalha.
“Este ano será o Velho Oeste e um espaço de IA não regulamentado”, disse Prateek Waghre, diretor executivo da Internet Freedom Foundation, um grupo de direitos digitais com sede em Nova Delhi. A tecnologia, acrescentou, está a entrar num cenário mediático já poluído com desinformação.
Em todo o mundo, as eleições tornaram-se um campo de testes para o boom da IA. As ferramentas foram usadas para transformar um Candidato presidencial argentino em Indiana Jones e um Caça-Fantasmas. Durante as primárias de New Hampshire, os eleitores receberam mensagens de chamada automática instando-os a não votar, numa voz que provavelmente foi gerada artificialmente para soar como a do presidente Biden.
E na Índia, O Partido Bharatiya Janata do Sr. Modi, ou BJP, e a oposição Partido do Congresso Nacional Indiano acusaram-se mutuamente de espalhar conteúdo deepfake relacionado às eleições online.
Um posto avançado nesta nova fronteira indiana fica no estado desértico ocidental do Rajastão. No andar térreo de um prédio residencial em uma rua empoeirada, Divyendra Singh Jadoun, de 31 anos, que abandonou a faculdade, administra uma start-up de IA, The Indian Deepfaker.
Sua equipe de nove pessoas tem feito comerciais com avatares de atores e atrizes de Bollywood gerados por IA. Mas no início deste ano, partidos políticos e políticos começaram a pedir-lhe que fizesse por eles o que tinha feito pelas celebridades. Dos 200 pedidos, disse Jadoun, ele atendeu 14.
Entre aqueles que recebem tratamento com IA está Shakti Singh Rathore, um membro do BJP de 33 anos. A sua função nesta época eleitoral é contar ao maior número de pessoas possível sobre os programas e políticas do Sr. Modi. Então ele decidiu criar uma réplica de si mesmo.
“A IA é maravilhosa e o caminho a seguir”, disse Rathore enquanto se acomodava em frente a uma câmera de vídeo no escritório do The Indian Deepfaker, preparando-se para encarnar digitalmente. “De que outra forma eu poderia alcançar os beneficiários dos programas do Sr. Modi em tão grande número e em tão curto período de tempo?”
Enquanto Rathore ajustava um lenço cor de açafrão com o logotipo da festa pendurado em seu pescoço, Jadoun o instruiu: “Basta olhar para a câmera e falar como se a pessoa estivesse sentada bem na sua frente”.
Com cerca de cinco minutos de material, incluindo uma gravação de áudio e fotos de perfil, Jadoun começou a trabalhar. Ele disse que usa sistemas de IA de código aberto e os desenvolve com seu próprio código.
Primeiro, o rosto do Sr. Rathore foi isolado de cada quadro da gravação.
Em seguida, foram coletados dados de suas características faciais, incluindo o tamanho do rosto e dos lábios, bem como de seu olhar.
Jadoun disse que o conjunto de dados foi então inserido em modelos de IA que aprendem a prever padrões faciais.
“Você precisa continuar executando o programa e ajustando o rosto até obter o melhor rosto possível”, disse ele.
Um “algoritmo de clonagem” também analisou a gravação do áudio, aprendendo a cadência e as entonações da voz. Jadoun disse que muitas vezes são necessárias de seis a oito horas de ajustes para aperfeiçoar o rosto e para que os lábios sincronizem com as palavras. O resto é amplamente automatizado.
Em uma demonstração, foram necessários cerca de quatro minutos para criar cerca de 20 vídeos de saudação personalizados.
Jadoun disse que sua equipe poderia produzir até 10 mil vídeos por dia. Para trabalhos maiores e dentro do prazo, alugará unidades de processamento gráfico.
A IA generativa também pode remover barreiras linguísticas, o que é especialmente útil num país com diversidade linguística. O avatar do Sr. Rathore pode ser programado para falar línguas regionais para chegar aos cantos mais remotos da Índia.
Os partidos políticos não estão apenas enviando mensagens de texto para seus eleitores, mas também usando vozes clonadas para ligar diretamente para as pessoas, tudo alimentado por chatbots como o ChatGPT.
No passado, quando um representante do partido ligava para os eleitores, eles desligavam, disse Rathore. “Mas agora, quando um líder local pronuncia o nome de um eleitor, isso imediatamente chama a sua atenção.”
Durante a conversa, o chatbot pergunta sobre programas do governo local que oferecem eletricidade gratuita ou financiamento para start-ups. Jadoun disse que as ligações foram gravadas e transcritas para controle de qualidade e treinamento em IA.
Rathore disse que gastou cerca de US$ 24 mil de seu próprio dinheiro para alcançar cerca de 1,2 milhão de pessoas por meio de mensagens de vídeo e telefonemas e para receber informações sobre quem não respondeu. Ele chamou isso de um investimento em seu futuro com o BJP
Nikhil Pahwa, editor da MediaNama, que cobre mídia digital na Índia, disse que as mensagens personalizadas poderiam ser particularmente poderosas entre os indianos.
“A Índia é um país onde as pessoas adoram tirar fotos com imitadores de celebridades”, disse ele. “Portanto, se eles receberem uma ligação, digamos, do primeiro-ministro, e ele falar como se os conhecesse, onde moram e quais são seus problemas, eles ficariam realmente entusiasmados com isso.”
Waghre, da Internet Freedom Foundation, questiona se o conteúdo da IA é suficientemente persuasivo para afectar as eleições deste ano. Mas ele disse que os efeitos a longo prazo podem ser problemáticos. “Depois de normalizar isso na dieta informativa das pessoas, o que acontecerá seis meses depois, quando houver vídeos enganosos?” ele disse.
O próprio Modi discutiu a adição de isenções de responsabilidade ao conteúdo gerado por IA para que as pessoas não sejam “equivocado.” Jadoun e representantes de duas outras start-ups de IA na Índia criaram o que chamam de “Manifesto da coalizão de IA”, comprometendo-se a proteger a privacidade dos dados e defender a integridade eleitoral. Por exemplo, os vídeos do Deepfaker indiano são rotulados como “gerados por IA” e seus chatbots anunciam que são vozes geradas por IA, disse Jadoun.
Narendra Singh Bhati, 28 anos, proprietário de resorts no Rajastão, recebeu uma ligação gerada por IA do Sr. Rathore esta semana. Bhati disse que ficou impressionado com a personalização.
Ele disse que não percebeu que a chamada foi gerada por IA, embora o script deixasse isso claro. “Eu até disse adeus ao Sr. Rathore” no final, disse Bhati.
