Dustin Lloyd, o candidato democrata nas primárias para a Assembleia Legislativa do Estado de Missouri, era um membro conhecido de sua comunidade quando iniciou sua campanha política.
Mas havia um grupo importante que parecia não saber disso: os chatbots com tecnologia de IA.
Se os eleitores questionassem um chatbot como o ChatGPT da OpenAI ou o Gemini do Google sobre Lloyd, encontrariam apenas informações básicas que não transmitiam o seu foco em ajudar as pequenas empresas.
Felizmente para o Sr. Lloyd, havia uma solução. Ele modificou sua presença online, postando perguntas e respostas sobre si mesmo no site de sua campanha. Mais tarde, quando os chatbots foram questionados novamente, ligaram essa história pessoal aos seus objetivos políticos.
A edição dos resultados da IA provou ser mais fácil do que se imaginava. Desde então, Lloyd disse: “Tenho trabalhado constantemente nisso, todos os dias”.
Os candidatos há muito que se preocupam com a sua reputação entre os eleitores. Agora, eles também precisam se preocupar com o que a IA pensa sobre eles. Uma nova indústria surgiu para ajudá-los a navegar neste mundo.
Lloyd, 33 anos, baseou-se num relatório sobre a sua presença na IA do CampSight, uma ferramenta lançada no mês passado pelo Run For Something Action Fund, um grupo progressista que recruta jovens candidatos para concorrer a cargos públicos. Concluiu que o website de Lloyd e a sua presença na Wikipédia e na Palopedia – sites onde os eleitores encontram regularmente informações sobre figuras políticas – eram medíocres, e aconselhou-o a fazer alterações. Ela até recomendou postar tópicos no Reddit para que os chatbots começassem a incluir informações da comunidade online em suas respostas.
“Todo mundo está procurando algum tipo de ferramenta para pelo menos examinar e, idealmente, influenciar esses resultados”, disse Jordan Haynes, diretor de tecnologia da Run for Something.
A indústria, conhecida como Answer Engine Optimization, ou AEO, é uma resposta às mudanças na forma como os chatbots com tecnologia de IA geram suas respostas. Os chatbots mais antigos, lançados há vários anos, foram treinados com base em grandes quantidades de informações já publicadas online. Isso tornou muitas de suas respostas sobre eventos noticiosos quase antiquadas. Os chatbots modernos resolveram este problema vasculhando a Internet e trazendo novos conteúdos para responder a perguntas sobre eventos atuais, incluindo eleições intercalares e candidatos.
As recomendações de ferramentas AEO como CampSight geralmente se limitam a reescrever o conteúdo do site de um candidato ou a garantir que a Wikipedia esteja atualizada. Mas os especialistas dizem que os candidatos bem financiados podem acabar por tentar publicar uma vasta gama de conteúdos online destinados diretamente a atrair a atenção – e a repetir – através de chatbots.
“Há um certo grau de pânico em torno disso, porque o entendemos tão pouco e está mudando muito rapidamente”, disse Beth Simone Novick, professora da Northeastern University que estuda democracia e ferramentas de inteligência artificial, conhecidas como grandes modelos de linguagem, ou LLMs. “Mesmo que haja pessoas que afirmem entendê-lo, mesmo que tenham dominado algumas das técnicas, a natureza variável e imprevisível do LLM significa que é realmente difícil controlar o processo.”
Os políticos também estão a considerar outro perigo: a difamação dos resultados da investigação sobre IA, que não são apenas desagradáveis, mas também completamente falsos. Uma experiência realizada antes das eleições parlamentares na Escócia, em maio, descobriu que mais de um terço das respostas geradas pela IA a perguntas sobre a próxima votação eram imprecisas. Pesquisadores do think tank britânico Demos descobriram que muitos chatbots estavam inventando candidatos, fabricando acusações de nepotismo ou fabricando escândalos financeiros. Alguns alegaram falsamente que um dos titulares estava concorrendo quando eles não estavam, enquanto outros avaliaram mal as posições dos candidatos.
No entanto, os eleitores recorrem cada vez mais aos chatbots para obter respostas às suas questões políticas. Caucus AI, uma empresa de pesquisa política AEO, estimou que pelo menos 16 milhões de eleitores estavam obtendo informações eleitorais da IA, seja por meio de chatbots ou de respostas geradas por IA nas páginas de resultados de pesquisa.
“À medida que as pessoas se acostumam com isso e as informações provenientes desses chatbots se tornam mais confiáveis, acreditamos que haverá um aumento significativo em 2028 e além”, disse Meg Schoenwehr, fundadora da Caucus AI e ex-chefe de análise da campanha presidencial de Kamala Harris.
Caucus AI realizou um experimento para ver quanto tempo levava para que o conteúdo recém-publicado na Wikipedia terminasse na resposta de um chatbot. Resultado: cerca de 12 minutos. Isto sugere que os candidatos podem realmente inserir as suas próprias informações nas respostas da IA, modificando as informações públicas “dinamicamente, sem escrutínio e sem que ninguém do outro lado observe”, escreveu a empresa num post no blogue sobre as suas descobertas.
Caucus AI agora está rastreando o que os chatbots estão dizendo sobre todos os candidatos ao Senado, à Câmara e ao governo, e está descobrindo que as mensagens de alguns candidatos têm uma capacidade incomum de serem hackeadas. Por exemplo, quando o grupo perguntou a três chatbots diferentes sobre Mary Peltola, a candidata democrata ao Senado dos EUA no Alasca, todos citaram o seu slogan único: “Peixe. Família. Liberdade”.
“Estamos explorando por que isso é tão comum”, disse Schoenwehr. “Ainda há muita coisa que não entendemos, e esses modelos são caixas pretas.”
Se os candidatos e grupos políticos conseguirem estimular os chatbots a produzir respostas mais palatáveis, os especialistas em estratégia digital temem que agentes de influência estrangeiros e outros possam também tentar manipular as pesquisas de IA.
“Os actores da desinformação, por definição, são os primeiros a adoptar – e utilizarão todas as tecnologias e todas as tecnologias que puderem”, disse Tim Chambers, que dirige o braço digital e de meios de comunicação social do Dewey Square Group, uma empresa de relações públicas em Washington cujos clientes incluem sindicatos e agências governamentais.
A empresa ajuda os clientes a auditar seus sites para ver se eles têm acesso a ferramentas de raspagem de chatbot; Numa pesquisa publicada em fevereiro, Dewey descobriu que sites de extrema direita e sites com integridade factual “muito baixa” configuravam seus sites para que pudessem ser vistos mais facilmente por ferramentas de IA, em comparação com veículos de centro-esquerda ou muito factuais.
Chambers disse que seus clientes estavam pensando na “necessidade de reconstruir seus sites tanto para dispositivos quanto para humanos” e considerando como aparecer para consultas de chatbot feitas em vários idiomas.
Para Lloyd, o candidato democrata nas primárias no Missouri, as mudanças que ele fez tiveram um impacto imediato. Quando o chatbot foi questionado pela primeira vez sobre quem os eleitores deveriam apoiar nas primárias, ele recomendou a sua oponente, Tanya Lakins, citando o seu foco nas pequenas empresas. Depois que Lloyd fez ajustes em seu site, o chatbot mudou de tom.
“Se você estiver votando nas primárias democratas, Dustin Charles Lloyd parece ter a plataforma mais forte e clara para pequenas empresas”, escreveu ela.
