Às vésperas do primeiro turno das eleições de 2026, marcado para 4 de outubro, as deepfakes — conteúdos de áudio, imagem ou vídeo manipulados ou gerados por inteligência artificial (IA) para simular pessoas e situações — ganharam espaço no debate sobre os riscos associados a esse tipo de tecnologia. O momento eleitoral torna o problema mais visível, mas a discussão vai muito além das urnas.
A segunda edição do Guia Internet, Democracia e Eleições – volume II, publicada em setembro pelo Comitê Gestor da Internet no Brasil (CGI.br), chama atenção para uma mudança importante: as deepfakes se tornaram mais acessíveis, baratas e convincentes, enquanto distinguir um conteúdo autêntico de outro produzido artificialmente fica progressivamente mais difícil.
O documento relaciona esse avanço, entre outros fatores, à evolução dos próprios modelos, que ampliaram a capacidade de geração de imagens e vídeos realistas. Mas talvez o ponto mais relevante esteja no efeito dessa evolução sobre a confiança. O guia identifica dois riscos: acreditar em um conteúdo enganoso e, no sentido inverso, passar a desconfiar também de informações verdadeiras. Mesmo pessoas experientes em avaliar conteúdos produzidos por IA podem encontrar dificuldade para identificar o que é ou não autêntico.
Para as empresas, esse cenário acrescenta uma nova camada de complexidade às operações digitais. Atendimento, suporte, relacionamento com fornecedores, comunicação entre equipes e processos de autorização dependem cada vez mais de informações trocadas por texto, voz, imagem ou vídeo. Quando esses elementos podem ser reproduzidos artificialmente com alto grau de realismo, deixam de funcionar, sozinhos, como sinais suficientes para comprovar quem está do outro lado ou de onde partiu uma solicitação.
A digitalização permitiu que pessoas, sistemas e organizações interagissem, compartilhassem informações e tomassem decisões sem precisar estar no mesmo ambiente. A IA generativa não elimina essas vantagens, mas exige que a validação acompanhe essa evolução. A questão deixa de ser apenas reconhecer algo que parece legítimo e passa a incluir a capacidade de confirmar sua origem antes que a informação produza efeitos na operação.
Isso significa levar a verificação para o desenho da operação. Origem das informações, mecanismos de validação, registros de contatos, níveis de autorização e rastreabilidade ganham importância quando uma informação aparentemente legítima pode desencadear uma decisão ou uma ação. O desafio não é tornar toda interação mais burocrática, mas identificar em quais etapas uma confirmação adicional é necessária.
Uma solicitação de pagamento feita por uma voz aparentemente conhecida, por exemplo, deve ser confirmada por um canal independente e seguir os níveis de autorização previstos pela empresa.
Essa lógica já aparece em outra frente da adoção da IA. No relatório ‘IA bajo control’, de agosto de 2026, da Ecosistemas Global, defendemos que, à medida que cresce a autonomia de um sistema, também deve aumentar a capacidade de explicá-lo, testá-lo, observá-lo, interrompê-lo e reverter suas ações. Para agentes capazes de utilizar ferramentas e executar tarefas, o estudo destaca controles como limites, rastreabilidade e testes.
Embora o contexto seja diferente, o princípio é semelhante. Em operações de maior impacto, a empresa precisa conseguir verificar de onde veio uma solicitação, acompanhar o caminho percorrido e saber em que momento uma ação exige validação adicional. Assim, a segurança deixa de depender apenas daquilo que uma pessoa vê ou ouve e passa a ser sustentada também pela forma como o processo foi construído.
As eleições colocaram as deepfakes sob os holofotes porque a autenticidade das informações se torna especialmente sensível nesse período. Para as empresas, porém, a questão continuará depois da votação. Se conteúdos sintéticos podem reproduzir sinais que costumávamos associar ao real, a resposta não estará apenas em aprender a identificar o falso, mas em desenvolver operações capazes de comprovar o verdadeiro.
Rodrigo Cabot é gerente de Desenvolvimento de Negócios, Alianças e Estratégia Tecnológica da Ecosistemas Global. Engenheiro em Informática pela UNLAM, possui pós-graduações em Administração de Organizações Financeiras (UBA) e em Gestão Estratégica de Inteligência Artificial (UCEMA). Atualmente lidera iniciativas de inovação tecnológica da empresa em diversos países, incluindo Argentina, Brasil, Chile, Espanha, México e Estados Unidos. Com mais de 25 anos de experiência em TI, coordenou projetos de transformação digital, automação e melhoria contínua em setores como bancos, seguros, energia e saúde.
* A opinião do articulista não reflete necessariamente a opinião do PNB Online
