A Guerra digital envolvendo Inteligência Artificial e Deep Fakes nas Eleições 2024

Quais os benefícios e riscos e como a perícia digital em IA poderá contribuir com as campanhas.

Em ano eleitoral, o próprio TSE sinaliza a dificuldade de fiscalização e punição das denominadas Fake News 2.0, que poderão ser impulsionadas pelo uso de Deep Fakes e Inteligência Artificial (IA).

O Deep Fake é um método que utiliza a Inteligência Artificial (IA) para trocar o rosto, sincronizar movimentos, expressões faciais e labiais, como também os demais detalhes de uma foto ou vídeo, o que acaba gerando um resultado convincente acerca de uma pessoa. Esse método, além de manipular fotos e vídeos, também é utilizado para a manipulação de áudios, ou seja, é capaz de criar gravações que simulam a voz de uma determinada pessoa.

A Inteligência Artificial (IA) consiste no uso de aparelhos eletrônicos e softwares capacitados para imitar pensamentos e comportamentos humanos acerca de decisões e execuções de tarefas, como o reconhecimento facial, assistente de voz e algoritmos de redes sociais que identificam quais posts e publicações possuem um grau de relevância de determinado conteúdo ou assunto à ser apresentado e entregue para pessoas e usuários de redes sociais.

A popularização de ferramentas e aplicações capazes de modificar falas, simular vídeos em situações vexatórias, fotos e demais recursos, absolutamente capazes de influenciar e criar estados mentais, que podem prejudicar candidatos, se tornaram mais frequentes nas últimas eleições não só no território nacional, como também em outros países.

Ao olharmos para nossos vizinhos, podemos constatar que as eleições Argentinas foram marcadas por vídeos falsos, inclusive de candidatos à presidência usando drogas, o que se tornou  altamente viralizado. Não há dúvida que a inovação será um desafio e demanda das campanhas a estruturação de grupos de inteligência e perícia digital, aptos a detectarem fakes e viralizações e atuarem desmistificando e identificando modus operandi e os autores, que comumente buscam o anonimato.

O uso das deep fakes na criação de conteúdo falso, inverídico, vexatório e enganoso inaugura uma era em que times digitais precisarão contar com apoio especializado de peritos digitais em inteligência artificial, na detecção se o conteúdo foi produzido com qual técnica, identificação da desinformações e atuação rápida, com vistas a remoção de conteúdos e identificação dos responsáveis, por meio de um time jurídico especializado em direito digital eleitoral.

São preocupações que não podem ser desconsideradas. O que fazer, por exemplo, se um áudio falso do candidato começar a circular pelo WhatsApp ou Telegram às vésperas do pleito? Como conter os boatos? como buscar a identificação da fonte e origem dos ataques? Os aplicativos podem ser obrigados a, a partir de metadados, bloquear a transmissão de arquivos feitos com a IA? Como responder adequadamente a incidentes envolvendo IA e criação de conteúdos realísticos?

É importante destacar que a PL 2338/2023, atualmente sob análise da Comissão Temporária Interna sobre Inteligência Artificial no Brasil (CTIA), visa estabelecer normas gerais de caráter nacional para o desenvolvimento, implementação e uso responsável de IA no território nacional, com o objetivo de proteger os direitos fundamentais e garantir a implementação de sistemas seguros e confiáveis em benefício da pessoa humana, do regime democrático e do desenvolvimento.

O Código Eleitoral, em seu artigo 323, a Lei 9504/97 das Eleições, e a Resolução n° 23.714/2022 punem a contratação de pessoas para que espalhem  desinformações, bem como a manipulação destas no escopo de confundir o eleitor.

No entanto, o grande desafio é a detecção ágil, remoção de conteúdo e a identificação dos autores, o que passa pela contribuição dos provedores de aplicações e serviços de mensageria privada. A Google, por exemplo, obrigará a sinalizar o uso de IA em anúncios eleitorais, já que a empresa alega que as “deep fakes” criadas por algoritmos de Inteligência Artificial confundem os eleitores a distinguir entre o fato e a ficção, tornando difícil de saber o que é real ou falso.

O TSE realizou entre os dias 23 e 25 de Janeiro de 2024 ,  uma audiência que teve como finalidade a discussão acerca das regras eleitorais para 2024. Através da minuta de resolução que trata da propaganda eleitoral, alterando a resolução n°23.610/2019.

Em seu Art. 3°-C, discorre que a campanha eleitoral deve seguir regramentos a respeito da transparência, como também avisar os cidadãos sobre o uso de tecnologia digitais, quando assim ocorrer. O art. 9°-B da mesma minuta, dispõe sobre a utilização na campanha eleitoral, de qualquer meio ou modo de conteúdo que se utilize de tecnologia digital:

9º-B. A utilização na propaganda eleitoral, em qualquer de suas modalidades, de conteúdo fabricado ou manipulado, em parte ou integralmente, por meio do uso de tecnologias digitais para criar, substituir, omitir, mesclar, alterar a velocidade, ou sobrepor imagens ou sons, incluindo tecnologias de inteligência artificial, deve ser acompanhada de informação explícita e destacada de que o conteúdo foi fabricado ou manipulado e qual tecnologia foi utilizada, submetendo-se o seu descumprimento ao previsto no §1º do artigo 323 do Código Eleitoral, sem prejuízo de aplicação de outras medidas cabíveis quanto a ilicitude do conteúdo.

1º A fabricação ou manipulação de conteúdo político-eleitoral mencionada neste artigo refere-se à criação ou à edição de conteúdo sintético que ultrapasse ajustes destinados à melhoria da qualidade da imagem ou som.

2º É vedada a utilização na propaganda eleitoral, qualquer que seja sua forma ou modalidade, de conteúdo fabricado ou manipulado de fatos sabidamente inverídicos ou gravemente descontextualizados com potencial de causar danos ao equilíbrio do pleito ou à integridade do processo eleitoral, inclusive na forma de impulsionamento.

Na Europa, já se cogita que sistemas de IA para influência de eleitores em campanhas sejam classificados  “de alto risco” para que se submetam a compliance regulatório. No dia 9 de Dezembro de 2023, o Conselho e o Parlamento Europeu concordaram a assumir um compromisso com a proposta de regras harmonizadas. O “The EU’s AI Ac”,  que trata da Inteligência Artificial, visa estabelecer padrões globais para a regulamentação da Inteligência Artificial com o objetivo de preparar o caminho e garantir que o desenvolvimento da IA seja ético, seguro e confiável.

Ponto interessante diz respeito, igualmente, aos BOTS que podem ser operados por IA e assim, soarem como imperceptíveis ao eleitor, em comunicadores e redes sociais. Nos Estados Unidos, por sua vez, já ocorre a vedação que candidatos usem IA para enganar pessoas, bem como regras que determinam que os candidatos e campanhas/redes sociais desenvolvam avisos de tecnologia de que determinado conteúdo foi gerado por IA.

A regulamentação dessas regras eleitorais dependem de autoridades estaduais, já que o país possui uma tradição federativa. Segundo um levantamento, apenas cinco estados americanos (Califórnia,  Michigan, Minnesota, Texas e Washington) aprovaram leis proibindo o uso de IA em campanhas eleitorais.

Não há menor dúvida de que as eleições deste ano, como também as eleições futuras, serão marcadas pelo aumento das guerrilha digital e da desinformação, só que desta vez, sem montagens grosseiras, mas sim com produções indetectáveis por um não especialista, graças a popularização da IA Generativa e outras tecnologias acessíveis a todos.

A comunicação digital e a inteligência artificial ultrapassarão 50% dos gastos de campanha, pela primeira vez no Brasil. E diante dos riscos, a atuação da perícia digital em inteligência artificial poderá esclarecer inúmeros pontos de interesse de autoridades, ligados à meios de criação, autoria, repositórios encontráveis, constatação de falsidade e demais questões relevantes.

Não se descarta o uso positivo e benefícios oferecidos pela Inteligência Artificial no processo político eleitoral, como levantamento de dores, geração de anúncios, segmentação de eleitores e um poderoso instrumento no marketing político e construção de copies e discursos.

A união de ciência de dados e IA também pode ser muito benéfica para estratégias de campanha e construção de argumentos persuasivos. Na fase de pré-campanha, pode ser um importante recurso para construção de copies que engajem listas e aqueçam potenciais eleitores.  Já existem campanhas utilizando a tecnologia para, a partir de dados fornecidos, gerar outputs úteis  à construção de planos de governo.

Por outro lado, é inegável que a inovação poderá ser usada como arma em campanhas eleitorais. Partidos, coligações e comitês precisam estar atentos a isso e saber como reagir a ataques desta natureza.