A inteligência artificial vem transformando diversos setores, incluindo o processo eleitoral. No Brasil, campanhas eleitorais já fazem uso de tecnologia avançada para alcançar eleitores, personalizar mensagens e otimizar o alcance de suas propagandas, inclusive através do processamento massivo de dados pessoais dos eleitores.
Entretanto, o uso de IA também traz riscos significativos para a integridade do processo eleitoral, como a criação de deepfakes e disseminação de desinformação, o que pode comprometer consideravelmente a democracia brasileira.
Assine a newsletter Últimas Notícias do JOTA e receba as principais notícias jurídicas e políticas no seu email
Os riscos aumentam à medida que tecnologias podem ser usadas para gerar conteúdos multimídia altamente realistas e manipulativos, levando o eleitor a acreditar em informações distorcidas ou falsas. Para combater esses e outros riscos, o Tribunal Superior Eleitoral (TSE) tem tentado acompanhar os impactos das novas tecnologias no processo eleitoral e, através de resoluções, impôs regras específicas ao uso de IA e dados pessoais nas campanhas eleitorais.
Este artigo explora o atual cenário de uso de dados e novas tecnologias nas campanhas eleitorais, destacando os principais riscos envolvidos e as limitações previstas nas resoluções do TSE, assim como discute os impactos de tais limitações para a preservação da integridade democrática no Brasil.
Riscos e desafios do uso indevido de IA e dados pessoais em campanhas eleitorais
O uso de IA oferece vantagens significativas para construção de campanhas eleitorais, como personalizar mensagens para públicos específicos ou criar estratégias de comunicação mais eficientes. Contudo, os riscos associados ao uso indevido da tecnologia são substanciais. Um dos principais perigos é o uso de deepfakes, ou seja, vídeos ou áudios falsos gerados por IA que simulam eventos ou falas que nunca ocorreram.
Tais deepfakes podem ser usadas para manipular a opinião pública de forma negativa, criando uma narrativa falsa sobre os candidatos ou eventos eleitorais. A capacidade de gerar imagens e vídeos altamente realistas dificulta a identificação da falsidade do conteúdo, o que pode induzir o eleitor ao erro e, num cenário de eleições, onde cada voto é essencial, esse tipo de manipulação pode afetar diretamente os resultados, impactando a democracia.
Outro risco significativo é a disseminação de desinformação em larga escala, porque a IA permite a automação de processos de criação e de distribuição de conteúdo, o que pode ser utilizado (como já vem acontecendo) para gerar uma enorme quantidade de notícias falsas ou informações distorcidas num curto espaço de tempo. Isso, no final das contas, compromete o debate público, obscurecendo as verdadeiras propostas dos candidatos e minando a confiança do eleitorado no processo democrático.
Para além desses problemas, há também o risco de “microtargeting” abusivo, em que o uso de dados pessoais pode permitir que mensagens com cunho eleitoral sejam personalizadas para explorar vulnerabilidades específicas dos eleitores, levantando preocupações éticas sobre privacidade e manipulação psicológica.
Os limites impostos pelas resoluções do TSE
Em resposta a esses desafios, o TSE adotou uma série de resoluções para as eleições de 2024. Entre elas, está a Resolução 23.610/2019, que dispõe sobre a propaganda eleitoral e estabelece regras específicas para uso de conteúdos multimídia gerados ou manipulados por inteligência artificial nas propagandas eleitorais.
O art. 9º-B da Resolução, por exemplo, impõe que qualquer conteúdo sintético gerado por IA seja devidamente identificado como tal. A exigência de rotulagem clara e acessível de vídeos, áudios, imagens ou textos manipulados por IA é uma medida essencial para garantir a transparência no processo eleitoral.
As rotulagens devem ser feitas em formatos compatíveis com o tipo de veiculação, por exemplo, marcas d’água em vídeos e imagens, avisos no início de áudios, e outras formas de identificação para conteúdos impressos ou digitais. Além disso, o artigo especifica exceções: ajustes de qualidade de imagem ou som, vinhetas ou logomarcas, e montagens de imagens de candidatos e apoiadores não exigem essa rotulagem específica.
O art. 9º-B ainda regulamenta, no § 3º, o uso de chatbots, avatares e outros conteúdos sintéticos, os quais não podem ser utilizados para simular conversas com candidatos ou outros indivíduos reais, para evitar enganos. Assim, o dever geral de informar deve ser observado na propaganda eleitoral especificamente e em outras formas de comunicação de campanha com pessoas naturais também.
Toda essa regulamentação busca garantir que o uso de IA nas eleições seja feito de forma ética e transparente, protegendo o eleitor de possíveis manipulações e garantindo que a disputa eleitoral ocorra de maneira justa. Um caso prático que ilustra a aplicação concreta das resoluções do TSE é o Processo 0600012-35.2024.6.26.0278, de Guarulhos (SP).
No caso, o prefeito de Guarulhos postou, na rede social Instagram, uma mensagem comemorando o fato de o Partido dos Trabalhadores (PT) não estar no poder na cidade, com um vídeo, criado por meio de IA, de uma multidão gritando “Fora PT!”. O juiz considerou que houve manipulação da imagem através do uso de IA e que ela foi usada sem a disponibilização de informações de forma explícita aos cidadãos, violando assim o art. 9º-B da Resolução (mencionado acima).
Esse exemplo demonstra como a IA pode ser usada para manipular a percepção do público e de que forma a Justiça Eleitoral está reagindo para coibir esses abusos. A remoção rápida do conteúdo também reforça a importância da existência de mecanismos eficazes de fiscalização durante o período eleitoral.
Em relação ao tratamento de dados pessoais, também há dispositivos relevantes. Por exemplo, o art. 6º-B, § 7º, exige que o tratamento de dados tornados manifestamente públicos pelo titular por candidatos, partidos, federações ou coligações para propaganda eleitoral seja devidamente informado ao titular, garantindo a ele o direito de se opor ao tratamento.
Nota-se que, embora não esteja explícito, a situação indicada na Resolução parece se referir ao uso da base legal do legítimo interesse (art. 7º, IX, da LGPD), já que prevê o opt-out (e não o opt-in, isto é, a necessidade do consentimento, que é exigido para disparo em massa de mensagens instantâneas, conforme orientações da ANPD e TSE no guia orientativo sobre a aplicação da LGPD por agentes de tratamento no contexto eleitoral publicado em 2021).
No entanto, é importante notar que a dispensa de consentimento para dados tornados manifestamente públicos pelo titular (art. 7º, § 4º da LGPD) limita-se aos dados pessoais e não abarca dados sensíveis, como filiação partidária e religião. Nestes casos, será necessário fundamentar o tratamento em uma das hipóteses do art. 11 da LGPD, que não incluem o legítimo interesse.
O art. 10 da Resolução também é relevante, especialmente no combate à manipulação psicológica eleitoral, tendo em vista que proíbe o emprego de meios publicitários destinados a criar, artificialmente, na opinião pública, estados mentais, emocionais e/ou passionais. Isso se aplica ao uso de ferramentas tecnológicas para adulterar ou fabricar áudios, imagens, vídeos ou outras mídias destinadas a difundir fatos falsos ou gravemente descontextualizados sobre candidatos ou sobre o processo eleitoral, nos termos do § 1º-A desse mesmo dispositivo.
Essa preocupação tem um racional similar à vedação da propaganda via disparos em massa, prevista no art. 34, inc. II, da Resolução,[1] que dá maior destaque à tecnologia utilizada para a disseminação de propaganda aos eleitores, a qual é ainda mais perigosa quando se trata de conteúdos adulterados ou fabricados.
Portanto, o uso de IA e dados pessoais nas eleições brasileiras traz desafios diversos e significativos, mas a previsão de regras claras e robustas pelo TSE é um passo importante a fim de preservar a integridade do processo democrático. A imposição de limites e a exigência de transparência no uso de IA e tratamento de dados pessoais ajudam a proteger o eleitorado de manipulações e garantem que as campanhas sejam conduzidas de forma justa.
Ao mesmo tempo, o TSE enfrenta o desafio de manter-se atualizado frente ao rápido avanço da tecnologia. As regulamentações são um marco importante, mas será necessário um monitoramento contínuo e a adaptação constante das regras para garantir que novas formas de manipulação, como deepfakes, sejam adequadamente endereçadas.
Confira mais informações sobre a atuação do TSE sobre a desinformação e suas resoluções no volume 1 e no volume 2 da Cartilha publicadas pelo Centro de Tecnologia e Sociedade (CTS) da FGV Direito Rio.
[1] Art. 34. É vedada a realização de propaganda: II – por meio de disparo em massa de mensagens instantâneas sem consentimento da pessoa destinatária ou a partir da contratação de expedientes, tecnologias ou serviços não fornecidos pelo provedor de aplicação e em desacordo com seus termos de uso.