IA, desinformação nas eleições e a recente audiência pública do TSE

No contexto da interseção entre inteligência artificial e democracia, surgem preocupações sobre seu impacto no diálogo público e no processo eleitoral. Nos EUA, a OpenAI proíbe um chatbot que mimetiza um candidato presidencial[1], destacando riscos de manipulação enquanto um relatório preliminar da ONU[2] propõe governança de IA baseada em direitos humanos para alinhar avanços tecnológicos com ética.

A salvaguarda das eleições assume posição central, desde a adoção de Kombis elétricas para antecipar riscos[3], até o apelo do papa por regulamentações[4]. E o tema ecoa no legislativo, onde projetos de lei buscam proibir “deepfake” na propaganda eleitoral para preservar a integridade do processo democrático[5].

Enquanto a Meta anuncia medidas para identificar o uso de IA em anúncios políticos a partir de 2024[6], notícias de Donald Trump “preso” em Nova York, geradas por IA, reforça os desafios.[7]

Nas eleições na Nigéria, áudio manipulado propagava um plano de manipulação[8]. “Deepfakes” ameaçam a credibilidade da mídia, enquanto iniciativas como o Content Authenticity Initiative buscam soluções, junto com ferramentas como TensorFlow e PyTorch que ajudam na detecção de manipulações em imagens e vídeos.

Narrativas extremistas, impulsionadas por IA ainda levantam questões sobre o impacto da tecnologia nas eleições democráticas, e a complexidade do panorama grita por regulamentações para preservar os fundamentos democráticos. O boom dos conteúdos gerados por IA desafia nossa capacidade de identificar desinformação.

A analogia entre Transformers digitais e desinformação por IA destaca a fusão de tecnologia e narrativa. ChatGPT, Midjourney, DALL-E 2 e Synthesia[9] exemplificam o poder autônomo da IA na geração de texto, imagens, vídeos e áudios. Identificar pistas visuais e auditivas torna-se crucial para desmascarar conteúdos falsos.

Embora as “deepfakes” possam de fato representar uma ameaça à credibilidade da mídia, há iniciativas como o Content Authenticity Initiative[10] que buscam soluções. Este grupo trabalha para combater a desinformação, adicionando uma camada de proveniência inviolável a conteúdos digitais, começando por fotos, vídeos e documentos. Ferramentas como TensorFlow, PyTorch, Deepware, Sensity, Hive e Illuminarty[11], que empregam redes neurais profundas, também indicam sinais de manipulação em imagens e vídeos. Apesar de não serem infalíveis, essas ferramentas oferecem recursos cruciais na detecção e combate a deepfakes, podendo ser uma solução inicial se aplicadas em redes sociais e outros sites relevantes para o debate democrático.

No Brasil, o legislativo está discutindo medidas para conter os avanços da IA, com projetos de lei inspirados em regulamentações europeias. Embora ainda não haja uma legislação específica, a Lei Geral de Proteção de Dados Pessoais (LGPD) é utilizada para responsabilizar quem usa IA para disseminar desinformação.[12]

Alinhado a padrões internacionais, o Brasil lançou a Estratégia Brasileira de Inteligência Artificial (EBIA) em abril de 2021, abordando nove eixos, com destaque para “Legislação, regulação e uso ético”. A EBIA recebeu críticas por sua abordagem genérica e falta de detalhamento, especialmente em transparência e ética no uso de IA.[13]

No Congresso Nacional, o PL 21/2020 foi aprovado em setembro de 2021, mas também enfrentou críticas por sua falta de densidade normativa e abordagem de autorregulação setorial[14]. Respondendo às críticas, o presidente do Senado, Rodrigo Pacheco (PSD-MG), instituiu a Comissão de Juristas sobre Inteligência Artificial (CJSUBIA). Após 240 dias de trabalho intenso, a comissão apresentou um substitutivo em dezembro de 2022, enfatizando riscos e direitos.

O anteprojeto de lei resultante foi convertido no PL 2338/2023 [15] em maio de 2023. Atualmente, esse projeto está em análise na recém-instaurada Comissão Temporária Interna sobre Inteligência Artificial no Brasil (CTIA) do Senado Federal. Apesar da existência de outros projetos de lei, este relatório concentrará sua análise nos projetos mencionados ao abordar o cenário brasileiro de regulação da IA.

O Tribunal Superior Eleitoral (TSE), por seu turno, investe em normas práticas para controlar a disseminação de notícias falsas, reconhecendo a complexidade do desafio. Contudo, enfrenta dificuldades devido à natureza dinâmica e evolutiva das tecnologias e estratégias de disseminação de desinformação.

No início deste ano, o TSE divulgou propostas para regular a inteligência artificial visando prevenir sua utilização para disseminação de desinformação[16]. A discussão se concentra na utilização de IA em campanhas eleitorais, com destaque para os riscos de “deepfakes” e possíveis desequilíbrios no processo eleitoral. Críticas à abrangência da proposta do TSE foram feitas, destacando o desafio de equilibrar regulamentação necessária e preservação dos direitos individuais, diante da complexidade do avanço tecnológico.[17]

Uma minuta de resolução do TSE sobre propaganda eleitoral[18] recebeu contribuições significativas da sociedade, empresas e cidadãos, totalizando 388 sugestões. Durante audiência pública realizada esta semana, a ministra Cármen Lúcia, relatora das resoluções para as eleições municipais de 2024, comprometeu-se a examinar e responder a cada sugestão.

O artigo 9º da proposta, que trata especificamente da Desinformação na Propaganda Eleitoral, aborda a utilização de conteúdo fabricado ou manipulado por tecnologias digitais, estabelecendo diretrizes para transparência e integridade nas campanhas. No entanto, alguns pontos necessitam de um ajuste fino para uma implementação eficaz.

O parágrafo 3º do artigo 9-B, por exemplo, estabelece procedimentos a serem adotados pelo provedor de aplicação de internet após notificação sobre a ilicitude do conteúdo impulsionado, indicando a responsabilidade do provedor em apurar e indisponibilizar o conteúdo. No entanto, na prática, as empresas muitas vezes interpretam essa notificação como uma ordem judicial, devido à seriedade do processo e à necessidade de assegurar a conformidade legal. Esse aspecto técnico ainda demanda uma análise mais aprofundada para garantir clareza e segurança jurídica.

Relevante também a recente decisão do Supremo Tribunal Federal (STF) que validou a Resolução 23.714/2022 do TSE[19], intensificando o combate às fake news nas eleições. A resolução concede poderes ao presidente do TSE para suspender perfis e aplicar multas por desrespeito a decisões judiciais, reforçando o enfrentamento à desinformação, embora persistam dúvidas sobre sua aplicação nas eleições municipais.

Enquanto ainda se explora caminhos para equilibrar inovação e responsabilidade mundo afora, o TSE no Brasil investe em normas práticas e imediatas, como forma de implementar medidas regulatórias que possam controlar esse fenômeno. Contudo, é evidente que tal empreendimento não é uma tarefa simples, dada a natureza dinâmica e evolutiva das tecnologias envolvidas e das estratégias adotadas pelos disseminadores de desinformação

A busca pelo equilíbrio entre inovação tecnológica e preservação da integridade democrática destaca a sensibilidade do tema, e o caminho para construir um ambiente eleitoral resiliente à desinformação é complexo, mas crucial para o futuro da democracia. E a educação midiática surge como peça-chave para cultivar um olhar crítico em relação ao conteúdo online, exigindo abordagens legislativas, iniciativas da indústria e sensibilização pública.

Este artigo é produto de reflexões pessoais e insights gerados durante o curso do meu programa de MBA. As opiniões aqui expressas são inteiramente pessoais e não representam a posição ou opinião oficial do meu empregador. Quaisquer correlações estabelecidas entre o conteúdo acadêmico e o contexto profissional não são intencionais.

[1]https://www.correiobraziliense.com.br/mundo/2024/01/6791044-openai-elimina-bot-que-se-passava-por-candidato-presidencial-nos-eua.html

[2]https://www.mobiletime.com.br/noticias/22/12/2023/onu-apresenta-relatorio-parcial-sobre-governanca-internacional-da-ia/

[3]https://www.techtudo.com.br/noticias/2023/07/comercial-da-nova-kombi-reune-elis-regina-e-maria-rita-veja-como-ia-funciona-edsoftwares.ghtml

[4]https://noticias.uol.com.br/ultimas-noticias/ansa/2024/01/24/papa-pede-que-uso-da-inteligencia-artificial-seja-regulamentada.htm#:~:text=CIDADE%20DO%20VATICANO%2C%2024%20JAN,seja%20usada%20de%20forma%20distorcida.

[5]https://www.uol.com.br/eleicoes/2022/07/03/deepfakes-eleicoes-2022.htm

[6]https://oglobo.globo.com/economia/tecnologia/noticia/2023/11/08/meta-vai-exigir-que-anuncios-politicos-mostrem-se-houve-uso-de-inteligencia-artificial.ghtml

[7]https://g1.globo.com/tecnologia/noticia/2023/03/23/imagens-falsas-criadas-por-ia-que-mostram-donald-trump-sendo-preso-viralizam-nas-redes-sociais.ghtml

[8]https://www.thecable.ng/fact-check-viral-audio-of-atiku-tambuwal-and-okowa-plotting-to-rig-election-is-doctored

[9]https://olhardigital.com.br/2022/08/22/reviews/dall-e-2-x-midjourney-comparativo-mostra-qual-usar-em-cada-situacao/

[10]Overview – C2PA

[11]https://ijnet.org/pt-br/story/ferramentas-de-ia-para-combater-deepfakes#:~:text=O%20TensorFlow%20e%20o%20PyTorch,para%20identificar%20ind%C3%ADcios%20de%20manipula%C3%A7%C3%A3o.

[12]https://iapd.org.br/protecao-de-dados-pessoais-lgpd-e-possibilidade-de-combate-as-fake-news/