Expectativas para o ano de 2024: Inteligência Artificial e Eleições

Em 2023, observamos a popularização de ferramentas de inteligência artificial (IA), movimento que veio acompanhado por intensos debates sobre os impactos dessa tecnologia sobre a sociedade e de como regular seu desenvolvimento e utilização no Brasil. Nesta edição da  Descodificado, discutimos dois temas que devem pautar o debate político no Brasil: IA e Eleições. 

Sobre a IA, a Comissão Temporária Interna sobre Inteligência Artificial (CTIA) do Senado debateu, durante o ano de 2023, os projetos acerca do tema, especialmente o PL 2338/23, de autoria do presidente do Senado Federal, senador Rodrigo Pacheco. O projeto é fruto da Comissão de Juristas responsável por subsidiar a elaboração de substitutivo sobre IA (CJSUBIA). A expectativa é que o debate continue a todo vapor em 2024, em especial com a proximidade das eleições municipais e com as preocupações acerca do uso dessa tecnologia durante as campanhas. 

Na pauta eleitoral, os Tribunais Eleitorais terão a árdua missão de enfrentar a desinformação que vem se sofisticando com o avanço das tecnologias. De acordo com o presidente do TSE, ministro Alexandre de Moraes, o órgão debaterá, ao longo do primeiro trimestre deste ano, uma regulação de IA para as eleições de 2024. 

Sob o olhar de Cynthia Picolo, diretora do Laboratório de Políticas Públicas e Internet (LAPIN), e Diogo Rais, cofundador do Instituto Liberdade Digital, discutimos o que esperar sobre esses debates no Brasil em 2024.

Diretora-presidente do Laboratório de Políticas Públicas e Internet (LAPIN), advogada, especialista em Privacidade e Proteção de Dados e Inteligência Artificial e com formação pela Escola de Governança da Internet (EGI) do CGI.br.  

O PL 2338/23 ainda tem um longo caminho pela frente, considerando que ainda será analisado pela Câmara dos Deputados, casa revisora do PL. 

Dentre os pontos trazidos no texto, quais aqueles que considera mais importantes? Quais as expectativas e próximos passos sobre a proposta para o ano de 2024?

Por fim, qual sua opinião sobre a atribuição à Autoridade Nacional de Proteção de Dados (ANPD) como órgão regulador da temática? 

O PL 2338/2023, que foi construído com uma abordagem baseada em riscos e direitos, é considerado um avanço no debate regulatório, já que se distanciou da proposta principiológica do PL 21/2021. Ele traz, por exemplo, mecanismos para a efetivação de direitos, cumprimento de obrigações e prestação de contas aos agentes da IA. Dentre os diversos pontos positivos, ressalta-se a categorização de riscos, os caminhos para a condução da Avaliação de Impacto Algorítmico (AIA), a exigência de medidas de transparência e a proposta de um arranjo fiscalizatório. 

No entanto, o debate em torno do PL 2338/2023 e outros correlatos está centrado hoje na Comissão Temporária de Inteligência Artificial (CTIA). Após as audiências públicas realizadas, duas propostas de emenda ao substitutivo foram divulgadas, sendo as dos Senadores Marcos Pontes e Carlos Viana. As sugestões são problemáticas, uma vez que reduzem esforços alcançados pela Comissão de Juristas, como a exclusão da previsão da AIA, a não previsão de hipóteses de riscos excessivos ou inaceitáveis e a desconsideração pela sociedade civil em eventual Conselho Nacional sobre IA. O prazo da CTIA foi prorrogado para 23/05/2024 e as expectativas são de que o debate na CTIA avance de maneira mais inclusiva e voltada ao ser humano, para que o relatório final a ser apresentado pelo relator, Senador Eduardo Gomes, mantenha mecanismos de proteção de direitos e incentivos à inovação responsável. 

Em relação à futura autoridade competente, há um grande debate sobre quem seria essa entidade. A ANPD já se posicionou quanto à sua competência de atuação. A Autoridade, de fato, já atua  no campo da proteção de dados - insumo essencial para a vasta gama de aplicações de IA. Seria interessante que a ANPD tivesse capacidade orçamentária e de recursos humanos para também lidar com a IA de forma mais direta. No entanto, essa atuação deveria seguir um arranjo colaborativo com outros reguladores setoriais, de forma a não interferir nas competências já existentes nos diversos setores que já utilizam a tecnologia. Resta acompanhar como se dará esse diálogo político e institucional, além de observar a maturidade da própria ANPD para exigir o cumprimento da LGPD antes de assumir a competência de outro tema tão complexo como a inteligência artificial. 

A última Eleição Geral no Brasil foi marcada por intensos ataques ao processo eleitoral por meio da disseminação de desinformação, principalmente no ambiente virtual. Com o desenvolvimento da inteligência artificial, o desafio vai ser ainda maior em 2024, ano de eleições municipais no Brasil.

Quais ameaças e impactos os sistemas de IA podem gerar no pleito de 2024? Na sua opinião, quais aspectos primordiais devem ser observados a fim de que tenhamos eleições seguras e confiáveis?

A IA não somente pode potencializar a disseminação de desinformação como já está servindo de ferramenta para tanto. Como se não bastassem os sistemas de recomendação, filtros, mecanismos ineficazes de moderação de conteúdo, agora temos que lidar com sistemas de IA generativa, amplamente acessíveis ao público. Exemplos de sistemas como o ChatGPT, Bard, e DALLE 2, são capazes de produzir textos, gerar músicas, imagens, e conteúdos inéditos. Porém, eles também podem se nutrir de dados e informações falsas ou descontextualizadas, gerando resultados desinformativos, além de reproduzirem  vieses discriminatórios incutidos em nossa sociedade.

É notório que, hoje em dia, a grande maioria de jovens se informa em plataformas de redes sociais e outras aplicações movidas à IA, no intuito de obter respostas de forma mais veloz e até mesmo mais simplificada. Então, é bastante preocupante pensar que a IA será facilitadora não somente das estratégias eleitorais, mas também de manipulações e conteúdos inverídicos. Os impactos desses fenômenos são variados, podendo influenciar na decisão e senso crítico dos eleitores, atingir reputação de candidatos e candidatas, como também interferir no processo democrático de maneira geral, que deve ser livre e bem informado.

Para que tenhamos eleições seguras e confiáveis diante desse contexto, é preciso que se fomentem as iniciativas de literacia digital, que as plataformas e aplicações que se baseiam em IA se comprometam a difundir conteúdo eleitoral que seja verificado e provenha de fontes oficiais. Além disso, é necessário que haja canais efetivos de comunicação para o exercício de direitos, como o acesso à informação ou moderação de conteúdo desinformativo. Não há bala de prata. Para lidar com a desinformação em um mundo cada vez mais automatizado é preciso desenvolver o senso crítico da população, prever e efetivar mecanismos de controle e exigir a prestação de contas.

Advogado e Cofundador do Instituto Liberdade Digital, Professor de Direito Eleitoral e Direito Digital da graduação, mestrado e doutorado da Universidade Presbiteriana Mackenzie. Membro da Academia Brasileira de Direito Eleitoral e Político – ABRADEP. 

Nas Eleições Gerais de 2022, o Tribunal Superior Eleitoral articulou diversas iniciativas em prol da integridade eleitoral, como parcerias com as plataformas digitais e ambientes de transparência, por meio da Comissão e do Observatório de Transparência das Eleições, respectivamente, CTE  e OTE, e do Teste Público de Segurança (TPS). Considerando que as eleições gerais têm uma dinâmica diferente das municipais, quais estratégias considera importantes para fortalecer a integridade eleitoral nas eleições de 2024? E quais sugere que devam ser priorizadas pela Justiça Eleitoral, em especial considerando a disseminação de narrativas desinformativas nas redes sociais? 

Nas eleições gerais de 2022 tivemos 28.274 pedidos de candidaturas e na municipal de 2020 passamos de meio milhão. Além disso, enquanto na eleição geral as demandas se iniciam nos 28 Tribunais, sendo 27 regionais eleitorais e o Tribunal Superior Eleitoral, na municipal, essas decisões são espalhadas por quase três mil juízes eleitorais, são eleições muito diferentes entre si. Acredito que seja fundamental que a Justiça Eleitoral valorize, capacite e fortaleça cada vez mais seus servidores, juízes e tribunais para que possam agir, diante de sua função administrativa, com enorme apoio da estrutura central, mas também sem se descolar das peculiaridades locais que envolvam o combate à desinformação. Isso não quer dizer que o TSE não continue com um papel fundamental neste processo, porém, não me parece viável planejarmos medidas, em especial as fiscalizatórias, concentradas apenas no TSE enquanto as eleições municipais desafiam cada um dos nossos mais de 5.500 municípios espalhados pelo Brasil. Por outro lado, diante da atuação jurisdicional, sobretudo diante do cenário político-digital, talvez os melhores caminhos indiquem a necessidade de parâmetros mais seguros para operar esse universo que, frequentemente, se desenvolve na sensível relação entre a participação política e a ilicitude.

Quais os principais desafios a serem enfrentados no que tange às normas de IA para as eleições de 2024? Na sua opinião, quais pontos são indispensáveis para serem discutidos quanto à tecnologia?

Não por acaso a regulação de IA está sendo tão debatida no mundo todo e, embora tivemos avanços importantes recentemente, como nos EUA, com o decreto presidencial de 30.10.23 e na União Europeia, no início de dezembro de 2023 com o acordo de compromisso do trialogue (Conselho, Parlamento e Comissão Europeia) sobre suas diretrizes gerais o já conhecido “The EU’s AI Act”, mas até o momento esse enorme desafio não foi resolvido em nenhum lugar do planeta. Aqui mesmo, no Brasil, tivemos o PL 21/20 que após um ano e meio na Câmara dos Deputados foi aprovado naquela Casa em setembro de 2021 e, ao chegar ao Senado, foi instituída uma comissão de juristas para o tema, sendo depois constituída Comissão Temporária naquela Casa, já contando com audiência pública com diversos especialistas, porém, até o momento, sem um consenso diante da complexidade do tema. Acredito que o TSE compreenda o enorme desafio e também as limitações inerentes ao seu poder regulamentar inserido na estrutura normativa brasileira e fará o máximo possível para, dentro desses limites, minimizar riscos às eleições, porém, acredito que o ponto de partida deva ser a distinção entre a IA em si e o seu uso ilícito, sob risco de trazer mais insegurança ao tema do que as soluções que tanto buscamos.