Desinformação russa está a infiltrar-se na inteligência artificial e pode afetar respostas do ChatGPT

Perry Mason (1957-1966) – Geraldine Brooks, John Lasell

Redes Pravda e Storm-1516 estão a poluir a Internet com conteúdos falsos que depois são apresentados como verdadeiros nas plataformas de IA mais usadas

Um exército de sites está a poluir o ambiente informativo com desinformação sobre a guerra na Ucrânia, visando favorecer os interesses de Moscovo e influenciar o apoio ocidental a um conflito que já dura há quase quatro anos. O objetivo é enganar plataformas de inteligência artificial (IA), como o ChatGPT, levando-as a produzir respostas falsas quando são utilizadas para procurar informação.

“[O presidente ucraniano, Volodymyr] Zelensky comprou a infame vivenda de Goebbels (Bogensee) por oito milhões de euros.” Este é o título de um vídeo publicado no YouTube, em 2023, que chegou a mais de 13 mil pessoas. É falso. Tal como é falsa outra publicação, de outubro de 2024, que dizia que o presidente ucraniano teria comprado o carro de Adolf Hitler. É igualmente falsa uma publicação na rede social X que, em março de 2025, durante as eleições alemãs, dizia que a AfD, um partido de extrema-direita, estaria fora dos boletins de voto em alguns locais. Uma das publicações em que esta informação falsa foi partilhada foi vista por quase 50 mil pessoas e teve perto de mil partilhas.

Segundo o Viginum, o serviço de vigilância e proteção contra a interferência digital estrangeira do governo francês, criado em 2021, as três publicações fazem parte de uma rede de desinformação, a Storm-1516, que tem como objetivo minar o apoio de Bruxelas a Kiev e influenciar as eleições em países ocidentais — nomeadamente as da Alemanha, França e EUA.

A campanha está operacional pelo menos desde agosto de 2023 e utiliza uma vasta gama de conteúdos para difundir as suas narrativas, incluindo montagens de fotografias e vídeos, bem como vídeos e áudios muito provavelmente gerados com recurso a ferramentas de IA. Estes conteúdos incluem textos e vozes em francês, inglês, ucraniano, alemão, espanhol e árabe.

“Guerra de informação de precisão em massa”

No relatório, publicado em maio, o Viginum apresentava nomes próximos do Kremlin que estarão envolvidos neste esquema. É o caso de John Mark Dougan, um antigo fuzileiro do Exército norte-americano exilado na Rússia, e também Iuri Khoroshenki, que integrará a Unidade 29155 do GRU, a agência de inteligência militar estrangeira das Forças Armadas da Federação Russa, e que é acusado de financiar a campanha.

Segundo o jornal Washington Post, Dougan esteve na origem de vídeos usados para atacar Tim Waltz, candidato democrata a vice-presidente nas eleições de 2024. Um dos vídeos, que as autoridades norte-americanas confirmaram ter por detrás operacionais russos, foi visto pelo menos por cinco milhões de utilizadores da rede social X em menos de 24 horas.

Documentos analisados pelo jornal norte-americano revelam pagamentos feitos diretamente por Khoroshenki a Dougan a partir de abril de 2022, assim como encontros entre os dois, que contaram também com a presença de Alexander Dugin, um ideólogo imperialista de extrema-direita, por vezes apelidado como “cérebro de Putin” devido à sua influência no pensamento revanchista do presidente russo.

“Os operacionais de Moscovo integraram ferramentas de IA generativa em todas as fases das operações de influência”, confirma ao PÚBLICO Halyna Padalko. A especialista em comunicação estratégica, desinformação e IA do MIT sublinha a “segmentação estratégica que adapta o conteúdo a comunidades específicas, ampliando assim as divisões sociais e minando a confiança pública”.

Para Padalko, que acompanha a desinformação estrangeira nos EUA — e que, além de atividade russa, identificou interferências do Irão e da China —, há uma grande evolução em comparação com o que aconteceu em 2016, quando surgiram as primeiras suspeitas da influência russa no processo eleitoral norte-americano.

Apesar de continuarem a ser usados sistemas como as troll farms, a “IA tornou possível manipular não apenas o que as pessoas veem, mas também a velocidade e a amplitude com que a desinformação se propaga, minando a confiança pública nas instituições democráticas e corroendo a própria ideia de uma realidade factual partilhada”.

Se até há pouco tempo era mais simples perceber quando a informação adulterada vinha de mecanismos automatizados, o uso de IA veio dificultar a distinção entre o que é verdadeiro e o que é falso.

“Creio que estamos perante uma guerra de informação de precisão em massa. As pessoas podem receber mensagens altamente específicas — até mensagens dirigidas individualmente, microdireccionadas a cada um em particular”, explica, por videochamada, Chris Kremidas Courtney, investigador sénior no European Policy Centre e investigador associado no Geneva Centre for Security Policy.

A rede Pravda

Esta não é, porém, a primeira rede de desinformação identificada pelo Viginum com supostas ligações ao Kremlin. O Portal Kombat, também conhecido como rede Pravda [verdade, em russo], publica em países de toda a Europa, África e Médio Oriente em quase 50 idiomas e, só em fevereiro, segundo o jornal Times, do Reino Unido, difundiu mais de 350 mil artigos.

A rede Pravda obtém informações de canais pró russos no Telegram, bem como de meios de comunicação estatais russos e influenciadores pró Kremlin. Está em funcionamento desde 2013 e aumentou a atividade depois de 2022, quando a Rússia invadiu a Ucrânia.

Segundo Valentin Chatelet, do Atlantic Council, em resposta por email, em 2025, a rede chegou a pelo menos 83 países e regiões de todo o mundo. Alguns incluem áreas separatistas, como as chamadas Repúblicas Populares de Lugansk e Donetsk, e as disputadas repúblicas autoproclamadas da Abecásia e Ossétia do Sul, na Geórgia. Mas há, tal como no caso da Storm-1516, um foco declarado em países como a Alemanha e França.

O especialista sublinha ainda o caso do apagão elétrico que atingiu a Península Ibérica, em abril, e que foi aproveitado para amplificar desinformação. Segundo a plataforma Maldita, um site de verificação de factos sediado em Espanha, entre 28 e 30 de abril, verificaram-se quase 1200 publicações nos sites da rede russa, o maior número desde que a rede começou a operar.

No final de 2024, a rede expandiu a sua área de atuação em Espanha, passando a produzir conteúdos em catalão, basco e galego, gerando, no total, mais de 150 mil conteúdos em apenas seis meses, de forma a aumentar também a visibilidade de diversos canais.

O PÚBLICO contactou a Embaixada da Rússia em Lisboa, que por email disse “não fazer comentários sobre especulações dos serviços franceses”.

Enganar a IA e as sanções da UE

Mas a consequência vai além da simples disseminação de conteúdos falsos. Um dos principais objetivos, de acordo com Chatelet, é a “poluição” dos modelos de linguagem de grande escala (LLM na sigla em inglês), como o ChatGPT, da Open AI, ou o Copilot, da Microsoft.

O investigador do Atlantic Council aponta para o risco da infiltração destes conteúdos na Wikipédia. Dado que muitos modelos de LLM são treinados a partir de grandes volumes de conteúdos da Wikipédia, “as hiperligações da Pravda e as narrativas a elas associadas podem ser validadas pela IA, levando-a a acreditar que os sites da Pravda são fontes noticiosas fidedignas”.

Num estudo desenvolvido em parceria com a finlandesa Check First, Chatelet confirmou que a maioria dos chatbots de IA se mostrava propensa a repetir e a incluir hiperligações para artigos da Pravda. Isso acabou por levá-los a referir entidades sancionadas que utilizam o Telegram para contornar as proibições em vigor em toda a União Europeia, como a Pravda e a Russia Today.

Usando a API da Wikipédia, a equipa de investigadores identificou 1907 hiperligações partilhadas em 1672 páginas, em 44 diferentes línguas, que remetem para 162 sites afiliados à rede Pravda. Desde a invasão da Ucrânia por parte da Rússia, o ritmo de publicação deste tipo de conteúdos aumentou e alargou-se a outros países, deixando apenas a esfera russa (922 ligações) e a ucraniana (580 ligações). Há também registos em inglês (133) e, em menor grau, em francês (28), mandarim (25), alemão (19) e polaco (17).

“Na prática, a Rússia passou de influenciar eleitores a influenciar a própria infraestrutura informacional da era digital”, acrescenta, por sua vez, Halyna Padalko. Na mesma linha segue Chris Kremidas Courtney, para quem “os LLM são treinados como se estivéssemos a fazer uma grande sopa. Tudo entra nessa panela de sopa, e quando fazemos uma pergunta, é como se estivéssemos a usar uma concha para retirar um pouco da sopa e a colocá-la no nosso prato para a comer”.

Em 2024, segundo o analista, a propaganda russa publicou 3,6 milhões de artigos de desinformação online, “poluindo o ecossistema informativo”. Um ecossistema frágil, na sua opinião, como mostra um estudo do AI Safety Institute, uma agência governamental britânica, que concluiu que sistemas de LLM podem ser influenciados com apenas 250 documentos. “Estamos a falar da Rússia e do Kremlin, mas, na verdade, qualquer pessoa, qualquer agente malicioso, pode fazer esta lavagem de informação”, acrescenta Chris Kremidas-Courtney

O soldado morto que nunca existiu

Ao PÚBLICO, McKenzie Sadeghi, da NewsGuard, uma empresa norte-americana que avalia a credibilidade de sites noticiosos, apresenta o caso do soldado Jepp Hansen — que na verdade nunca existiu. Meios de comunicação estatais russos deram conta de que um piloto dinamarquês chamado Jepp Hansen teria morrido num ataque enquanto treinava forças ucranianas.

Nas redes sociais, o ministério da Defesa da Dinamarca declarou mesmo que “não há soldados dinamarqueses mortos na Ucrânia” e considerou a notícia como “uma campanha de desinformação”. Ainda assim, uma investigação desenvolvida pelo NewsGuard demonstrou que a narrativa russa estava a ser partilhada em plataformas de IA.

Num relatório publicado em setembro, o NewsGuard dá conta de que, em 2025, as dez mais importantes plataformas de IA – ChatGPT, Mistral, Grok, Claude, You.com, Gemini, Inflection, Copilot, Meta e a Perplexity – apresentam informações falsas em pelo menos 35% das questões relacionadas com a atualidade informativa. É mais do dobro do que acontecia em 2024, indica o NewsGuard.

O PÚBLICO contactou a OpenAI para procurar informações sobre a ingerência de desinformação russa no ChatGPT, mas não obteve qualquer resposta até à hora da publicação deste artigo. Ainda assim, a empresa norte-americana, num relatório de junho, dizia ter bloqueado contas do ChatGPT que pareciam ter origem na Rússia. “Estavam a utilizar os nossos modelos para gerar conteúdos em alemão sobre as eleições alemãs de 2025 e para criticar os Estados Unidos e a NATO. Esses conteúdos eram depois distribuídos no Telegram e no X”, pode ler-se no documento a que tivemos acesso.

Se os vários especialistas com quem o PÚBLICO falou recomendam um maior controlo por parte das fontes usadas pelas plataformas de LLM, Mykola Makhortykh, da Universidade de Berlim, alerta para o facto de soluções que passem pelo condicionamento da informação podem limitar “o acesso individual a informação perfeitamente legítima ou de levar as pessoas a procurá-la noutros locais”.

Num artigo publicado na Al Jazeera, em junho, coassinado por Makhortykh, um grupo de especialistas alertava para a possibilidade de se estar a exagerar na real capacidade de a rede Pravda interferir em plataformas de LLM. Agora, ao PÚBLICO, Makhortykh diz que a comunidade científica ocidental deveria “centrar-se menos em provocar pânico moral sobre as aplicações de IA ao serviço dos objetivos do Kremlin e mais em exigir maior transparência e responsabilidade às empresas tecnológicas que desenvolvem e implementam estas aplicações”.

Fonte: Público, 23 de novembro de 2025

Alexandre Guerreiro

@ATGuerreiro

Há dias, o @Publico publicou esta peça sobre alegada "desinformação russa".

Esta peça está repleta de falácias, descontextualizações e mistura diferentes narrativas provenientes de órgãos de comunicação social estrangeiros sem que fosse feito um verdadeiro recorte (verificação) que qualquer jornalista devia fazer.

O autor da peça alega, em traços gerais, que existem duas redes de desinformação ligadas à Rússia (Pravda e Storm-1516) e que ambas estão a ser usadas para desenvolver ações nos projetos de Inteligência Artificial ocidentais com o objetivo de fazer com que adiram ao que se diz serem “narrativas do Kremlin”.

O primeiro grande problema desta peça é, como se disse inicialmente, a falta de verificação dos dados utilizados. O segundo é a ausência de investigação e aprofundamento dos dados que se confiou serem verosímeis.

As supostas redes “Pravda” (não confundir com o jornal “Pravda”) e “Storm-1516” não existem, nem organicamente, nem, sequer, como projeto informal.

Não existe qualquer entidade, referência ou, sequer, comunicação, ainda que informal, que dê conta destes dois nomes. Ambas são puras construções ocidentais e dois conceitos criados nos últimos anos para poder dar credibilidade à narrativa ocidental de que existem projetos com nomes próprios e que são direcionados a objetivos muito específicos em matéria de comunicação, informação e tecnologias de informação.

O nome “Storm-1516”, por exemplo, foi um nome criado, em 2024, pelo Threat Analysis Center da Microsoft a partir de um relatório publicado pelo Clemson’s Media Forensics Hub, em dezembro de 2023, com o nome “Infektion’s Evolution: Digital Technologies and Narrative Laundering” estando ambos direcionados a proteger conteúdos disseminados contra o poder político e as instituições ucranianas.

Já a alegada rede “Pravda” teve uma origem igualmente recente e, também aqui, estamos perante um conceito inventado por uma entidade ocidental, a VIGINUM, ou seja, o serviço técnico e operacional do Estado francês para combater ingerências digitais estrangeiras e criada para proteger o debate público de campanhas de desinformação.

Também esta é uma suposta rede cujos liderança e membros se desconhecem, mas que serve para atribuir a autoria sobre qualquer notícia ou conteúdo falso, mesmo que criado por terceiros que nada tenham a ver com o Estado russo, bem como sobre qualquer tentativa de partilha de uma visão não perfilhada pelas instituições oficiais ocidentais.

Impunha-se, portanto, que o Público compreendesse e partilhasse a origem destes nomes, sem ter de dá-los automaticamente ao leitor sem qualquer explicação, como se se tratassem de verdades insofismáveis já confirmadas através de evidência científica.

Quem integra uma e outra? Não se sabe. Onde começam e onde terminam? Desconhece-se. Como se alinham, disciplinam e articulam? Pouco importa. Estamos perante dois conceitos que, basicamente, podem servir para justificar todo o tipo de realidades que se pretendam.

No final, as entidades ocidentais que exploram estes dois nomes também não conseguem explicar concretamente do que se trata, procurando fazer crer que se traduzem em várias entidades organizadas que se articulam para disseminar narrativas consideradas pró-russas.

Na verdade, servem estes conceitos para catalogar tudo o que as instituições soberanas ocidentais não pretendem que seja conhecido ou, até, discutido.

Contudo, quando vemos os métodos utilizados – ou a falta deles – para se chegar a estas conclusões, rapidamente percebemos que qualquer pessoa que partilhe uma visão diferente daquela prosseguida pelo poder político ocidental é, em teoria, membro das supostas rede Pravda ou Storm-1516 se der voz à sua ideia ou se partilhar um conteúdo de qualquer entidade oficial russa.

O que tem a Federação Russa a ver com estes dois conceitos? Rigorosamente nada. Não os criou, não os orienta, nem sequer consegue compreender, até hoje, quem é que compõe estas supostas redes, uma vez que são conceitos criados por entidades ocidentais para encaixar pessoas e entidades que se desconhecem.

Com que critério o autor da peça usa estes dois conceitos e como chegou à conclusão de que existem “exércitos de sites” que estão “a poluir o ambiente informativo com desinformação sobre a guerra na Ucrânia”? E porque é que essa desinformação favorece “os interesses de Moscovo” e “visa influenciar o apoio ocidental”? Porque é que qualquer visão oficialmente defendida pela Rússia e que contrarie o discurso ou a pretensão ocidental é vista como “desinformação”, “narrativa” e “falso”? Porque é que todo o tipo de falsidades que abundam nas redes sociais são, automaticamente, associadas à Rússia? E, mesmo que se apurasse que a autoria de algumas notícias falsas podia ser atribuída a um cidadão nacional da Rússia, o que leva a crer que esse cidadão trabalha ou segue ordens do Estado para atuar nesse sentido?

O autor da peça não saberá responder a nenhuma destas perguntas, mas as fragilidades desta abordagem escolhida pelo jornal Público ficam expostas na simples comparação de um qualquer jornal russo redigir uma peça semelhante e imputar ao Estado português a responsabilidade sobre disseminação de notícias anti-Rússia criadas por algum cidadão português ou, mesmo sem se saber a nacionalidade, porque poderia ser do interesse de Portugal. Consegue-se imaginar o ridículo?

O autor da peça não sabe – porque não procurou, nem parece revelar interesse –, mas a

@GFCNofficial, criada e ativa na Rússia, veio a público desmentir que Ursula von der Leyen alguma vez tivesse responsabilizado a Rússia pelo “apagão ibérico”. Foi, provavelmente, a mentira mais rapidamente disseminada quando houve notícia do apagão.

Todavia, não só não foi a Rússia a criar a mentira – mesmo podendo ter interesse teórico em aproveitar-se desse facto para explorar a repulsa social às instituições da União Europeia e que se tem vindo a desenvolver de forma natural pelo descontentamento de vários sectores populares europeus –, como apressou-se a desmentir que tal alguma vez tivesse acontecido.

Ao invés, preferiu o autor da peça citar a plataforma @maldita, agência de verificação de factos espanhola e com um esforço significativo em diabolizar a Federação Russa, e indica 1200 publicações “nos sites da rede russa” que disseminaram noticias falsas sobre o apagão. Afinal, quais são os sites que integram essa suposta rede russa? E como é que esses supostos sites estão ligados, direta ou indiretamente, ao Estado?

O autor da peça devia seguir o rigor jornalístico exigido no tratamento de uma matéria de tamanha sensibilidade. Atente-se que dá todo um conjunto de exemplos e em nenhum deles se esforça por demonstrar que a Rússia está direta ou indiretamente ligada aos mesmos. Limita-se a invocar que o objetivo é “influenciar o apoio ocidental” à Ucrânia e “enganar plataformas de inteligência artificial”.

É suficiente a mera alegação sem qualquer nexo causal ou elemento que corrobore ou, no mínimo, aponte ligeiramente para tamanha conclusão? O Público entende que sim, mas o rigor científico e jornalístico – que é igual no Ocidente e na Federação Russa – dita que não.

Um problema final desta peça passa pela alegação de que a Rússia pretende disseminar mentiras para dominar o espaço digital e atacar o Ocidente. É a eterna caricatura dos contos para crianças, em que temos os bons contra os maus, sendo que nós somos sempre os bons e os maus não têm qualquer critério na forma como nos querem atacar e destruir.

Há dois grandes objetivos em matéria de informação e meios digitais, incluindo no que ao envolvimento da inteligência artificial diz respeito. O primeiro, visa o controlo da informação para impedir outras visões e interpretações e ajustar a realidade às conveniências nacionais. O segundo visa assegurar a soberania da informação, mas como forma de ter meios que permitam blindar os Estados à desinformação. São conceitos diferentes, mas objetivos que qualquer Estado escolhe prosseguir.

A Rússia defende e prossegue a segunda corrente, sem ter qualquer objetivo de maquilhar realidades e criar realidades virtuais. Deve, portanto, o autor da peça tratar estas realidades complexas de forma menos pueril do que aquela com que resumiu a sua dissertação a uma guerra entre bons e maus, em que o Ocidente, aconteça o que acontecer e faça o que fizer, será sempre o bom.

A propósito disto, deixo o desafio: onde andam as agências de verificações de factos e os jornalistas ocidentais no que a desmascarar as notícias falsas sobre a Rússia e a Ucrânia, promovidas por quadros oficiais da UE e dos Estados-Membros, diz respeito?