De proibições a investigações: que países tomam medidas contra o chatbot de Elon Musk?

Perry Mason (1957-1966) – Frances Reid

Governos em todo o mundo estão a agir rapidamente para conter o Grok, o chatbot de inteligência artificial (IA) de Elon Musk, numa altura em que aumentam as preocupações de que gera imagens falsas e sexualmente explícitas.

No verão passado, a xAI, empresa operadora do Grok, acrescentou um gerador de imagens que incluía um “modo picante” capaz de criar conteúdo para adultos.

Nas últimas semanas, o Grok tem respondido a pedidos de utilizadores para “despir” imagens de mulheres e vesti-las com biquínis, produzindo deepfakes gerados por IA sem salvaguardas.

De bloqueios totais no Sudeste Asiático a investigações criminais e avisos regulatórios na Europa e na Austrália, as autoridades dizem que as salvaguardas existentes estão a falhar.

Estes são os países que baniram o Grok ou emitiram avisos.

Que países baniram o Grok?

Indonésia

A Indonésia foi o primeiro país a bloquear temporariamente o Grok para proteger mulheres, crianças e a comunidade em geral de conteúdo pornográfico falso gerado por IA.

"O governo considera os deepfakes sexuais não consensuais uma grave violação dos direitos humanos, da dignidade e da segurança dos cidadãos no espaço digital", disse em comunicado no sábado a ministra da Comunicação e dos Assuntos Digitais da Indonésia, Meutya Hafid.

As restrições ao Grok são uma “preventiva” medida enquanto as autoridades avaliam se a plataforma é segura, disse a Polícia Nacional da Indonésia.

As primeiras análises concluíram que o Grok não dispõe de salvaguardas eficazes para travar a criação e distribuição de conteúdo pornográfico com base em fotos reais de residentes na Indonésia, segundo um comunicado de Alexander Sabar, diretor-geral de supervisão do espaço digital.

Sabar afirmou que tais práticas arriscam violar a privacidade e os direitos de imagem quando as fotos são manipuladas ou partilhadas sem consentimento, causando danos psicológicos, sociais e reputacionais.

Malásia

A Comissão de Comunicações e Multimédia da Malásia (MCMC) ordenou no domingo a suspensão temporária do Grok, após o que descreveu como “uso reiterado” da ferramenta para gerar imagens obscenas, sexualmente explícitas e manipuladas sem consentimento.

O regulador disse que enviou este mês dois avisos à X e à xAI a exigir salvaguardas mais robustas. Nas respostas, a X afirmou que o Grok depende sobretudo de denúncias dos utilizadores sobre conteúdo abusivo.

A MCMC concluiu que a X “não resolveu os riscos inerentes” no desenho e operação da sua plataforma de IA, algo que considerou insuficiente à luz da lei malaia.

“A restrição é imposta como medida preventiva e proporcional enquanto decorrem processos legais e regulatórios”, afirmou, acrescentando que o acesso permanecerá bloqueado até serem implementadas salvaguardas eficazes.

Como reagiram outros países?

União Europeia

A Comissão Europeia anunciou que está a analisar casos de imagens sugestivas e explícitas de raparigas jovens geradas pelo Grok.

“Posso confirmar, deste púlpito, que a Comissão está também a olhar para este assunto com muita seriedade”, disse na semana passada a porta-voz da Comissão aos jornalistas em Bruxelas.

A Reuters avançou que a Comissão ordenou à X que preservasse todos os documentos relativos ao Grok até ao fim do ano, para que o bloco avalie se cumpre as regras da UE.

Uma porta-voz da Comissão disse à Reuters que isso não significa que tenha sido aberta uma investigação formal.

Ursula von der Leyen, presidente da Comissão Europeia, disse numa entrevista ao jornal italiano Corriere della Sera que estava “indignada por uma plataforma tecnológica permitir que os utilizadores despissem, digitalmente, mulheres e crianças na internet”.

Sem nomear diretamente o X ou o Grok, von der Leyen afirmou que a Comissão “não vai subcontratar a proteção de menores e o consentimento a Silicon Valley. Se não atuarem, atuaremos nós”, disse.

Reino Unido

O regulador dos meios do Reino Unido abriu uma investigação à X, empresa-mãe da xAI, e à plataforma social de Musk, sobre o uso do Grok para gerar imagens sexualmente explícitas e não consensuais.

A Ofcom afirmou, em comunicado, que havia “relatos profundamente preocupantes” do uso do chatbot para criar e partilhar imagens de pessoas “despidas”, bem como “imagens sexualizadas de crianças”.

O regulador poderá também solicitar uma ordem judicial para obrigar os fornecedores de internet a bloquearem o acesso ao Grok, caso o X não cumpra os requisitos da Ofcom.

O X poderá enfrentar uma multa até 10 por cento da sua receita mundial ou £18 milhões (€20 milhões).

“O conteúdo que circulou na X é repugnante. Não é apenas um insulto à sociedade decente, é ilegal,” disse ao parlamento Liz Kendall, ministra da Tecnologia.

França

​O ministério Público de Paris alargou no início de janeiro uma investigação à X para incluir o Grok, segundo a comunicação social local.

A investigação inicial, em curso desde julho passado, focou-se em suspeitas de interferência organizada nos sistemas informáticos do X e extração ilegal de dados.

A decisão de ampliar a investigação foi tomada esta semana depois de cinco políticos acusarem a plataforma de gerar e disseminar vídeos falsos, sexualmente explícitos, envolvendo menores, segundo o jornal francês Le Parisien.

O jornal indicou que a Autoridade de Regulação da Comunicação Audiovisual e Digital (Arcom) está a investigar potenciais violações da Lei dos Serviços Digitais por parte do X, a regulamentação europeia para serviços digitais.

Itália

A 8 de janeiro, a Autoridade Italiana para a Proteção de Dados (Garante) alertou que quem usar o Grok ou outras plataformas de IA para remover a roupa de pessoas e quem distribuir essas imagens arrisca acusações criminais.

O organismo afirmou que o uso das ferramentas sem a permissão da pessoa na fotografia pode ser considerado “uma grave violação dos direitos e liberdades fundamentais dos indivíduos envolvidos”.

A autoridade lembrou ainda o Grok e outros fornecedores de IA de que devem conceber, desenvolver e disponibilizar produtos que cumpram as regras de privacidade. ​

O regulador italiano disse estar a trabalhar com a Comissão de Proteção de Dados da Irlanda, autoridade principal de privacidade para a X, dado que a sede da empresa está na Irlanda.

Em outubro, a autoridade italiana bloqueou o ClothOff, outra plataforma gerada por IA que remove roupa. A plataforma permite que qualquer pessoa, incluindo menores, crie fotos e vídeos que retratam pessoas reais nuas ou em posições sexuais.

Em setembro, Itália acrescentou um novo artigo no seu código penal para punir quem difunda deepfakes de IA com até cinco anos de prisão.

Alemanha

Alemanha disse que irá em breve apresentar uma “proposta concreta” para uma nova lei contra a violência digital.

Anna-Lena Beckfeld, porta-voz do ministério da Justiça alemão, afirmou numa conferência em janeiro que a futura lei contra a violência digital será uma forma de apoiar as vítimas deste “tipo de violência digital”, tornando “mais fácil agir diretamente contra violações dos seus direitos online”.

Questionada especificamente sobre o Grok, Beckfeld disse ser “inaceitável que a manipulação esteja a ser usada em larga escala para violações sistemáticas de direitos pessoais”.

"Por isso, queremos ver medidas mais fortes contra isto através do direito penal", acrescentou.

Em 2025, os três principais partidos da Alemanha acordaram reformar a lei de cibercrime e fechar “lacunas” no código penal para crimes relacionados com IA, como imagens sexuais geradas por IA, segundo um acordo.

Austrália

Em janeiro, o gabinete do eSafety Commissioner da Austrália disse ter recebido, nas últimas semanas, um número pequeno mas crescente de denúncias sobre conteúdo sexual gerado por IA pelo Grok.

O gabinete afirmou que usará os seus poderes, como avisos de remoção, que podem ordenar a uma rede social que retire conteúdo problemático, caso algum conteúdo viole a Lei de Segurança Online do país.

O gabinete já solicitou mais informações à X sobre o uso abusivo da funcionalidade sexual do Grok e para avaliar se está a cumprir a nova lei das redes sociais da Austrália.

Lembrou ainda o Grok que, a partir de 9 de março, os serviços online, incluindo empresas de IA, terão de bloquear o acesso de crianças a conteúdo sexual, violento ou nocivo. ​

Fonte: Euronews, 13 de janeiro de 2026

A hipocrisia política enraivece-se contra as imagens falsas e sexualmente explícitas enquanto celebra as imagens verdadeiras e intrinsecamente sexuais. No início, Eva cobriu o seu órgão genital com a parra. Para manter esta ocultação – e por uma questão de economia de design e ainda não por pudor sexual, costureiras e estilistas cobriram o órgão mais recuado com a saia ou as calças. Era mais fácil costurar uma peça completa do que uma para cobrir apenas a parte da frente.  Em boa hora, pois esse orifício se tornará num órgão genital central nas alcovas do século XX: assim como a boca, com o advento das discotecas na louca curtição coca por mamada. No entanto, as proibições não acompanharam esta mudança social e a boca mantém-se impudicamente visível causando desconforto, stress e sofrimento nos visualizadores.