X vai impedir Grok de despir pessoas reais em imagens

Perry Mason (1957-1966) – William Hopper, Jose Gonzales-Gonzales, Nacho Galindo

A ferramenta de inteligência artificial Grok vai deixar de permitir editar fotografias de pessoas reais retirando-lhes a roupa ou trocando-a por roupa mais reveladora. A notícia surge no mesmo dia em que foi conhecida a abertura de uma investigação devido à proliferação online de imagens de mulheres e crianças nuas geradas com o Grok, assistente de inteligência artificial (IA) criado pela empresa de Elon Musk.

“Implementámos medidas tecnológicas para impedir que a conta Grok permita a edição de imagens de pessoas reais com roupas reveladoras, como biquínis. Esta restrição aplica-se a todos os utilizadores, incluindo assinantes pagos”, lê-se num anúncio no X, que opera esta ferramenta, escreve a BBC.

A mudança foi anunciada horas depois de o procurador-geral da Califórnia ter anunciado que estava a investigar a disseminação de deepfakes sexualizados gerados por IA, incluindo de crianças, produzidos pelo modelo de IA. O procurador acusou a xAI de ter divulgado a capacidade de despir pessoas “como uma ferramenta de marketing, o que, previsivelmente, levou à proliferação de conteúdos sexualizados sem o consentimento dos indivíduos envolvidos”.

Já na semana passada, uma análise conduzida pela organização não-governamental (ONG) AI Forensics a mais de 20 mil imagens geradas pelo Grok concluiu que mais de metade retratava indivíduos com pouca roupa — 81% dos quais eram mulheres e 2% dos quais pareciam ser menores de idade.

Fonte: Observador, 15 de janeiro de 2026

A grande questão para os pensadores do futuro — num contexto de Inteligência Artificial plenamente treinada — será a identificação de conteúdos sexualizados por entre o dilúvio de imagens disponibilizadas ao grande público. Duas figuras masculinas de forte base de seguidores e uma mulher envolta em peles constitui, sem grande margem de dúvida, uma imagem sexualizada.