Por Cleber Lourenço

A atuação da deputada federal Erika Hilton (PSOL-SP) resultou no procedimento que levou a Agência Nacional de Proteção de Dados (ANPD), o Ministério Público Federal (MPF) e a Secretaria Nacional do Consumidor (Senacon) a emitirem recomendação conjunta contra a empresa controladora da plataforma X (antigo Twitter), devido ao uso da ferramenta de inteligência artificial Grok para a criação e disseminação de conteúdos sexualizados indevidos.

Em entrevista ao ICL Notícias, Erika Hilton declarou que a responsabilização das plataformas é crucial diante da gravidade dos casos relatados. “É inaceitável que uma plataforma permita que sua ferramenta de IA seja utilizada para produzir deepfakes, pornografia infantil e pornografia sem consentimento, e não seja responsabilizada”, afirmou.

A deputada também criticou a falta de ação do Congresso na regulamentação das big techs e afirmou que continuará atuando por outras vias institucionais. “A regulação das plataformas é urgente e, enquanto o Congresso se recusa a lidar com as big techs e seus proprietários bilionários, buscarei caminhos alternativos como acionar o sistema de justiça e a agência reguladora. Estou satisfeita que a ANPD, o MPF e a Senacon tenham se mobilizado”, disse.

Deepfakes sexualizados

A representação foi protocolada em janeiro e indicou que o Grok permitia a edição automatizada de imagens de terceiros, inclusive a partir de fotografias publicadas por outros usuários, sem a implementação de mecanismos eficazes de verificação de consentimento, idade ou finalidade legítima.

De acordo com a denúncia apresentada pela parlamentar, o sistema estava sendo usado para criar deepfakes sexualizados, eróticos e com conotação pornográfica de mulheres, crianças e adolescentes reais, sem autorização das pessoas retratadas.

A arquitetura da funcionalidade, conforme a representação, criava um risco estrutural e sistêmico previsível, especialmente em um ambiente digital marcado historicamente por práticas recorrentes de violência sexual e exposição indevida de imagens.

Manipulação de fotografias

A ANPD confirmou a veracidade dos fatos após realizar testes técnicos próprios. Segundo a Nota Técnica nº 1/2026 da Coordenação-Geral de Fiscalização, o Grok conseguiu manipular fotografias reais fornecidas por usuários, alterando roupas e inserindo pessoas retratadas em contextos íntimos e sexualizados, sem consentimento válido. O órgão concluiu que as salvaguardas anunciadas pela empresa não eram suficientes para evitar danos significativos aos direitos à privacidade, à proteção de dados pessoais e à dignidade da pessoa humana, especialmente quando envolviam crianças e adolescentes.

Com base nessas constatações, ANPD, MPF e Senacon recomendaram que a empresa implemente, imediatamente, medidas técnicas e administrativas para impedir que o Grok produza imagens, vídeos ou arquivos de áudio que retratem crianças e adolescentes em contextos sexualizados ou erotizados, assim como adultos identificáveis sem autorização. As medidas devem ser aplicadas em todas as versões e modalidades da ferramenta.

As instituições também estabeleceram um prazo de até 30 dias para a implementação de procedimentos eficazes de identificação, revisão e remoção de conteúdos dessa natureza que ainda estejam disponíveis na plataforma. Além disso, recomendaram a suspensão imediata e permanente das contas envolvidas na produção ou compartilhamento frequente desse tipo de material, com a apresentação de relatórios mensais que comprovem a conformidade com as medidas.

Outro aspecto da recomendação é a exigência de mecanismos transparentes e acessíveis para que os titulares de dados possam denunciar usos irregulares, abusivos ou ilegais de suas imagens, além da elaboração de um Relatório de Impacto à Proteção de Dados específico para as atividades de geração de conteúdo sintético a partir da manipulação de imagens reais.

Erika afirmou que continuará monitorando o cumprimento das medidas. “Agora vou seguir de perto para garantir que a Grok cumpra a determinação e garantir um ambiente seguro para as pessoas na internet”, concluiu a deputada.

Créditos