Em uma iniciativa conjunta para salvaguardar a dignidade humana e a proteção de dados no ambiente digital, órgãos do governo brasileiro, representados pela Agência Nacional de Proteção de Dados (ANPD) e a Secretaria Nacional do Consumidor (Senacom), uniram forças com o Ministério Público Federal (MPF) para emitir uma recomendação formal ao X, antiga plataforma Twitter. O alerta surge em resposta a denúncias crescentes sobre o uso do assistente de inteligência artificial Grok para a criação e disseminação de conteúdos sintéticos sexualizados, conhecidos como deepfakes, produzidos a partir de imagens de pessoas reais sem o devido consentimento.
A Urgência da Intervenção Governamental e Jurídica
A gravidade da situação tem sido amplamente reportada pela imprensa nacional e internacional, que documentam a manipulação da ferramenta Grok para gerar imagens falsas de caráter sexualizado, erótico ou pornográfico. Essas criações ilícitas têm envolvido, de forma alarmante, a representação de mulheres, crianças e adolescentes. As instituições envolvidas ressaltam que tais ocorrências violam simultaneamente a proteção de dados pessoais, as relações de consumo, a dignidade da pessoa humana e uma série de outros direitos fundamentais, tanto difusos quanto coletivos e individuais, com especial atenção às vítimas mais vulneráveis.
Ultimato e Consequências Legais para a Plataforma
Diante do cenário preocupante, o X foi notificado com um prazo até <b>27 de janeiro</b> para apresentar as providências técnicas, administrativas e de governança de dados adotadas. O objetivo é impedir que sua ferramenta de IA produza representações de crianças e adolescentes em contextos sexualizados ou erotizados, bem como de adultos sem autorização explícita. Esta exigência abrange a manipulação de fotografias, imagens reais, vídeos ou arquivos de voz. O não cumprimento das medidas recomendadas dentro do período estipulado poderá acarretar sérias consequências para a empresa, com a possível adoção de ações cabíveis nas esferas administrativa e judicial. Tais providências seriam embasadas em marcos legais importantes, como o Marco Civil da Internet, o Código de Defesa do Consumidor e a Lei Geral de Proteção de Dados (LGPD).
Plano de Ação Abrangente para Coibir a Exploração Digital
Além da exigência de prevenção, as autoridades delinearam um conjunto de ações mandatórias para a plataforma, visando uma resposta robusta e contínua à problemática dos deepfakes. O plano de ação busca não apenas barrar a criação de novos conteúdos ilícitos, mas também erradicar o material já existente e fortalecer os mecanismos de denúncia e responsabilização.
Contenção Imediata e Fiscalização Contínua
Uma das recomendações primordiais é a suspensão imediata e contínua das contas que se comprovem envolvidas na produção de conteúdos sexualizados via Grok. Para assegurar a efetividade desta medida, o X deverá apresentar relatórios mensais detalhados, funcionando como prova de que a empresa está cumprindo seu dever de mitigar práticas especialmente danosas dentro do ecossistema digital que administra.
Mecanismos de Reação e Transparência na Proteção de Dados
Adicionalmente, foi estabelecido um prazo máximo de <b>30 dias</b> para que o X implemente procedimentos técnicos e operacionais claros e eficazes, voltados à identificação, revisão e remoção de conteúdos ilegais já produzidos pelo Grok e que ainda estejam acessíveis na plataforma. Paralelamente, a empresa deverá criar um mecanismo transparente, acessível e eficaz para que os titulares de dados possam exercer seus direitos, incluindo a capacidade de enviar denúncias sobre o uso irregular, abusivo ou ilegal de informações pessoais, especialmente em casos de criação de conteúdo sintético sexualizado sem consentimento. É crucial que este sistema garanta uma resposta adequada e em prazo razoável. Por fim, o X foi instado a elaborar um Relatório de Impacto à Proteção de Dados Pessoais (RIPD) específico para as atividades de geração de conteúdo sintético que manipulem fotos, imagens, vídeos ou áudios enviados por usuários ao Grok, sempre que esses dados permitam a identificação direta ou indireta de uma pessoa natural.
Reforço e Aplicação das Políticas de Uso
As instituições também enfatizaram a necessidade de aplicação urgente e efetiva das políticas internas do X já anunciadas aos usuários, referentes à nudez não consensual e à política contra a exploração sexual de menores. A expectativa é que a plataforma demonstre proatividade e rigor na observância de seus próprios termos de serviço para combater essas violações graves.
A ação conjunta da ANPD, Senacom e MPF sinaliza uma postura firme das autoridades brasileiras frente aos desafios éticos e legais impostos pela inteligência artificial e suas aplicações. Ao exigir que o X assuma sua responsabilidade na moderação de conteúdo gerado por IA, o Brasil reforça a importância da proteção da privacidade, da dignidade e da segurança dos usuários, especialmente os mais jovens, em um ambiente digital em constante evolução e que demanda vigilância contínua.
Fonte: https://www.infomoney.com.br
