A Agência Nacional de Proteção de Dados (ANPD), a Secretaria Nacional do Consumidor (Senacom) e o Ministério Público Federal (MPF) emitiram uma série de recomendações à rede social X (antigo Twitter) para barrar o uso indevido de sua inteligência artificial, o Grok. O objetivo é impedir a geração e circulação de conteúdos sexualizados criados pela ferramenta.
O documento, divulgado nessa terça-feira (20/1), estipula um prazo máximo de 30 dias para que a empresa crie procedimentos técnicos para identificar e remover conteúdos desse tipo já existentes.
Suspensão de contas e proteção de menores
As instituições exigem a suspensão imediata das contas de usuários envolvidos na produção de imagens sexuais ou erotizadas sem autorização, tanto de adultos quanto de crianças e adolescentes.
Também foi solicitada a implementação imediata de travas que impeçam o Grok de gerar novos arquivos que representem menores de idade em contextos erotizados.
X como ‘coautor’ de deepfakes
A recomendação se baseia em denúncias e testes que comprovam o uso do Grok para a criação de deepfakes (imagens falsas realistas) com conotação pornográfica a partir de fotos de pessoas reais.
Um ponto crucial do documento é a interpretação legal de que o X não é apenas um intermediário neste caso. Como as imagens são geradas pela interação com a IA da plataforma, o X torna-se “coautor de tais conteúdos”, não podendo se isentar de responsabilidade.
O texto cita ainda o entendimento recente do STF de que provedores de internet têm “especial dever de cuidado” para evitar a circulação massiva de crimes graves, como os praticados contra mulheres.
Caso as medidas não sejam acatadas, o governo e o MPF alertam que poderão adotar ações judiciais contra a plataforma.
