MPF: medidas para evitar que Grok gere imagens ilegais são ineficazes

As medidas da plataforma X para evitar que a inteligência artificial Grok gere imagens pornográficas de crianças, adolescentes e adultos não resolvem o problema. Essa foi a avaliação do Ministério Público Federal (MPF); da ANDP, que é a Agência Nacional de Proteção de Dados; e da Secretaria Nacional do Consumidor, após questionamentos à empresa digital.

Na resposta, o X afirmou ter removido milhares de publicações e adotados medidas de segurança. No entanto, as instituições apontaram que o relatório apresentado pela empresa não trouxe evidências concretas ou mecanismos de monitoramento que permitam conferir a efetividade.

Além disso, testes preliminares já indicaram a persistência das falhas.

Sem transparência

A ANPD deu cinco dias para o X implementar medidas técnicas para impedir que o Grok gere conteúdos sexualizados de crianças, adolescentes ou adultos identificáveis. A Senacon também fez essa exigência.

O MPF afirmou que a plataforma não foi transparente e deu respostas genéricas. Por isso, determinou a entrega de relatórios mensais com detalhes sobre como o X está atuando para impedir e reprimir a produção desse tipo de conteúdo.

Nós tentamos um posicionamento da empresa sobre essas determinações; mas não conseguimos uma resposta. É bom lembrar que o X fechou todo o escritório no Brasil em 2024 e não tem uma assessoria de comunicação no país.