O Ministério Público Federal (MPF), a Agência Nacional de Proteção de Dados (ANPD) e a Secretaria Nacional do Consumidor (Senacon) avaliaram as respostas apresentadas pela plataforma X e concluíram pela insuficiência das providências informadas pela empresa em relação à sua ferramenta de inteligência artificial (IA), o Grok.
A ferramenta tem sido utilizada indevidamente para a geração e circulação de imagens de pessoas em contexto de sexualização, de forma não autorizada. As três entidades haviam emitido recomendações à plataforma X no mês passado, incluindo a adoção de procedimentos técnicos e operacionais para identificar, revisar e remover conteúdos desse tipo gerados pelo Grok.
Em sua resposta, o X afirmou ter removido milhares de publicações e suspendido centenas de contas, além de declarar a adoção de medidas de segurança. No entanto, as instituições consideraram que as informações apresentadas não foram acompanhadas de evidências concretas, relatórios técnicos ou mecanismos de monitoramento que permitam aferir sua efetividade. Testes preliminares indicam a persistência das falhas.
Determinações e exigências
Em nova manifestação, divulgada nesta quarta-feira (11), os três órgãos determinaram que o X implemente, de forma imediata, medidas efetivas para impedir a produção, a partir do Grok, de conteúdo sexualizado ou erotizado de crianças e adolescentes e de adultos que não expressaram consentimento.
As instituições também determinaram a prestação de informações sobre as providências já adotadas pela empresa para sanar os problemas identificados. O MPF, por sua vez, ordenou que o X forneça relatórios mensais sobre sua atuação a respeito do tema e ressaltou que a empresa não foi transparente em sua resposta.
Medidas e penalidades
A ANPD exige que os recursos que impedem o uso indevido da ferramenta de IA abranjam todas as versões, planos e modalidades do Grok. O MPF exigiu o envio de relatórios mensais detalhados sobre como o X está atuando para impedir e reprimir a produção de deepfakes, indicando o número de postagens nocivas derrubadas e contas suspensas.
Caso as determinações não sejam cumpridas, a empresa poderá ser multada diariamente, responder pelo crime de desobediência e sofrer medidas investigatórias mais severas, além de ser alvo de ação judicial, informou o MPF.
A Senacon cobrou a comprovação de providências já adotadas e a remessa de relatório métrico detalhado, contendo dados quantitativos verificáveis sobre identificação, moderação, remoção e indisponibilização de conteúdos sexualizados relacionados ao funcionamento do Grok.
Com informações da Agência Brasil
