O Ministério Público Federal (MPF), a Agência Nacional de Proteção de Dados (ANPD) e a Secretaria Nacional do Consumidor (Senacon) analisaram as respostas da plataforma X e consideraram insuficientes as medidas adotadas pela empresa em relação ao uso inadequado de sua ferramenta de inteligência artificial, o Grok. Esta ferramenta tem sido utilizada indevidamente para criar e disseminar imagens de pessoas em contextos sexualizados sem autorização.
No mês passado, as três entidades emitiram uma série de recomendações à plataforma X. Entre elas, estava a necessidade de implementar procedimentos técnicos e operacionais para identificar, revisar e remover conteúdos desse tipo gerados pelo Grok, conforme comandos de usuários.
Em resposta, a plataforma X afirmou ter removido milhares de publicações e suspendido centenas de contas por violação de suas políticas, além de adotar medidas de segurança. No entanto, as instituições consideraram que as informações fornecidas não incluíam evidências concretas, relatórios técnicos ou mecanismos de monitoramento que comprovassem a eficácia das ações. Testes preliminares realizados pelas equipes técnicas das instituições indicaram a persistência das falhas, com a continuidade da geração e circulação de conteúdos incompatíveis com as recomendações emitidas.
Em nova manifestação divulgada nesta quarta-feira (11), os três órgãos exigiram que a plataforma X implemente imediatamente medidas efetivas para impedir a produção de conteúdo sexualizado ou erotizado de crianças, adolescentes e adultos sem consentimento, a partir do Grok.
As instituições também exigiram informações sobre as providências já adotadas pela empresa para resolver os problemas identificados. O MPF ordenou que a plataforma X forneça relatórios mensais sobre suas ações no tema e destacou a falta de transparência na resposta da empresa.
A ANPD, o MPF e a Senacon atuam de forma coordenada na investigação dos fatos relacionados ao uso indevido do Grok. Cada instituição mantém um procedimento administrativo aberto contra a plataforma, conforme suas áreas de competência.
No caso da ANPD, a medida preventiva exige que os recursos que impedem o uso indevido da ferramenta de IA abranjam todas as versões, planos e modalidades do Grok.
O MPF exigiu o envio de relatórios mensais, a partir deste mês de fevereiro, detalhando como a plataforma X está atuando para impedir e reprimir a produção de deepfakes envolvendo crianças, adolescentes e adultos sem autorização prévia, indicando o número de postagens nocivas removidas e contas suspensas.
Se não cumprida, a plataforma poderá ser multada diariamente. Os envolvidos também poderão responder por crime de desobediência, e a empresa pode enfrentar medidas investigatórias mais severas, além de ações judiciais.
Em medida cautelar administrativa, a Senacon exigiu a comprovação das providências já adotadas para mitigar os riscos identificados e resolver os problemas apontados na recomendação conjunta.
Foi também exigida a apresentação de um relatório métrico detalhado, com dados quantitativos verificáveis sobre a identificação, moderação, remoção e indisponibilização de conteúdos sexualizados relacionados ao funcionamento do Grok, incluindo o número de conteúdos identificados e removidos, prazos médios de resposta, critérios técnicos utilizados e eventuais medidas corretivas adicionais, como suspensão de contas ou restrição de funcionalidades.
A reportagem tenta contato com a assessoria da Plataforma X no Brasil para obter um posicionamento sobre essa nova manifestação conjunta do MPF, da ANPD e da Senacon.
Com informações da Agência Brasil