Governo determina que X adote medidas imediatas contra deepfakes sexuais
Órgãos do Governo Federal determinaram que a plataforma X (anteriormente conhecida como Twitter) implemente, de forma imediata, medidas para impedir a criação e a disseminação de deepfakes sexuais. A decisão foi tomada diante da circulação de conteúdos sensíveis sem consentimento na rede, impulsionada pelo uso de ferramentas de inteligência artificial, como o Grok, que passaram a facilitar a edição de imagens com finalidades inadequadas. A medida surge após a própria plataforma ter indicado ter removido milhares de publicações e contas relacionadas a conteúdos ilegais, mas entidades reguladoras entenderam que as ações adotadas até o momento não seriam suficientes para coibir o uso indevido da IA na geração de mídias.
Determinação
Entre as determinações, as secretarias ligadas à proteção do consumidor exigem que a rede social apresente, de forma detalhada, um conjunto de soluções técnicas que impeçam o Grok de viabilizar conteúdos de cunho sexual sem consentimento. Além disso, a plataforma deve fornecer um relatório enumerado com as providências já adotadas para bloquear a geração das mídias em questão, bem como dados sobre a identificação e a remoção de publicações. O Ministério Público Federal também exigiu transparência, assegurando que a empresa entregue relatórios mensais com informações sobre as ações empreendidas para coibir a produção de deepfakes sexuais, com o objetivo de acompanhar a efetividade das medidas e evitar lacunas no enfrentamento do problema.
O não cumprimento das determinações pode acarretar sanções, incluindo multas diárias, além de responsabilização por desobediência. Diante desse cenário, cresce a pressão sobre a empresa para que invista em mecanismos mais robustos de detecção e bloqueio de conteúdos gerados por IA, bem como em estratégias de moderação que envolvam equipes técnicas e procedimentos de resposta rápida a denúncias.
Contexto Internacional
No contexto internacional, países como Indonésia e Malásia já impediram o acesso ao Grok dentro de suas redes sociais, citando a produção de conteúdos ilegais. Enquanto isso, o Reino Unido e a União Europeia abriram investigações para avaliar se plataformas estão cumprindo normas de mitigação de danos e proteção dos usuários. No Brasil, instituições como o Idec já haviam solicitado a suspensão do Grok, apontando violações graves associadas ao uso da IA na rede social.
O tema levanta questões sobre a responsabilidade das plataformas digitais na prevenção de abusos e na proteção de menores de idade e de pessoas vulneráveis. Além de ações regulatórias, a discussão envolve a necessidade de mecanismos de transparência, auditorias técnicas e acompanhamento contínuo por órgãos de defesa do consumidor e de proteção de dados, a fim de manter o equilíbrio entre inovação tecnológica e salvaguarda de direitos. Em meio a esse panorama, surgem debates sobre marcas d’água, rastreabilidade de conteúdos gerados por IA e procedimentos que permitam aos usuários verificar a autenticidade das imagens, contribuindo para reduzir a disseminação de conteúdos prejudiciais e enganosos.
