Crítica central é que as proteções atuais não acompanham a velocidade do problema. “De políticos a cidadãos comuns, deepfakes gerados por IA estão cada vez mais sendo usados para assediar e silenciar mulheres, afastando-as do debate público”, disse Pamela San Martin, co-presidente do Oversight Board,
Para o conselho, os casos mostram um padrão de ataques direcionados. “Esses casos demonstram um padrão mais amplo e preocupante, em que mulheres que se expõem publicamente em temas de interesse público são desproporcionalmente alvo de assédio e desinformação. Meta e outras plataformas precisam de políticas mais robustas para enfrentar a proliferação de deepfakes”, afirmou San Martin.
Órgão recomendou mudanças para reduzir alcance desse tipo de postagem e endurecer punições para reincidentes. Em publicação no blog, o conselho afirmou que “a maioria [do conselho] conclui que a Meta precisa de políticas mais robustas sobre deepfakes, incluindo ampliar as situações em que rótulos de ‘alto risco’ podem ser aplicados, mais medidas para reduzir a disseminação de conteúdo enganoso gerado por IA, aumentar as penalidades para contas que o compartilham repetidamente e mais transparência sobre dados de quando rótulos de IA são aplicados”.
O que é o Conselho de Supervisão da Meta
O Conselho de Supervisão da Meta é um órgão criado pela empresa em 2020 para revisar decisões de moderação no Facebook, Instagram e Threads. Ele funciona como uma instância externa de apelação: usuários podem recorrer quando discordam de decisões anteriores, e o conselho também pode selecionar casos de grande repercussão para emitir juízos.
As decisões do conselho sobre casos específicos são vinculantes, ou seja, a Meta precisa cumprir o que foi determinado sobre manter ou remover conteúdos. Já as recomendações de política não são automáticas, mas a empresa tem prazo para responder publicamente se vai adotar as mudanças sugeridas.