O termo “discriminação algorítmica” já aparece nas petições, contudo não é sob essa ótica que os processos são julgados.
Nos casos levantados, os tribunais não costumam tratar os episódios como uma categoria autônoma de “discriminação algorítmica”, mas aplicam institutos trabalhistas já existentes, como discriminação indireta, assédio e reparação por dano moral.
No caso da funcionária que teve o período de licença-maternidade confundida com baixo rendimento, segundo Percelman, houve condenação da empresa fundamentada nos danos causados pela promessa de promoção não cumprida.
“A discriminação algorítmica já ingressou de forma concreta no vocabulário e na pauta da Justiça do Trabalho. Mas nenhuma das decisões reconheceu de maneira expressa que a discriminação foi comprovada e, exclusivamente por esse fundamento, concedeu indenização ou reintegração”, explica o advogado.
Segundo ele, a recomendação central para reduzir exposição ao risco de processos é supervisão humana. “Você não pode simplesmente coletar os dados e não fazer uma análise crítica”, diz o advogado.
Sem alguém revisando o que o sistema apontou, o risco de conduta discriminatória indireta se materializa. O resto é compliance conhecido aplicado a um objeto novo: políticas internas, auditoria dos sistemas e testes recorrentes para identificar viés nos resultados.