Page 221 - Demo

Rev. Trib. Reg. Trab. 3ª Reg., Belo Horizonte, v. 70, n. 110, p. 215-236, jul./dez. 2024221Não obstante, existem igualmente em concomitância aos benefícios acima listados os aspectos contraproducentes da IA no âmbito do sistema jurídico. Há as situações mais evidentes - como as alucinações de IA que se verificam no teor de sentenças judiciais14 e de petições15; como também os de detecção mais difícil, mas não menos desastrosas, como são os casos de discriminação algorítmica - sendo o precedente emblemático o materializado pelo sistema COMPAS (Correctional Offender Management Profiling for Alternative Sanctions), no caso State of Wisconsin v. Eric Loomis(2016), nos Estados Unidos.Em suma, esse sistema utiliza algoritmos para avaliar, com base em dados dos réus, o risco de estes virem a reincidir, dentre outras situações. No caso acima mencionado, restou demonstrado que o COMPAS analisava os dados dos réus com vieses discriminatórios, sendo tendencioso na condenação de pessoas negras, o que resultava em condenações injustas. Segundo Posenato (2025):[...] o algoritmo criava falsos positivos que atingiam um número maior de pessoas de cor, que por isso tinham uma chance 45% maior do que as pessoas brancas de serem indicados como sendo mais perigosos do que realmente seriam.Eric Loomis, réu no referido caso, recorreu sob a alegação do direito a um julgamento justo.Posenato (2025) chama a atenção ainda para o risco de a IA também poder comprometer o direito de acesso à justiça - no caso de ela ser a responsável pela tomada de decisões relativas à admissibilidade das demandas por meio de mecanismo de resolução automatizada, que de igual forma poderiam ter limitações de transparência e accountability.Enfim, a IA é uma ferramenta concebida por humanos e, como tal, a depender de como for manuseada pode trazer grandes benefícios como também imensos malefícios. Todavia, tal ferramenta se diferencia de todas as demais já criadas pela humanidade porque, pela primeira vez, estamos diante de um instrumento que possui características de funcionamento obscuras e de controle questionável, na medida em que ela 14 Disponível em: https://www.conjur.com.br/2023-nov-12/cnj-vai-investigar-juiz-queusou-tese-inventada-pelo-chatgpt-para-escrever-decisao. Acesso em 06/07/2025. 15 Disponível em: https://mittechreview.com.br/alucinacoes-ia-tribunais/. Acesso em: 06 jul. 2025.