Page 246 - Demo

Rev. Trib. Reg. Trab. 3ª Reg., Belo Horizonte, v. 70, n. 110, p. 237-257, jul./dez. 2024246dessa tecnologia se traduza em uma prestação jurisdicional mais célere, acessível e, em última instância, mais justa para a sociedade brasileira. A continuidade do investimento em pesquisa, desenvolvimento e na formação de profissionais qualificados será determinante para o futuro da inteligência artificial como um pilar fundamental na modernização do sistema de justiça.4 RISCOS JURÍDICOS E ÉTICOS DA TRIAGEM AUTOMATIZADADe fato, a utilização desregrada de sistemas de inteligência artificial para triagem e priorização de processos judiciais pode acarretar uma série de riscos, destacando-se o viés algorítmico, os impactos sobre a isonomia e o princípio da individualização das decisões judiciais, além da falta de transparência dos modelos utilizados.Primeiramente, o viés algorítmico consiste na distorção dos resultados produzidos por sistemas automatizados, em consequência de erros ou de tendências nos dados de treinamento, nos critérios de modelagem ou nas próprias escolhas humanas durante o desenvolvimento do algoritmo (Barocas; Selbst, 2016). Decerto, estudos empíricos mostram que bases de dados históricas podem reproduzir desigualdades estruturais, reforçando discriminações raciais, de gênero ou de classe (Eubanks, 2018), como ocorreu com o sistema COMPAS, utilizado nos Estados Unidos para avaliar riscos de reincidência criminal, que apresentou tendências discriminatórias contra pessoas negras (Angwin et al., 2016).No contexto brasileiro, embora ainda haja poucos estudos sistematizados sobre o viés em sistemas de IA no Judiciário, é de suma importância ponderar sobre os impactos do uso dessas novas tecnologias na reprodução de padrões de iniquidade, principalmente quando baseadas em dados não anonimizados ou em categorias que refletem disparidades sociais.De fato, a isonomia é um princípio basilar do Estado Democrático de Direito, previsto no art. 5º da Constituição Federal de 1988, estando esta garantia intrinsecamente conectada à individualização da prestação jurisdicional (Brasil, 1988). O uso de algoritmos para definir a ordem de análise de processos pode comprometer tais princípios, ao tratar casos com similaridades formais como equivalentes, desconsiderando particularidades materiais que requerem um exame diferenciado.Conforme sustenta Zarsky (2016), algoritmos podem induzir ao tratamento padronizado de litígios, minando o exercício da discricionariedade