Page 108 - Demo

Rev. Trib. Reg. Trab. 3ª Reg., Belo Horizonte, v. 70, n. 110, p. 97-116, jul./dez. 2024108Acrescente-se que há que se questionar quem são os reais criadores das tecnologias de inteligência artificial, e quais os interesses relacionados ao seu uso e propagação. O questionamento dos interesses envolvidos leva à dúvida sobre como, e porque, são criadas determinadas respostas pela IA generativa. Um dos desafios mais relevantes da implementação da inteligência artificial no sistema de justiça é o fenômeno da opacidade algorítmica, comumente referido como black box. Trata-se da dificuldade ou mesmo impossibilidade de compreender de forma clara os critérios utilizados por determinados modelos de IA para chegar a um determinado resultado, especialmente em sistemas baseados em aprendizado profundo (deep learning). Essa ausência de transparência compromete diretamente o contraditório, a publicidade e o dever de fundamentação das decisões judiciais, pilares do devido processo legal (Assumpção Neves, 2025).A aplicação da inteligência artificial no sistema de justiça enfrenta, portanto, esse desafio da opacidade algorítmica (black box). Frank Pasquale (2015) discute como sistemas automatizados operam com lógicas internas complexas e frequentemente inacessíveis, protegidas inclusive com segredos industriais e comerciais, dificultando a compreensão de como determinadas decisões são produzidas. Essa falta de explicabilidade compromete os mecanismos de controle jurídico e democrático, pois impede que terceiros compreendam, questionem ou revisem os fundamentos das decisões. No contexto da Justiça do Trabalho, no qual a transparência e a possibilidade de contestação são essenciais para a proteção das partes envolvidas, especialmente o trabalhador, a utilização de sistemas cuja lógica decisória não possa ser auditada representa uma ameaça concreta à legitimidade e à função social da jurisdição.A crítica ética à inteligência artificial na Justiça do Trabalho exige, ainda, uma abordagem que vá além da preocupação com a transparência ou a substituição do humano. É preciso se atentar para a tendência à naturalização da IA como instrumento neutro ou “tecnicamente superior”, como se a automação por si só garantisse maior racionalidade ou justiça. Essa percepção ignora que os algoritmos são produtos de escolhas humanas, construídos por agentes com visões de mundo, interesses econômicos e valores culturais específicos, muitas vezes alheios ao universo jurídico e à função social do Judiciário.O risco ético reside, portanto, em delegar às máquinas a aparência de imparcialidade e universalidade, quando, na prática, elas operam a partir de dados históricos enviesados e critérios programados. Ao serem incorporados sem o devido controle crítico, esses sistemas não apenas