Page 287 - Demo

Rev. Trib. Reg. Trab. 3ª Reg., Belo Horizonte, v. 70, n. 110, p. 259-303, jul./dez. 2024287Esse cenário é ideal para o fomento do uso da inteligência artificial, que acaba surgindo como panaceia. Como se sabe o que está mais em debate é o potencial de uma IA forte, de aprendizado de máquina, profundo, com várias camadas, antes que a IA fraca, por exemplo pelo procedimento de árvore de decisão (decison tree). No primeiro caso, de IA forte, por mecanismos tipo black box, nos quais não se tem ideia do percurso lógicoargumentativo para se chegar ao resultado, ao passo que em relação ao último, todos os passos são previamente definidos pelo programador.Vários estudos, entretanto, têm demonstrado que os algoritmos de aprendizado de máquina (IA forte) têm uma tendência a fixar e a cristalizar os preconceitos na amostragem decisória utilizada como base de dados para seu funcionamento. Segundo a matemática Catherine O’Neil, algoritmos são “[...] opiniões embutidas em códigos”41. Para O’Neil os algoritmos devem ser escrutinados a partir de 3 perspectivas: opacidade, escala e dano42. Para evitar os seus malefícios ela propõe que todos os algoritmos tenham transparência e possam ser auditados43.O Professor Dierle Nunes vem debatendo o tema sobre os chamados vieses cognitivos, sobretudo a partir da chamada virada tecnológica no direito processual, em que demonstra que os automatismos decisórios são deletérios para a participação e dialogia processuais44, propondo estratégias de debiasing, como o saneamento e a organização do processo (debiasing preventivo), bem assim a colegialidade e a oralidade (debiasingcorretivo), como ferramentas para o desenviesamento dos julgamentos45.Tais estratégias são cruciais para combater não apenas os vieses embutidos nos dados, mas também o chamado “viés de automação” (automation bias) no próprio julgador - a tendência humana de confiar excessivamente e aceitar de forma acrítica as saídas geradas por sistemas automatizados, abdicando de seu dever de análise.41 Ted Talk The era of blind faith in big data must end. Disponível em: https://youtu.be/_2u_eHHzRto. Acesso em: 15 jun. 2025. 42 “So to sum up, these are the three elements of a WMD: Opacity, Scale, and Damage.” O’NEIL (2016), p. 31. 43 “Many of these models, like some of the WMDs we’ve discussed, will arrive with the best intentions. But they must also deliver transparency, disclosing the input data they’re using as well as the results of their targeting. And they must be open to audits. These are powerful engines, after all. We must keep our eyes on them.” O’Neil, 2016, p. 218. 44 Cfr. Dierle, Bahia & Pedron, 2020, p. 287.45 Cfr. Dierle, Bahia & Pedron, 2020, p. 216-260.