Page 288 - Demo

Rev. Trib. Reg. Trab. 3ª Reg., Belo Horizonte, v. 70, n. 110, p. 259-303, jul./dez. 2024288Cass Sunstein ressalta, de forma um pouco diferente, que devemos entender como os algoritmos impactam a auditagem da discriminação. Pensa que é possível, com transparência da codificação, perceber como a discriminação se concretiza e regular essa ameaça com as salvaguardas mais adequadas. Afirma que o algoritmo é mais transparente que a decisão humana e com o tempo, como a acumulação de dados, é possível ir paulatinamente corrigindo os vieses algorítmicos46.Sunstein, em outro texto sobre a correção de vieses47, reforça a linha de que, embora não haja garantia de que os algoritmos possam ser construídos sem vieses, salienta que mesmo juízes experientes decidem, em regra, de forma mais deficiente do que os algoritmos, que podem, além disso, ser recursiva e recorrentemente aperfeiçoados. Conclui, algoritmos bem projetados devem ser capazes de evitar vieses cognitivos de vários tipos. A pesquisa existente sobre decisões de fiança também lança uma nova luz sobre como pensar sobre o risco que os algoritmos discriminarão com base na raça (ou outros fatores). Os algoritmos podem ser facilmente projetados para evitar levar em consideração a raça (ou outros fatores). Eles também podem ser constrangidos de modo a produzir qualquer tipo de equilíbrio racial que seja buscado e, assim, revelar trocas entre vários valores sociais.Para o Professor de Harvard, a respeito da discriminação racial na área penal, o algoritmo permitiria qualquer número de opções em relação à composição racial da população de réus com fiança negada. Também explicitaria as consequências dessas escolhas para a taxa de criminalidade48.Sunstein, contudo, pondera concluindo que é importante, no que toca aos algoritmos judiciais, esforços para garantir que a discriminação do passado não seja usada como base para discriminação adicional no futuro, bem assim para garantir o equilíbrio racial ou de gênero49.O que se percebe é que urge um debate e aprofundamento da pesquisa sobre a questão dos princípios que devem nortear a inteligência artificial, sobretudo da IA forte, tanto dos influxos jurídicos, em geral, quanto, de forma mais específica, de seus impactos no processo.Nessa linha, tem havido uma profusão de várias propostas para delimitar esses princípios. Em trabalho que acaba de ser publicado, um 46 Cfr. Sunstein et al. ,2019, p. 164-165. 47 Cfr. Sunstein, 2019.48 Cfr. Sunstein, 2019, p. 7.49 Cfr. Sunstein, 2019, p. 9.