Page 228 - Demo

Rev. Trib. Reg. Trab. 3ª Reg., Belo Horizonte, v. 70, n. 110, p. 215-236, jul./dez. 2024228a opacidade de técnicas e informações não acabe ferindo os direitos fundamentais - que ao longo dos séculos já foram tão vilipendiados. Essa é uma abordagem necessária, que será feita no tópico a seguir.4. ASPECTOS ÉTICOS DA IMPLEMENTAÇÃO DA IA NO SISTEMA JUDICIÁRIO BRASILEIROHá um aparente paradoxo em nossa contemporaneidade - quanto mais avançamos tecnologicamente, como sinal de nossa modernidade, mais se faz necessária a ética, que surgiu na Grécia Antiga possivelmente no século V a.C. Ou seja, dois extremos de tempo aparentes que se aproximam cada vez mais.Na verdade, desconsiderar a ética em um mundo cujo avanço tecnológico tornou-se sua característica é reaproximar esse mesmo mundo das eras marcadas pela barbárie, pelo preconceito e por tudo que há de mais abjeto que o ser humano já produziu (Harari, 2018). Isso porque, se o instrumental tecnológico aparentemente colocado a serviço da humanidade e das instituições que ela cria e sustenta não tiver como fio condutor o proceder com ética tudo que se seguirá estará situado entre uma falácia estruturada normativamente ou um engodo civilizatório perverso.A par de notícias sensacionalistas sobre resultados positivos obtidos em áreas diversas do conhecimento humano com sistemas de IA generativa, e que em alguma medida são até verdadeiros mas não na proporção exposta, há uma série de riscos e situações graves que infringem postulados éticos básicos e normas, que já estão mapeados e demonstrados em relatórios cientificamente consistentes, como os citados por Frazão (2025) em recente artigo de maio deste ano.Frazão (2025) destaca, por exemplo, o teor do último relatório da Apollo Research20 intitulado Frontier Models are Capable of In-context Scheming21, cujas conclusões trazem importantes advertências sobre os riscos de comportamentos enganadores desenvolvidos pelas IAs. A esse respeito, Frazão (2025)22 faz a seguinte análise:20 É uma entidade respeitada na realização de estudos e pesquisas sobre avaliação de sistemas avançados de IA, especialmente quanto à comportamentos enganosos. 21 Disponível em: https://arxiv.org/pdf/2412.04984.22 FRAZÃO, Ana. “O lado enganoso da inteligência artificial: Recentes estudos trazem evidências de fraudes, ameaças, chantagens e manipulações”. JOTA, 28.05.2025. Disponível em: https://www.jota.info/opiniao-e-analise/colunas/constituicao-empresae-mercado/o-lado-enganoso-da-inteligencia-artificial#ftnt6. Acesso em: 29 jun. 2025.