Artigo de autoria de Diogo Rais e Marilda Silveira, presente na obra “Direito Público Digital”. Resenha crítica elaborada por Amanda Aciari.
Um algoritmo nada mais é do que um conjunto de instruções ou passos a serem seguidos, especificando o que fazer em cada situação. Diversas ferramentas vêm sendo testadas pelo Supremo Tribunal Federal e pelo Conselho Nacional de Justiça, com a finalidade de otimizar e efetivar o fluxo do sistema judiciário. No entanto, quais são os riscos de não abrir ao debate público a definição dos parâmetros dos algoritmos de decisão e programação antes que esses sistemas entrem em operação? Esse é o tema abordado por Dr. Diogo Rais e Dra. Marilda Silveira em um dos artigos que compõem o livro Direito Público Digital.
Victor, Elis e Clara são alguns dos algoritmos desenvolvidos pelo poder judiciário com a promessa de eficiência e de tornar os procedimentos mais céleres. As plataformas são dotadas de inteligência artificial que otimiza a realização de tarefas repetitivas e, ao mesmo tempo, garante maior segurança jurídica e maior respaldo para se minutar um processo. Clara, por exemplo, tem a missão de ler documentos, sugerir tarefas e “recomendar decisões, como a extinção de uma execução porque o tributo já foi pago”. É notável o deslocamento da função decisória para as máquinas.
A eficiência decisória dos algoritmos é inegável, contudo, a transparência é um dos preceitos fundamentais para que se mantenha uma estabilidade democrática. A grande problemática dos algoritmos e do uso de inteligência artificial no sistema judiciário é a discriminação algorítmica, ou viés algorítmico, circunstância em que os algoritmos tomam atitudes discriminatórias ou excludentes e que podem culminar de simples erros em detecções faciais, até a condenação de um indivíduo baseada em características raciais.
Ocorre que o questionamento que deve ser feito pela coletividade é: por que esses vieses de discriminação algorítmica ocorrem? Os vieses ou discriminações, ocorrem porque as decisões automatizadas em machine learning, programadas por meio de algoritmos, são definidas a partir de um banco de dados e técnicas de aprendizado definidos por um programador. A decisão final produzida pela máquina pode ser enviesada, baseada em comportamento discriminatório, se o programador for mal-intencionado, mal treinado, ou o conteúdo para entrada no banco de dados for inadequado.
É exatamente aí que reside a importância da transparência algorítmica, dado que processos sociais de exclusão verificam-se em decorrência da dinâmica de poder que existe na sociedade e, por consequência da discriminação indireta, que está diretamente relacionado com as representações dos seres humanos dentro do discurso jurídico.
A demanda por mais transparência na utilização desses algoritmos envolve não apenas saber quais dados estão sendo coletados e compartilhados, mas também como eles são utilizados pelo poder público. Como visto, algoritmos podem ser injustos e discriminatórios.
É preciso levar em conta que decisões equivocadas atingem justamente a parcela mais vulnerável da população: aquela que não tem bons advogados ou um advogado sequer, que não acessa o direito de recorrer em sua plenitude e que depende da máxima isenção e eficácia do poder público.
Para que se possa pensar sobre como os dados tendenciosos poderiam afetar uma determinada decisão; para se verificar os resultados de potenciais vieses é preciso abrir as portas do debate, um requisito para a proteção da liberdade de todos os cidadãos, porque impede a utilização de categorias que estabelecem tratamento discriminatório.
A automatização das decisões que formam o núcleo do exercício dos poderes do Estado é bastante sensível e merece bastante atenção. Um só grupo limitado de pessoas é incapaz de antecipar todas as maneiras e vieses capazes de afetar os resultados decisórios. Por isso as instituições estatais têm o dever atuar de acordo com as normas jurídicas que representam os interesses da sociedade como um todo.