EXPLICABILIDADE COMO CONDIÇÃO DE LEGITIMIDADE ALGORÍTMICA

Abstract

Este artigo analisa a relação entre sistemas de Machine Learning e o direito à explicação nas decisões automatizadas, com enfoque na proteção dos direitos fundamentais no contexto da Lei Geral de Proteção de Dados. Parte-se do problema decorrente da crescente utilização de algoritmos na tomada de decisões que afetam diretamente os indivíduos, muitas vezes caracterizadas por elevado grau de opacidade e dificuldade de compreensão dos critérios utilizados. O objetivo da pesquisa consiste em examinar em que medida o direito à explicação pode atuar como mecanismo de transparência e controle jurídico sobre decisões automatizadas. Para alcançar esse objetivo, adotou-se abordagem qualitativa, com utilização do método dedutivo e da técnica de pesquisa bibliográfica, a partir da análise de literatura especializada em inteligência artificial, proteção de dados e direitos fundamentais. Os resultados indicam que, embora os sistemas de Machine Learning ampliem significativamente a capacidade de análise e processamento de dados, eles também introduzem desafios relevantes relacionados à opacidade algorítmica, à possibilidade de discriminação algorítmica e à limitação da autonomia informativa dos indivíduos. Conclui-se que o direito à explicação constitui instrumento essencial para a promoção da transparência, da responsabilização e da proteção dos direitos fundamentais no uso de sistemas de decisão automatizada.