RACISMO ALGORÍTMICO E CIDADANIA DIGITAL: A INTELIGÊNCIA ARTIFICIAL COMO DESAFIO AOS DIREITOS FUNDAMENTAIS E AO PROCESSO COLETIVO (Anais do Congresso Brasileiro de Processo Coletivo e Cidadania, 2025)
O racismo algorítmico, decorrente do racismo estrutural, perpetua desigualdades e fragiliza a democracia ao prejudicar a igualdade de oportunidades. A presente pesquisa demonstra que o racismo algorítmico, ao perpetuar a discriminação racial de maneira sistêmica, acaba por violar direitos fundamentais de natureza coletiva, como a igualdade e a não discriminação, chegando a afetar o entendimento de cidadania no âmbito digital. Nesse sentido, o debate demonstra o papel do processo coletivo como ferramenta para a responsabilização de desenvolvedores de plataformas, além da necessidade de implementação de políticas públicas que assegurem a transparência e a equidade dos sistemas de inteligência artificial. Os resultados sindicam que a capacitação dos desenvolvedores de tecnologia é um elemento de suma importância para incorporar perspectivas críticas sobre as desigualdades e promover justiça social no desenvolvimento de sistemas. A metodologia hipotético-dedutiva foi utilizada, com base na formulação da seguinte pergunta-problema: De que forma o racismo algorítmico, enquanto aplicação de inteligência artificial, viola direitos fundamentais coletivos e afeta a cidadania digital, e de que maneira os instrumentos de tutela coletiva e as políticas públicas podem atuar para mitigar essa discriminação? Para responder essa pergunta foram realizadas análises de artigos científicos e revisões bibliográficas.