Inclusão Algorítmica ou Exclusão Programada?
O Impacto da Inteligência Artificial nas Populações Vulneráveis
DOI:
https://doi.org/10.12957/publicum.2025.94690Palabras clave:
Inclusão Digital, Inteligência Artificial, Discriminação Algorítmica, Vulnerabilidade Social, Justiça InformacionalResumen
O avanço da inteligência artificial traz promessas de eficiência e inclusão, mas sua expansão para segurança pública, educação, trabalho e crédito expõe riscos para populações vulneráveis. Este artigo examina criticamente a chamada inclusão algorítmica, mostrando como modelos treinados em dados marcados por desigualdades reproduzem e intensificam discriminações, sobretudo em contextos de invisibilidade estrutural e assimetria informacional. O objetivo é compreender quando a inteligência artificial se converte em exclusão programada, afetando desproporcionalmente grupos historicamente marginalizados. A metodologia é qualitativa, baseada em revisão bibliográfica crítica e abordagem interdisciplinar que articula ética, teoria da justiça e direito digital. Ao final, propõe-se diretrizes de governança algorítmica transparente e explicável, avaliação de impacto, prestação de contas, participação social e proteção de dados, sensíveis às diferenças. O estudo contribui para delimitar limites tecnológicos e sustentar políticas públicas responsáveis orientadas à justiça informacional.
Citas
ALNEMR, Nardine. Democratic self-government and the algocratic shortcut: the democratic harms in algorithmic governance of society. Contemporary Political Theory, v. 23, p. 205–227, 2024. Disponível em: https://doi.org/10.1057/s41296-023-00656-y. Acesso em: 16 jul. 2025.
BARREDO ARRIETA, Alejandro et al. Explainable Artificial Intelligence (XAI): Concepts, Taxonomies, Opportunities and Challenges toward Responsible AI. Information Fusion, v. 58, p. 82–115, 2020. Disponível em: https://arxiv.org/pdf/1910.10045.pdf. Acesso em: 15 jul. 2025.
CHEONG, Adrian. Transparency and accountability in AI systems: safeguarding wellbeing in the age of algorithmic decision-making. Frontiers in Human Dynamics, Lausanne, v. 6, 2024. Disponível em: https://www.frontiersin.org/journals/human-dynamics/articles/10.3389/fhumd.2024.1421273/full. Acesso em: 16 jul. 2025.
COECKELBERGH, Mark. Ética de la inteligencia artificial. Tradução de Juan Antonio Cardona. Madrid: Ediciones Cátedra, 2021. p. 144.
CUNHA, João Paulo de Resende; MEIRELES, Luísa Gonçalves; MACHADO, Maíra Saruê; RUA BAPTISTA, Rachel. Abismo digital: desigualdades e privações no acesso à internet no Brasil. Observatório Itaú Cultural, São Paulo, 09 jun. 2023. Disponível em: https://www.itaucultural.org.br/secoes/observatorio-itau-cultural/abismo-digital-desigualdades-acesso-internet-brasil. Acesso em: 15 jul. 2025.
CHEONG, Ben Chester. Transparency and accountability in AI systems: safeguarding wellbeing in the age of algorithmic decision-making. Frontiers in Human Dynamics, v. 6, 3 jul. 2024. DOI: 10.3389/fhumd.2024.1421273. Disponível em: https://www.frontiersin.org/journals/human-dynamics/articles/10.3389/fhumd.2024.1421273/full. Acesso em: 8 jul. 2025.
COSTA, Inês Inocêncio. A problemática das decisões automatizadas à luz do direito à proteção de dados pessoais. Cadernos do CIJE, n. 10, p. 67–87, 2021. Disponível em: https://cije.up.pt/client/files/0000000001/4-ines-costa_1677.pdf. Acesso em: 5 jun. 2025.
ESAYAS, Samson Yosef. Algorithmic Governance and the Redefinition of Bureaucratic Accountability in Digital States. [S. l.]: publicado em [S. l.], 2023. Disponível em: https://www.researchgate.net/publication/392596320_Algorithmic_Governance_and_the_Redefinition_of_Bureaucratic_Accountability_in_Digital_States. Acesso em: 16 jul. 2025.
EUROPEAN UNION. Artificial Intelligence Act. Regulation (EU) 2024/1689 of 13 June 2024. Official Journal of the European Union, L 1689, 12 Jul. 2024. Disponível em: https://eur-lex.europa.eu/eli/reg/2024/1689/oj. Acesso em: 15 jul. 2025.
FRANÇA, Adriano; FURLIN, Neiva. Educação e desigualdades digitais durante a pandemia da Covid 19: análise da produção científica. Linguagens, Educação e Sociedade, Teresina, v. 27, n. 53, p. 300–326, 2023. Disponível em: https://periodicos.ufpi.br/index.php/lingedusoc/article/view/3667. Acesso em: 15 jul. 2025.
MONTEIRO, Julia Iunes; MARRAFON, Marco Aurélio. Legitimidade democrática na governança algorítmica: primeiros parâmetros para sua aplicação na regulação e no desenvolvimento da inteligência artificial e de políticas baseadas em dados. Revista Direitos Fundamentais & Democracia, v. 29, n. 1, p. 5–50, 2024. Disponível em: https://www.researchgate.net/publication/381719436. Acesso em: 15 jul. 2025.
MORI, Cristina Kiomi. Políticas públicas para inclusão digital no Brasil: aspectos institucionais e efetividade em iniciativas federais de disseminação de telecentros no período 2000-2010. 351 f. Tese (Doutorado em Serviço Social) – Instituto de Ciências Humanas, Universidade de Brasília, Brasília. 2011.
NED (National Endowment for Democracy). Setting Democratic Ground Rules for AI, 2023. Disponível em: https://www.ned.org/wp-content/uploads/2023/10/NED_Setting-Democratic-Ground-Rules-for-AI-Report_v6.pdf. Acesso em: 16 jul. 2025.
NISSENBAUM, Helen. Privacy in Context: Technology, Policy, and the Integrity of Social Life. Stanford, California: Stanford University Press, 2010. p. 233–235.
NOBLE, Safiya Umoja. Algorithms of oppression: how search engines reinforce racism. New York: New York University Press, 2018.
O’NEIL, Cathy. Algoritmos de destruição em massa: como o big data aumenta a desigualdade e ameaça a democracia. Tradução de Pedro Maia Soares. Rio de Janeiro: Difel, 2016. p. 29-30.
OECD. OECD Principles on Artificial Intelligence. Paris: OECD Publishing, 2019. Disponível em: https://www.oecd.org/content/dam/oecd/en/publications/reports/2019/06/what-are-the-oecd-principles-on-ai_f5a9a903/6ff2a1c4-en.pdf. Acesso em: 15 jul. 2025.
OLIVEIRA, Heitor Moreira de. A exclusão digital como obstáculo ao efetivo acesso à justiça eletrônica. In: RIGOLDI, Vivianne et al. (org.). Reconhecimento dos vulneráveis e direito ao desenvolvimento na era digital. v. 2. Curitiba: CRV, 2022. p. 27–38.
Renaissance Numérique. AI Governance: Empowering Civil Society, 2025. Disponível em: https://www.renaissancenumerique.org/wp-content/uploads/2025/02/250205_renaissancenumerique_aigovernance_report.pdf. Acesso em: 16 jul. 2025.
ROSA, Fernanda Ribeiro. Inclusão digital como política pública: disputas no campo dos direitos humanos. Sur: Revista Internacional de Derechos Humanos, São Paulo, v. 10, n. 18, p. 33 55, jun. 2013. Disponível em: https://www.corteidh.or.cr/tablas/r32486.pdf. Acesso em: 14 jul. 2025.
SCHWARTZ, Gilson. Educar para a emancipação digital. In: Reescrevendo a educação: propostas para um Brasil melhor. São Paulo: Ática; Scipione; Fundação Victor Civita, p. 125-133. 2006. Disponível em: <http://oei.es/pdfs/reescrevendo.pdf>. Acesso em: 14 Jul. 2025.
SILVEIRA, Sérgio Amadeu. A noção de exclusão digital diante das exigências de uma cibercidadania. In: HETKOWSKI, Tânia M. (Org.). Políticas públicas e inclusão digital. Salvador: EDUFBA. 2008. p. 20-41.
ULNICANE, Inga. Intersectionality in Artificial Intelligence: Framing Concerns and Recommendations for Action. Social Inclusion, v. 12, n. 1, p. 1–16, 2024. Disponível em: https://www.cogitatiopress.com/socialinclusion/article/view/7543. Acesso em: 15 jul. 2025
UNESCO. Recommendation on the Ethics of Artificial Intelligence. Adotada em 26 nov. 2021. Paris: UNESCO, 2021. Disponível em: https://www.unesco.org/en/artificial-intelligence/recommendation-ethics. Acesso em: 15 jul. 2025.
WARSCHAUER, Mark. Tecnologia e inclusão social: a exclusão digital em debate. Tradução de Carlos Szlak. São Paulo: Senac. 2006.
Descargas
Publicado
Cómo citar
Número
Sección
Licencia
Derechos de autor 2026 Matheus Gomes de Melo, Vivianne Rigoldi, Roberto da Freiria Estevão
Esta obra está bajo una licencia internacional Creative Commons Atribución-NoComercial 4.0.
O autor do trabalho declara conhecer e concordar com as regras a seguir:
1) Realizou o trabalho apresentado à revista, sendo inteiramente responsável pelas ideias e conceitos nele emitidos, que não correspondem, necessariamente, ao ponto de vista dos Editores de Publicum.
2) Obedeceu, na realização do trabalho, os princípios éticos aludidos na política de avaliação da revista[RDN1] .
3) Assume a autoria e a responsabilidade pela obra, declarando que ela não infringe quaisquer direitos de propriedade intelectual de terceiros.
4) Responsabiliza-se, integralmente, por danos de natureza moral ou patrimonial que a veiculação da obra venha a gerar a terceiros.
5) Cede à revista os direitos de reprodução, edição e primeira publicação do trabalho em qualquer meio midiático, em particular sob forma digital, em arquivo eletrônico online na internet.
6) Confere aos Editores o direito de modificar o texto apresentado, sem prejuízo de seu conteúdo, quando necessário para uniformizar a apresentação dos trabalhos e para atender as normas de edição próprias da revista.
7) Concorda com a forma final do trabalho aprovada pela revista.
8) Autoriza a divulgação do trabalho nos canais de comunicação da Faculdade de Direito da UERJ.
9) Concorda com a reprodução de pequenos trechos do trabalho em outras publicações da UERJ.
10) Reconhece que, pela cessão e autorizações acima referidas, não receberá remuneração sob qualquer modalidade, tendo estas o caráter de colaboração científica.
11) Tem ciência de que a publicação do trabalho poderá ser recusada caso não considerada conveniente, por qualquer motivo que seja, sendo que tal recusa não gera responsabilidade e/ou ônus de espécie alguma à revista ou UERJ.
[RDN1]Ver COPE.
Publicum está licenciado com uma Licença Creative Commons Atribuição-NãoComercial 4.0 Internacional.
