A HUMANIDADE DOS ALGORITMOS

Rita de Cassia Souza Leal; Nelson De Luca Pretto

doi:10.12957/redoc.2025.95321

Autores

Rita de Cassia Souza Leal Universidade do Estado do Rio de Janeiro https://orcid.org/0000-0002-6360-1511
Nelson De Luca Pretto Universidade Federal da Bahia https://orcid.org/0000-0001-8152-8963

DOI:

https://doi.org/10.12957/redoc.2025.95321

Palavras-chave:

Algoritmos, Regulação algorítmica, Governança Algorítmica, Soberania Digital

Resumo

Os sistemas de recomendação e personalização de conteúdos, baseados em algoritmos de inteligência artificial, desempenham um papel central na mediação do acesso à informação na era do capitalismo digital. Algoritmos são criações humanas e não são neutros e imparciais. Embora promovam benefícios e conveniências, a regulação algorítmica também apresenta riscos significativos para o pensamento crítico, a criatividade e o desenvolvimento científico nacional, ao regularem comportamentos de forma opaca e enviesada. Esse ensaio discorre sobre os impactos dos sistemas algorítmicos na experiência cotidiana da contemporaneidade, considerando os desafios éticos, econômicos e políticos envolvidos. Por fim, propõe alternativas para uma integração mais democrática e soberana, alinhada com os interesses públicos.

Biografia do Autor

Rita de Cassia Souza Leal, Universidade do Estado do Rio de Janeiro

Professora Associada da Universidade do Estado do Rio de Janeiro (UERJ) e docente da Faculdade de Formação de Professores da UERJ (UERJ/FFP).

Nelson De Luca Pretto, Universidade Federal da Bahia

Professor Titular da Faculdade de Educação Universidade Federal da Bahia (UFBA)/Brasil. Bolsista do CNPq, secretário regional na Bahia da SBPC (2011/2015). Membro da Academia de Ciências da Bahia. Foi titular do Conselho Estadual de Cultura do Estado da Bahia no período 2007/2011. Foi Assessor do Reitor da UFBA (1995/1996) e Diretor da Faculdade de Educação da UFBA por dois mandatos (2000/2008).

Referências

ALMEIDA, Virgilio; FILGUEIRAS, Fernando; MENDONÇA, Ricardo Fabrino. Algorithms and Institutions: How Social Sciences Can Contribute to Governance of Algorithms. Disponível em https://ieeexplore.ieee.org/document/9775553, 2022, Acesso em: 23 set. 2024.

ANEESH, Aneesh. Global labor: Algocratic modes of organization. Sociological Theory, [s.l.], v. 27, n. 4, 2009.

BAROCAS, Solon; HOOD, Sophie; Z IEWITZ, Malte. Governing Algorithms: A Provocation Piece. (29 de março de 2013). Disponível em: https://ssrn.com/abstract=2245322. Acesso em: 23 mar. 2025.

BAROCAS, Solon; CRAWFORD, Kate; SHAPIRO, Aaron. et al. The problem with bias: Allocative versus representational harms in machine learning. In: ANNUAL CONFERENCE OF THE SPECIAL INTEREST GROUP FOR COMPUTING, INFORMATION AND SOCIETY, 9., October 29, 2017. [Anais...]. [s.l.: s.n., 2017]. Disponível em: https://dl.acm.org/action/doSearch? AllField=9th+annual+conference+of+the+special+interest+group+for+computing%2C+information+and+society+October+29%2C+2017.&expand=all&ConceptID=118290. Acesso em: 20 mar. 2024.

BIGONHA, Roberto S. Fundamentos do Aprendizado de Máquina. Disponível em: https://homepages.dcc.ufmg.br/~bigonha/Livros/ia-aprendizado.pdf. Acesso em: 13 out. 2025.

BODEN, Margaret A. Inteligência artificial: Uma brevíssima introdução. Editora Unesp, São Paulo, 2020.

CORBO, Anthony. What Is an Algorithm?, in builltin, 07/05/25. Disponível em: https://builtin.com/software-engineering-perspectives/algorithm?utm_source=chatgpt.com. Acesso 20nov25

CRAWFORD, Kate. Atlas da IA: poder, política e os custos planetários da inteligência artificial. Editora Sesc, São Paulo 2025.

DATA Science Academy, Guia Completo Sobre Inteligência Artificial Generativa, 29 jul. 2025. Disponível em: https://blog.dsacademy.com.br/guia-completo-sobre-inteligencia-artificial-generativa/ . Acesso 23 out. 2025.

DAVIS, Jenny. L., WILLIAMS, Apryl; YANG, Michael. W. Algorithmic reparation. Big Data & Society, [s.l.], v. 8, n. 2, 2021. https://doi.org/10.1177/20539517211044808

DELEUZE, Gilles; GUATTARI, Felix. Mil Platôs: Capitalismo e esquizofrenia. São Paulo: Editora 34, 2020.

IBM – Inteligência artificial e Aprendizado de máquina. Tópicos em destaque. Disponível em https://www.ibm.com/br-pt.Acesso 25/10/2025.

KALIL, Renan. O gerenciamento algorítmico nas plataformas digitais. Carta Capital, 25 ago. 2021. Disponível em https://www.cartacapital.com.br/opiniao/gerenciamento-algoritmico-plataformas-digitais-uberizacao/. Acesso em: 12 fev. 2025.

MACHADO, Henrique Felix de Souza. Algoritmos, regulação e governança: uma revisão de literatura. Journal of Law and Regulation, [s.l.], v. 4, n. 1, p. 39–62, 2018. Disponível em: https://periodicos.unb.br/index.php/rdsr/article/view/19131. Acesso em: 23 out. 2025.

MOROZOV, Evgeny. Big Tech: a ascensão dos dados e a morte da política. São Paulo: Ubu Editora. 2018.

NOBLE, Safiya Umoja. Algorithms of Oppression: How Search Engines Reinforce Racism. NYU Press, 2018. Disponivel em JSTOR, https://doi.org/10.2307/j.ctt1pwt9w5. Acesso 15/10/2025.

O'NEIL, Cathy. Algoritmos de destruição em massa: Como o Big Data aumenta a desigualdade e ameaça à democracia. [s.l.]: Editora Rua do Sabão, 2020.

PARISER, Eli. O filtro invisível: o que a internet está escondendo de você. Rio de Janeiro: Zahar, 2012.

PASQUALE, Frank. The black box society. Cambridge, MA: Harvard University Press, 2015.

PEIRANO, Marta. El enemigo conoce el sistema: Manipulación de ideas, personas e influencias después de la economía de la atención. [s.l.]: Debate Editorial, 2019.

PIMENTEL, José Eduardo de Souza. Inteligência Artificial e Algoritmos de “Caixa Preta”: Dilemas e Regulação Necessária. Trabalho de Conclusão de Curso. SP 2021. Disponível em http://ric.cps.sp.gov.br/bitstream/123456789/12812/4/20211S_Jos%C3%A9%20Eduardo%20de%20Souza%20Pimentel_OD1134.pdf. Acesso em 18/10/2025.

REDE de Pesquisa em Governança da Internet, Justiça racial na inteligência artificial e TICs, Projeto Desvelar, Disponível em: https://desvelar.org/biblioteca-justica-racial-tecnologias-digitais. Acesso em: 18 nov. 2025.

REVISTA Semestral do Departamento de Sociologia e Programa de Pós-Graduação em Ciências Sociais FCL – UNESP, Araraquara, v. 25, n. 48, 2020. Disponível em: periodicos.fclar.unesp.br Acesso em: 23 out. 2025.

SANTOS, Boaventura Sousa. A cruel pedagogia do vírus. [s.l.]: Boitempo, 2020.

SILVA, Tarcizio. Racismo algorítmico: inteligência artificial e discriminação nas redes digitais. São Paulo/SP: Edições SESC, 2022.

SILVEIRA, Sérgio Amadeu da. Regulação algorítmica e os estados democráticos. Revista ComCiência, Revista eletrônica de jornalismo científico, dossiê algoritmos dez/2018 a fev./2019, disponível em https://www.comciencia.br/regulacao-algoritmica-e-os-estados-democraticos/. Acesso em: 10 fev. 2025.

SILVEIRA, Sérgio Amadeu da. Democracia e os códigos invisíveis: Como os algoritmos estão modulando comportamentos e escolhas políticas. São Paulo: Edições Sesc, São Paulo, 2019.

SILVEIRA, Sérgio Amadeu da. Discursos sobre regulação e governança algorítmica. Estudos sociologia, Araraquara, v. 25, n. 48, 2020. Disponível em: https://periodicos.fclar.unesp.br/estudos/issue/view/793 Acesso em: 24 jan. 2025.

SILVEIRA, Sérgio Amadeu da. As big techs e a guerra total: o complexo militar-industrial-dataficado. São Paulo: Editora Hedra, 2025.

SOULY, Alexandra; RANDO, Javier; CHAPMAN, Ed; DAVIES, Xander; HASIRCIOGLU, Burak; SHEREEN, Ezzeldin; MOUGAN, Carlos; MAVROUDIS, Vasilious; JONES, Erik; HICKS, Chris. Poisoning Attacks on LLMs Require a Near-constant Number of Poison Samples. 2025. Disponível em https://arxiv.org/abs/2510.07192v1. Acesso em: 12 out.2025.

SRNICEK, Nick. Platform Capitalism. Cambridge: Polity Press, 2016.

THE SHIFT, Especial SXSW 2025: Cinco conceitos que vão definir os impactos da IA na sociedade, 16 mar. 2025. Disponível em: https://theshift.info/hot/sxsw-2025-cinco-conceitos-que-vao-definir-impacto-da-ia/ Acesso em: 23 out. 2025.

VAN DIJCK, José; POELL, Thomas; DE WAAL, Martijn. The platform society: Public values in a connective world. [s.l.]: Oxford University Press, 2018.

VICENTE, Paulo Nuno. Os algoritmos e nós. Edufba, Salvador, 2023.

YEUNG, Karen.; LODGE, Martin. Algorithmic Regulation: A critical interrogation. Regulation & Governance, [s.l.], v. 12. n. 4, 2016.

YEUNG, Karen. Regulação algorítmica: entrevista com Karen Young, 14 mar. 2020. Disponível em:https://digilabour.com.br/pt/regulacao-algoritmica-entrevista-com-karen-young Acesso em: 20 abr. 2024.

WIKIPÉDIA: A enciclopédia livre. Disponível em: https://pt.wikipedia.org/wiki?curid=1709 Acesso em: 24 jan. 2025.

WU, Tim. The attention merchants: the epic scramble to get inside our heads. New York: Vintage, 2016.

ZUBOFF, Shoshana. The Age of Surveillance Capitalism. [s.l.]: Harvard, 2019.