Por: Abraão Filipe Oliveira*
Recentemente, tem sido muito comentado sobre a presença da inteligência artificial (IA) em nosso cotidiano. São vários os casos de memes, vídeos e conteúdos criados por softwares de IA generativa, além do uso expressivo de programas como o ChatGPT, entre outros aplicativos. Em meio a essas “inovações”, a cada dia novos avanços tecnológicos chegam e nos surpreendem com promessas, suspeitas, facilidades e medos, como uma intensa avalanche.
No campo da segurança, essa realidade não é diferente: iniciativas tecnológicas diversas estão sendo incorporadas na rotina das autoridades. É o que aponta um dos capítulos do mais recente lançamento da Editora UEMG, Segurança pública e cidadania: desafios contemporâneos, com organização de Júnia Fátima do Carmo Guerra, Gustavo Tomaz de Almeida e Francis Albert Cotta. A proposta da obra é refletir como a segurança pública pode ser entendida enquanto um bem democrático e multidimensional, comprometido com a vivência cidadã por parte da sociedade brasileira.
Assim, no capítulo “Big Data e o ciclo do preconceito: reflexões sobre cuidados éticos necessários na segurança pública cidadã”, Ricardo Mari de Novais busca discutir a incorporação de inovações tecnológicas nas atividades policiais. O autor propõe uma análise das potencialidades do uso de processamento de dados para expandir redes compartilhadas e revelar pistas sobre crimes, destacando o uso de Big Data no tratamento de informações com grande volume, variedade, velocidade e veracidade. O horizonte é implementar uma gestão policial considerada mais eficaz. Dessa forma, segundo o autor, “[u]m dos maiores ganhos que a polícia pode obter com o uso do Big Data é a possibilidade de prever o crime, favorecendo a atuação preventiva” (Novais, 2025, p. 22).
Ele, porém, cita alguns mitos que envolvem a expectativa pelo uso do Big Data nesse contexto e sinaliza que, apesar de trazer “um benefício significativo na eficiência do serviço policial, isso não exime a ideia de que muitas vezes essas ferramentas são superestimadas, podendo apresentar riscos à privacidade e aos direitos civis dos cidadãos que se pretende proteger, além de serem capazes de esconder premissas baseadas em preconceitos, em erros de análises e em distorções na percepção do crime e do criminoso” (Novais, 2025, p. 27).
Nesse cenário, entre os pertinentes desafios presentes, está, portanto, o racismo algorítmico.
O pesquisador Tarcízio Silva, doutor em Ciências Humanas e Sociais pela UFABC e autor de várias obras sobre o tema, tem apontado como essa forma de racismo opera de maneira mediada pelas plataformas digitais e redes de datificação. Para ele, o termo racismo algorítmico visa “explicar como tecnologias e imaginários sociotécnicos em um mundo moldado pelo privilégio branco fortalecem a ordenação racializada de conhecimentos, recursos, espaço e violência em detrimento de grupos não brancos” (Silva, 2023, [n. p.]).
A partir disso, na seara do que propôs Ricardo Mari de Novais (2025), podemos olhar com mais criticidade para o discurso de que o uso do Big Data poderia “magicamente” facilitar o trabalho policial.
Primeiro, porque os mecanismos tecnológicos criados não são neutros. Segundo, porque os bancos de dados que os alimentam também não são neutros (há toda uma estrutura social prévia que orienta os vieses e preferências). E, terceiro, porque, sem uma perspectiva crítica, esses sistemas podem reproduzir uma seletividade que reforça o viés racista e punitivista dos aparatos de segurança pública.
Silva (2023, [n. p.]) vai dizer: “O principal problema na superfície é que sistemas algorítmicos podem transformar decisões e processos em caixas opacas inescrutáveis, isto é, tecnologias repletas de problemas são lançadas na sociedade e podem aprofundar discriminações, que vão de buscadores que representam negativamente pessoas negras até softwares de policiamento preditivo – uso de dados e análises para predizer o crime – que fortalecem a seletividade penal”. Indo mais além, o pesquisador demonstra que o racismo algorítmico acelera a vulnerabilização de minorias políticas e econômicas que já sofrem há anos com regimes de perseguição e violação de direitos (como pessoas negras, periféricas e outros grupos sociais marginalizados).
A autora do posfácio de Segurança pública e cidadania: desafios contemporâneos, Ludmila Ribeiro, chama a atenção para a profundidade dos estudos e a relevância da publicação recém-lançada pela EdUEMG. Ela comenta que, nesse debate interdisciplinar, pesquisas acadêmicas podem intervir de maneira colaborativa, com ricas perspectivas sobre os temas relacionados. A pesquisadora destaca, ainda, que os planos nacionais de segurança pública do Brasil operam para a institucionalização de um paradigma de segurança que se materializa na prática das forças policiais, que detêm o monopólio do uso da força no Estado brasileiro e que adotam um comportamento que “[mimetiza], cada vez mais, as Forças Armadas” (Goldani, 2024 apud Ribeiro, 2025, p. 206). Por isso, de acordo com ela, é no âmbito da construção das políticas de segurança que a população pode participar e reivindicar sistemas mais equitativos e cidadãos: “especialmente por meio de suas lideranças comunitárias, que em grande parte são mulheres que lutam cotidianamente pela paz” (Ribeiro, 2025, p. 211).
Tarcísio Silva (2023) vai na mesma direção ao afirmar que um caminho para tensionar os interesses monopolistas e impositivos das grandes corporações de tecnologia – e, minimamente, frear seus impactos de caráter racista – é escutar os mais afetados: “o conhecimento experiencial de quem sofre os impactos deve ser levado em conta e ser valorizado”. E complementa: “Racismo algorítmico não é uma questão de programação ou engenharia. Mais importante que as linhas de código é saber quais são as relações de poder e quais decisões são habilitadas pela implementação de alguma tecnologia. Nesse sentido, gosto muito da ideia de auditoria pública, com debates, testes, mapeamento de casos e de impactos, que sejam abertos pela própria sociedade. Assim, os impactos do racismo algorítmico podem ser demonstrados e a sociedade civil pode reagir” (Silva, 2023, [n. p.]).
O tema é vasto e são muitos detalhes a serem explorados, mas vale a reflexão sobre a importância de ficarmos atentos ao debate e (re)pensarmos que, embora os avanços tecnológicos cumpram um papel importante no aprimoramento das políticas de segurança, especialmente as de prevenção ao crime, o racismo também se apresenta nessas novas dinâmicas que surgem. E que, nesse contexto, ao contrário do que alguns acreditam, “nem tudo são flores”. Seguir ouvindo tais vozes pode ser um bom ponto de partida!
Como recomendação, ficam: a obra Racismo Algorítmico: mídia, inteligência artificial e discriminação nas redes digitais, de Tarcízio Silva (2022); a sua tese de doutorado, intitulada Racismo Algorítmico e Regulação de Inteligência Artificial: o contrato racial na produção do PL 2338/2023 (2025); além, é claro, do lançamento da EdUEMG, Segurança pública e cidadania: desafios contemporâneos, que pode ser conferido, gratuitamente em: bit.ly/seguranca-e-cidadania.
Referências
NOVAIS, Ricardo Mari de. Big Data e o ciclo do preconceito: reflexões sobre cuidados éticos necessários na segurança pública cidadã. In: GUERRA, Júnia Fátima do Carmo; ALMEIDA, Gustavo Tomaz de; COTTA, Francis Albert (org.). Segurança pública e cidadania: desafios contemporâneos. Belo Horizonte: Editora UEMG, 2025. p. 16-37.
RIBEIRO, Ludmila. Nas encruzilhadas da segurança pública com cidadania. In: GUERRA, Júnia Fátima do Carmo; ALMEIDA, Gustavo Tomaz de; COTTA, Francis Albert (org.). Segurança pública e cidadania: desafios contemporâneos. Belo Horizonte: Editora UEMG, 2025. p. 203-218.
SILVA, Tarcízio. O racismo algorítmico é uma espécie de atualização do racismo estrutural. [Entrevista concedida a] Daiane Batista. Centro de Estudos Estratégicos da Fiocruz Antonio Ivo de Carvalho (CEE-Fiocruz), [s. l.], 30 mar. 2023. Disponível em: https://cee.fiocruz.br/?q=Tarcizio-Silva-O-racismo-algoritmico-e-uma-especie-de-atualizacao-do-racismo-estrutural. Acesso em: 23 jun. 2025.
*Abraão Filipe Oliveira é bacharel em Comunicação Social/Jornalismo pela Universidade Federal de Viçosa (UFV) e mestrando em Comunicação e Sociabilidade Contemporânea, na linha de pesquisa Comunicação, territorialidades e vulnerabilidades, na Universidade Federal de Minas Gerais (UFMG). Atualmente, é bolsista Fapemig, atuando como comunicólogo na equipe da EdUEMG.
