Discriminação Algorítima em Segurança Pública: Estudo de Caso sobre os Sistemas do Ministério da Justiça e Segurança Pública - MJSP

Discriminação Algorítima em Segurança Pública: Estudo de Caso sobre os Sistemas do Ministério da Justiça e Segurança Pública - MJSP

Lima, Márcio
Junquilho, Tainá

Artigo

O presente estudo aborda a discriminação algorítmica no âmbito da segurança pública no Brasil, explorando como o uso de sistemas de Inteligência Artificial pelo setor público pode perpetuar preconceitos e discriminações. O estudo combina pesquisa bibliográfica com uma análise prática, incluindo a busca por informações no site do Ministério da Justiça e Segurança Pública (MJSP), no Portal de Dados Abertos e pedido de acesso à informação realizado em 04 jun. 2025. O uso de IA e Big Data na segurança pública, embora prometa eficiência, acarreta um risco potencial de discriminação, causado principalmente por vieses nos dados de treinamento, que podem ser incompletos ou não representativos, reproduzindo desigualdades sociais, prisões arbitrárias e violação de direitos fundamentais. Uma das maiores preocupações identificadas é a falta de transparência sobre o funcionamento dos algoritmos. A pesquisa revela que, apesar da existência de sistemas que utilizam IA no MJSP, há uma carência de transparência dos algoritmos, dificultando a identificação e correção de vieses. O artigo propõe uma abordagem intermediária para mitigar a discriminação algorítmica: em vez da transparência total, que poderia comprometer operações policiais, sugere a divulgação de um conjunto mínimo de informações sobre o funcionamento dos algoritmos. Além disso, ressalta a importância da supervisão humana, de auditorias independentes, do treinamento das equipes de desenvolvedores e garantia da diversidade social nessas equipes. O estudo reforça a importância da implementação de uma governança de IA robusta, para que sirva à justiça e assegure os direitos fundamentais para todos.

Distrito Federal (DF)

SECRETARIA FEDERAL DE CONTROLE INTERNO (SFC)::Diretoria de Auditoria de Governança e Gestão (DG)

Tecnologia da Informação
Transparência Pública
Acesso à Informação

Tecnologia da Informação::Desenvolvimento de sistemas
Tecnologia da Informação::Governança de TI
Transparência Pública::Transparência Pública
Transparência Pública::Lei de Acesso à Informação (LAI)

Discriminação algorítmica
inteligência artificial
segurança pública
Ministério da Justiça e Segurança Pública
governança de IA
transparência algorítmica

27/11/2025

07/05/2026

Base de Conhecimento da CGU

Márcio Pereira Lima
Tainá Aguiar Junquilho

Licença Creative Commons CC BY, que permite o uso compartilhado dos trabalhos publicados, desde que seja atribuída a devida autoria e fonte.