Discriminação Algorítima em Segurança Pública: Estudo de Caso sobre os Sistemas do Ministério da Justiça e Segurança Pública - MJSP - Lima, Márcio; Junquilho, Tainá (My University, 2025)
O presente estudo aborda a discriminação algorítmica no âmbito da segurança pública no Brasil, explorando como o uso de sistemas de Inteligência Artificial pelo setor público pode perpetuar preconceitos e discriminações. O estudo combina pesquisa bibliográfica com uma análise prática, incluindo a busca por informações no site do Ministério da Justiça e Segurança Pública (MJSP), no Portal de Dados Abertos e pedido de acesso à informação realizado em 04 jun. 2025. O uso de IA e Big Data na segurança pública, embora prometa eficiência, acarreta um risco potencial de discriminação, causado principalmente por vieses nos dados de treinamento, que podem ser incompletos ou não representativos, reproduzindo desigualdades sociais, prisões arbitrárias e violação de direitos fundamentais. Uma das maiores preocupações identificadas é a falta de transparência sobre o funcionamento dos algoritmos. A pesquisa revela que, apesar da existência de sistemas que utilizam IA no MJSP, há uma carência de transparência dos algoritmos, dificultando a identificação e correção de vieses. O artigo propõe uma abordagem intermediária para mitigar a discriminação algorítmica: em vez da transparência total, que poderia comprometer operações policiais, sugere a divulgação de um conjunto mínimo de informações sobre o funcionamento dos algoritmos. Além disso, ressalta a importância da supervisão humana, de auditorias independentes, do treinamento das equipes de desenvolvedores e garantia da diversidade social nessas equipes. O estudo reforça a importância da implementação de uma governança de IA robusta, para que sirva à justiça e assegure os direitos fundamentais para todos.
Keywords: Tecnologia da Informação; Transparência Pública; Acesso à Informação; SECRETARIA FEDERAL DE CONTROLE INTERNO (SFC)::Diretoria de Auditoria de Governança e Gestão (DG); Discriminação algorítmica; inteligência artificial; segurança pública; Ministério da Justiça e Segurança Pública; governança de IA; transparência algorítmica; Tecnologia da Informação::Desenvolvimento de sistemas; Tecnologia da Informação::Governança de TI; Transparência Pública::Transparência Pública; Transparência Pública::Lei de Acesso à Informação (LAI)