Banca de DEFESA: ARIEL MENEZES DE ALMEIDA JUNIOR

Uma banca de DEFESA de MESTRADO foi cadastrada pelo programa.
DISCENTE : ARIEL MENEZES DE ALMEIDA JUNIOR
DATA : 28/05/2024
HORA: 09:30
LOCAL: Smart Class I - Instituto de Computação
TÍTULO:

Modelagem Causal para Estudo de Viés Racial em Sistemas de Detecção de Face

PALAVRAS-CHAVES:

Causalidade, Grafos Direcionados Acíclicos, Modelos Causais Estruturais, Aprendizado de Máquina, Imparcialidade Causal, Detecção de faces.

PÁGINAS: 60
RESUMO:

Algoritmos de detecção e reconhecimento facial têm sido amplamente adotados para as mais diversas aplicações como, por exemplo, em redes sociais que automaticamente detectam e reconhecem todas as pessoas presentes em imagens publicadas. No entanto, com o crescimento do uso de algoritmos de Inteligência Artificial (IA) em geral, começaram a surgir questionamentos relacionados à existência de vieses. Em muitas situações foram encontrados vieses que afetam minorias historicamente oprimidas. Como exemplo, foi notado viés racial em muitos sistemas de reconhecimento facial utilizados pela polícia americana, o que levou à suspensão do uso dessa tecnologia em alguns estados, à descontinuação do desenvolvimento em algumas empresas, como a IBM, e pesquisadores a pedirem para seus colegas pararem de trabalhar nestes sistemas devido ao impacto sobre pessoas de diferentes raças e etnias. A problemática supracitada motiva o estudo e avaliação da existência de viés em um sistema, baseado em IA, para detectar fraudes no transporte público de Salvador (Brasil). Considerando que Salvador é a cidade brasileira com maior percentual de negros, qualquer erro pode afetar um número significativo de usuários, levando a um alto número de falsos positivos. Em estudos anteriores desenvolvidos pelo grupo de pesquisa em que o proponente deste projeto pertence, foram realizados testes estatísticos para verificar se há correlação entre a taxa de erro e a raça e gênero. Os resultados indicaram a existência dessa correlação, ou seja, há uma maior taxa de erro de detecção facial em usuários pretos ou pardos e mulheres. Com base em tais resultados, uma questão principal motiva o desenvolvimento deste projeto: Há, de fato, uma relação causal entre a raça e a taxa de erros na detecção? Para avaliar essa questão, este trabalho tem como objetivo principal criar um modelo causal que permita avaliar a influência da cor de pele no sistema de detecção facial utilizado no transporte público de Salvador.

MEMBROS DA BANCA:
Presidente - 2130353 - RICARDO ARAUJO RIOS
Interna - 2115505 - TATIANE NOGUEIRA RIOS
Externo ao Programa - 2267517 - MARCELO MAGALHAES TADDEO - UFBAExterno à Instituição - RENATO PORFIRIO ISHII - UFMS