Texto: Rodrigo Faustino
Em uma sociedade marcada pelo racismo é preciso compreender como as tecnologias reforçam comportamentos sociais de preconceito. Mas de quem é a culpa dos humanos ou das máquinas?
Notícias Relacionadas
Tarcízio Silva, pesquisador e autor do livro “Racismo Algorítmico: inteligência artificial e discriminação nas redes digitais”, já dizia em sua obra que “podemos definir o racismo algorítmico como o modo pelo qual as tecnologias reproduzem imaginários sociais e técnicos fortalecendo a ordenação racializada de conhecimentos, recursos, espaço e violência em detrimento de grupos não-brancos”.
Os atos discriminatórios são mais evidenciados em situações cotidianas como insultos ou gestos. O que temos observado nos últimos anos é esse preconceito refletido no âmbito digital. As novas tecnologias e a alta demanda do mercado por novos produtos intensificou a utilização de recursos que adotam medidas que favorecem a branquitude.
Pode-se perceber esse impacto quando utilizamos alguma plataforma de busca na internet, ao pesquisar a palavra família, os primeiros resultados da busca, ou seja, os mais clicados, são sempre de pessoas brancas, evidenciando como existe uma lógica de não associação de pessoas negras ao conceito família.
De acordo com o levantamento realizado pela Defensoria Pública do Rio de Janeiro juntamente com o Colégio Nacional de Defensores Públicos Gerais, foram realizadas 90 prisões injustas entre os anos de 2012 a 2020 por meio de reconhecimento facial. O levantamento ainda afirmou que 81% dos registros que contavam com informações sobre a raça dos acusados, se tratavam de pessoas negras.
Esses dados deixam claro que os algoritmos reproduzem as falhas no comportamento social. A inteligência artificial, de modo geral, pode ser muito útil, mas ao passo que programamos os códigos com base em escolhas pessoais e se as pessoas envolvidas têm inclinações racistas, machistas e homofóbicas, esses comportamentos automaticamente contaminam o sistema involuntariamente. Porque a tecnologia ao contrário do que se pensam não é neutra, ela segue um padrão social e comportamental.
Para as empresas o uso de inteligência artificial tem se tornado cada vez mais comum nos processos de seleção e recrutamento de pessoas, essas aplicações mais inteligentes padronizam métodos de triagem e perfis desejados para cada candidato. Mas, de forma geral, esses algoritmos de recomendação foram criados em sua maioria por homens brancos que utilizam combinações para produzir resultados tendenciosos, indicando mais homens do que mulheres para vagas de emprego, por exemplo.
Trazendo um outro viés em torno da discussão, podemos analisar o uso de filtros para as redes sociais. A utilização dessa funcionalidade tem se tornado tão natural e indispensável na nossa rotina que muitas das vezes não percebemos os problemas atrelados a esse recurso. A tendência de padronização de beleza sem levar em conta pessoas negras e trazendo ferramentas que clareiam peles, afinam o nariz e modificam o corpo, só mostra o quanto o sistema não foi produzido para receber características de pessoas não-brancas.
O que esperamos em um futuro próximo é que as empresas entendam sua falha social e envolvam profissionais diversos na criação, programação e desenvolvimento de recursos para produzirem sistemas diversos e inclusivos para todos.
Pode parecer difícil perceber como o racismo algorítmico atua, mas de maneira implícita e sutil, ele reforça uma visão de mundo que influencia diretamente a sociedade. Os comandos automáticos das máquinas e as linhas de programação são construídos por mãos humanas, portanto, importando para dentro do mundo tecnológico a visão de cada ser humano perante à sociedade.
Rodrigo Faustino – É consultor sênior de SAP-SCM, empreendedor, palestrante, Ebony networker e Vice-presidente da Ebony English School
Notícias Recentes
Participe de nosso grupo no Telegram
botão abaixo para acessar as novidades.