Qual influência do racismo nos algoritmos das redes sociais

Reportagem do Alma Preta ouviu especialistas para explicar porque, para além das redes sociais, as tecnologias são influenciadas pelo racismo e servem como instrumento para amplificar as disparidades.

Em entrevista, Tarcizio Silva, Tech + Society Fellow na Mozilla Foundation, divide quatro grandes áreas em que os algoritmos podem influenciar coletivamente a vida das pessoas, com danos potenciais, como em perdas de oportunidades relacionadas a habitação, educação, emprego; perda financeira, como no caso de acesso a crédito ou preços diferenciais; estigmatização social, como reforço de estereótipos em mecanismos de busca e na necropolítica, quando sistemas de reconhecimento facial ou policiamento preditivo promovem o genocídio negro.

Leia também: Antirracismo é atitude, afirma Jornalista Flavia Oliveira

O algoritmo é uma série de instruções que implementam um tipo de procedimento, tal como cruzamento de dados. Na era digital e computacional, os algoritmos representam inúmeros sistemas, comumente baseados em inteligência artificial, que automatizam decisões e processos. “Chamo de ‘sistemas algorítmicos’ a rede de tecnologias e as decisões que elas tomam e quem delegou estas decisões a tais sistemas, para quais fins e afetando quais tipos de pessoas”, diz Tarcizio.

O profissional cita como exemplo um escore financeiro, que é um conjunto de sistemas algorítmicos que estabelece indicadores de risco sobre cidadãos quanto a seu potencial de consumo e segurança financeira. Entretanto, são desenvolvidos e implementados de forma assimétrica defendendo sobretudo as empresas financeiras, credores e clientes corporativos dos sistemas de escore e perfilação. “Os cidadãos, vistos apenas como consumidores, precisam ajustar seus comportamentos de acordo com tais escores para não perder oportunidades de vida e acesso a recursos”, explica.

Para ler a entrevista completa clique aqui.