Algoritmos e inteligência artificial podem promover racismo no Brasil
Algoritmos e inteligência artificial podem promover racismo no Brasil
Dados de estudo da Ação Educativa e da REDE Negra em Tecnologia e Sociedade, realizado com apoio da Fundação Mozilla, mostram a invisibilidade de pessoas negras no desenvolvimento de tecnologias;
Consulta a especialistas revela também que falta de diversidade e baixa inclusão são problemas a serem combatidos no ambiente digital;
Uma pesquisa inédita realizada pela Ação Educativa e a REDE Negra em Tecnologias e Sociedade, com o apoio da Fundação Mozilla, aponta que tecnologias digitais que usam procedimentos algorítimicos, automatização e inteligência artificial podem promover a manutenção e até mesmo a intensificação do racismo estrutural no Brasil.
Segundo as informações do estudo, por serem baseadas em dados de larga escala, sem mecanismos de representação adequados que possam atender as complexidades sociais, essas tecnologias podem contribuir para a sustentação do racismo. A pesquisa “Prioridades Antirracistas sobre Tecnologia e Sociedade” está disponível em www.acaoeducativa.org.br ou clicando aqui.
O levantamento realizado entre maio e setembro deste ano contou com a colaboração de 113 especialistas no tema, com atuação em diversas áreas, das cinco regiões do país. O estudo mostra que a invisibilidade de pessoas negras e suas ideias sobre tecnologia devem ser consideradas como as principais prioridades antirracistas no meio digital e na sociedade.
Cada entrevistado pôde indicar até cinco respostas para a pergunta “Quais são suas prioridades sobre antirracismo na tecnologia?”. Ao analisar o conteúdo das respostas, os pesquisadores identificaram 18 preocupações em comum – no topo da lista, com 10,8%, aparece a invisibilidade das contribuições negras, afrocentradas e antirracistas na tecnologia. Problemas como falta de diversidade e inclusão; inteligência artificial e algoritimização; vigilância e violência estatal vêm empatados com 9,7% das respostas na sequência.
Quanto ao apagamento da colaboração de pessoas negras, os participantes afirmaram que as tecnologias não são neutras, mas a invisibilidade de suas relações de poder, histórias e controvérsias penalizam a justiça racial. Por consequência, afetam negativamente a superação dos impactos de séculos de racismo
Ao responder sobre a falta de diversidade e de inclusão, seja na produção, desenvolvimento, ideias, análise e/ou controle das tecnologias, os entrevistados apontaram que essa realidade traz enorme prejuízo individual e coletivo para toda a sociedade brasileira.
“Nessa resposta os participantes também ressaltaram que a presença das pessoas negras nesse meio, além de ser escassa, é desproporcional ao tamanho da população no país”, segundo a pesquisa “Prioridades Antirracistas sobre Tecnologia e Sociedade”.
Vigilância e violência estatal
Segundo o estudo, os investimentos em tecnologias como parte das estratégias de prevenção à violência, especialmente nas grandes cidades, também são motivo de preocupação no combate ao racismo. Esses sistemas de monitoramento, com reconhecimento facial e biometria, são apontados na pesquisa como promotores de seletividade penal e encarceramento das populações negras e de baixa renda.
Metodologia
A pesquisa “Prioridades Antirracistas sobre Tecnologia e Sociedade” é uma consulta qualitativa, multisetorial, desenvolvida por um coletivo de ativistas e pesquisadoras/es da Rede Negra em Tecnologia e Sociedade com o apoio da Ação Educativa e Fundação Mozilla. Participaram especialistas ligados a organizações da sociedade civil, academia e universidades, imprensa, setor privado e governamental. Nesse grupo estão pessoas negras que refletem sobre o tema, promovem conteúdos e ações para equidade nas relações entre raça, tecnologia e sociedade.
O conteúdo está disponível em www.acaoeducativa.org.br
Ações sobre tecnologia
Entre as iniciativas ligadas à tecnologias digitais de informação e comunicação, a Ação Educativa lançou em 2021 o projeto TECLA – Tecnologia (em) Ação. A iniciativa é responsável por projetos de amadurecimento em cibersegurança e proteção de dados, participação em redes e campanhas de defesa de direitos digitais e cursos formativos como “Internet e Desigualdades” e “Bem-Viver na Internet”
Sobre a Ação Educativa
Criada em 1994, é uma organização de direitos humanos, sem fins lucrativos, com uma trajetória dedicada à luta por direitos educativos, culturais e da juventude.
in EcoDebate, ISSN 2446-9394
A manutenção da revista eletrônica EcoDebate é possível graças ao apoio técnico e hospedagem da Porto Fácil.