Como o racismo algorítmico afeta as crianças?

Você já ouviu falar em algoritmos? Pois bem, quando a gente escolhe uma série para assistir ou visualiza o comercial de um produto, o que está por trás disso é justamente o algoritmo: uma espécie de fórmula matemática que determina as respostas das buscas, a visibilidade, o alcance de uma publicação. Embora sejam “vendidos” como neutros, os algoritmos podem apresentar resultados discriminatórios. É o que pesquisadores chamam de “racismo algorítmico”.

Tarcízio Silva, pesquisador de políticas de tecnologia na Fundação Mozilla, compara o racismo algorítmico a uma “atualização do racismo estrutural”. Portanto, de acordo com ele, essa prática reproduz desenhos de privilégios e opressões que já existem na sociedade. Autor do livro “Racismo algorítmico: inteligência artificial e discriminação nas redes digitais”, Silva apresenta como os algoritmos reproduzem o poder de decidir a partir dos critérios definidos por seus criadores.

Para a mestre em Cultura e Territorialidades pela Universidade Federal Fluminense (UFF) Silvana Bahia, “quando um novo recurso de escaneamento reconhece uma criança de pele clara, mas não uma de pele retinta”, por exemplo, o que, muitas vezes, parece ser um “erro” da ferramenta é, na realidade, a automatização da visão de mundo de seus criadores. Ou seja, durante o “treinamento” da máquina podem ocorrer distorções. E entre as mais cruéis está o racismo, alerta ela, que é também diretora executiva do Olabi, uma organização social que visa democratizar as tecnologias.

“Não existe neutralidade frente à produção tecnológica, pois toda tecnologia é produzida por pessoas”, diz Silvana Bahia.

Pensamento crítico contra o racismo algorítmico

Em um mundo cada vez mais conectado, fica difícil fugir dos algoritmos ou blindar completamente as crianças dos impactos das tecnologias emergentes. Por isso, para Bahia, é fundamental apresentar a elas uma leitura crítica sobre as tecnologias e o que consomem, para que estejam preparadas para os desafios da rápida transformação digital.

“Não é necessário ser alguém da área para fazer esse movimento”, defende. Isso porque “todos estão consumindo tecnologia, cedendo dados, tendo que fazer reconhecimento facial ao entrar em edifícios.” Apesar disso, a diretora da Olabi reforça que a produção de conteúdos mais plurais também depende do fomento à diversidade nos ambientes que produzem tecnologias.

“A tecnologia é consumida por muitos e produzida por poucos.”

Impactos do racismo algorítmico

Recentemente, com o apoio da inteligência artificial, uma ação da Disney Pixar possibilitou que as pessoas se tornassem personagens de desenhos animados. Contudo, em testes realizados por influenciadores negros, a surpresa foi que a imagem gerada era sempre de uma pessoa branca, mesmo que a foto original fosse de uma pessoa negra.

Em outro contexto, apesar de seguir a orientação de um pedido para criar uma imagem de uma mulher negra, na periferia, com roupas de estampa étnica, inspirada nos pôsteres da Disney, um detalhe surpreendeu: na imagem, a mulher segurava uma arma.

Portanto, esses exemplos mostram que as máquinas não são neutras na forma como retratam as minorias étnicas. Isso sem falar no fato de que influenciadores negros costumam relatar ter menos alcance e visibilidade do que os brancos.

Para uma criança que está começando a explorar as plataformas digitais, muitas dessas “escolhas” podem afetar profundamente sua autoestima: ver que seus traços negros são suavizados no tratamento de uma foto ou que sua cor nunca está contemplada nos virais da internet pode provocar, por exemplo, danos na autoimagem.

Para lidar com esse racismo algorítmico, deve existir um trabalho que estimule a diversidade nas empresas. Só assim, com mais pessoas produzindo e pensando esses recursos será possível minimizar os danos de um racismo transposto às máquinas. Mas também são necessárias intervenções no ambiente familiar. Segundo Bahia, “parte dessa proteção com as crianças está na orientação sobre essa desigualdade de raça, em casa. E isso vai ser visto em vários campos, inclusive na tecnologia.”

“A diversidade deve ser um pilar no desenvolvimento, entendimento, consumo e produção de tecnologia”, reforça a diretora da Olabi.

Educação antirracista

Além do estímulo ao pensamento crítico e à diversidade na produção de tecnologia, é fundamental educar as crianças para compreender e analisar as questões relacionadas à raça. Mais que isso, promover uma educação antirracista, oferecendo a elas acesso à diversidade. “Se você nunca convive com crianças negras, nunca lê histórias onde o negro é protagonista, se não tem uma boneca negra, fica difícil crescer entendendo que tipo de realidade estamos”, avalia Bahia.

O escritor e mestre em História da África pela Universidade Federal do Recôncavo da Bahia (UFRB), Marcos Cajé, ressalta que uma das formas de ajudar as crianças nesse processo é ressignificar a narrativa sobre os povos negros e oferecer livros com protagonistas negros que considerem a pluralidade da ancestralidade africana. “É importante contar histórias que mostram as grandes conquistas do povo africano. Nós fomos rainhas, reis, guerreiros, arquitetos, Antes da colonização europeia e islâmica, a África pulsava vida, arte e poder.”

“As famílias devem buscar conteúdos que apreciem nossa estética negra”, sugere Cajé.

Autor de livros como “Afrocontos: ler e ouvir para transformar”, “Zula, a guerreira” e “Ara, o menino trovão”, Cajé avalia que acabar com o racismo algorítmico é um trabalho árduo, mas não impossível. “Combater o racismo cibernético é combater um novo território. E como combater o que ainda não se sabe exatamente o que é?” A resposta, de acordo com ele, é mostrando para as crianças representatividade alegre e próspera. Isso pode ser feito por meio do livrinho escolhido, da série que se vê na TV ou em uma roda de conversa. A curadoria das famílias e dos educadores, portanto, é essencial.

“Precisamos consumir todas as narrativas literárias, de poesia à ficção, literatura afro-fantástica, valorizar a literatura oral”, diz. Além disso, Cajé incentiva a busca por escritores e escritoras negras, perfis nas redes sociais que contemplem crianças pretas e que saibam o que é a cultura afro-brasileira.

“Essa ressignificação das narrativas é muito importante, pois fortalece a autoestima das crianças negras”, observa Bahia.

Por onde começar?

A professora e escritora Josy Asca busca promover uma educação antirracista no dia a dia e nos livros que escreve, como “O amor não tem cor” e “Akin e sua cor preciosa”. É ela quem traz as seguintes indicações para apresentar às crianças:

* Esta reportagem foi produzida com o apoio da Imaginable Futures.

Leia mais