Como algorítmos podem ser racistas?

Photo de ev no Unsplash

Algorítmos, machine learning, big data, inteligência artificial estão cada vez mais presentes em nossas vidas. Mesmo que não percebemos, eles nos ajudam a tomar decisões, como, qual caminho seguir, qual filme assistir, o que comer, além de monitorar nossa saúde. Seja através da Internet, aplicativos, dispositivos vestíveis ou assistêntes de vozes, como a Alexa, Siri, Cortana. E com grandes coorporações não é diferente, elas também utilizam machine learning para tomar decisões baseadas em números e lucro.

Mas o que é Machine Learning?

Machine Learning são algorítmos autônomos que evoluem e aprendem sozinhos analisando grandes quantidades de dados. O próprio algorítmo calcula e decide a melhor forma de fazer uma tarefa. Isso pode incluir jogar xadrez, dirigir um carro, reconhecer um rosto, considerando N fatores diferentes.

E como vários programadores trabalham ao longo do tempo adicionando essas considerações no algoritimo, é bem comum que ele evolua e se torne tão complexo ao ponto de não saberem explicar como ele funciona e toma as decisões.

E como redes sociais podem ser racistas?

Redes sociais lucram dinheiro mostrando propagandas para seus usários, pra isso, é importante que eles passem o maior tempo possível online. Então o algorítmo recebe essa tarefa, manter as pessoas conectadas, como ele vai fazer isso? O proprío algorítmo irá decidir analisando o comportamento dos usuários. Se posts de pessoas brancas geram mais interações (curtidas, comentários, compartilhamentos), o algoritimo irá mostra-los mais.

Isso também acontece com notícias falsas , pessoas feias e pobres, padrões de beleza. Pois, lembre-se, o objetivo do algorítmo é manter as pessoas conectadas, não julgar o que é certo ou errado.

It has been watching us

E o algoritmo conhece as pessoas melhor do que elas mesmos, pois ele tem registrado todas curtidas, comentários, vídeos assistidos, tempo em cada página, posts ignorados desde o momento em que elas criam uma conta.

Por mais que as pessoas digam que apoiem a diversidade, igualdade e respeito, ele sabe que elas inconscientemente interage mais com vídeos de gatinhos, receitas, memes, regimes autoritários, teorias da conspiração ou etc.

E sabendo disso, ele vai criar um feed personalizado pra cada pessoa, dependendo de seu humor, horário do dia, curtidas e buscas pra manté-las o máximo de tempo possível conectadas, e claro, mostrando uma propaganda a cada 3 publicações.

Qual a melhor forma de resolver isso?

Eu, por exemplo, gosto de ver vídeos de guitarristas; deveria então o algorítmo se preocupar em me mostrar 50% de guitarristas brancos e 50% de guitarristas pretos? Permitir que as pessoas escolham a preferência do conteúdo que elas querem ver, mesmo que isso afete sua percepção da realidade? Devemos nos esforçar a interagir com mais contéudos de pessoas pretas para burlar o algorítmo e fazer com que elas ganhem mais espaço? Seja como for, isso só irá mudar quando as redes sociais reverem seu modelo de negócio e as pessoas se conscientizarem de que esse problema existe.

Conclusão

Sabendo disso, gostaria de perguntar, o algorítmo que é racista ou ele apenas reflete o racismo oculto da nossa sociedade? Pois assim como no mundo offline, as pessoas pretas, e outras minorias, não tem tanto espaço na internet. Mas não é porque iss já acontece que deveria ser aceito em qualquer esfera, online ou offline.

Diferente do mundo lá fora, onde existe política, votações, leis e um passado histórico de segregação, a Internet não tem fronteiras e deveria ser um espaço de igualdade entre todos. Grandes serviços são feitos por grandes empresas e elas são as únicas responsáveis por manter esses algorítmos e estão mais propensas a mudar quando vêem seu lucro ou reputação ameaçados, por isso é importante as pessoas falem sobre isso e as pressionem pra mudar.

Referências

Se você se interessou por essas questões eu gostaria muito de recomendar algumas coisas onde isso é discutido mais profundamente. Os livros 21 Lições Para o Século 21 e Homo Deus do Yuval Harari, que são meus favoritos, o incrível documentário da Netflix O Dilema das Redes Sociais, também o podcast Your Undivided Attention em inglês e o perfil da Nina da Hora no Instagram, que é uma cientista e ativista e fala muito sobre isso.