28/05/2021 - 9:30
Para as minorias, não basta enfrentar o preconceito na vida real: o avanço da tecnologia exige que se lute também contra o racismo virtual. Isso não diz respeito apenas aos comentários feitos pelos usuários de redes sociais — a própria inteligência artificial pode reproduzir na internet a desigualdade racial existente na sociedade.
+ Tico Santa Cruz sofre preconceito na rede social após dizer que tem ‘sexualidade fluida’
+ Kelly Key faz vídeo sobre psoríase e afirma que sofre preconceito
+ BBB21: Juliette revela que já sofreu preconceito por ser nordestina: ‘Me tratam como burra’
O tema já é conhecido, mas muitas empresas do Vale do Silício se recusam a torná-lo público. O Twitter, de maneira corajosa, conduziu um estudo interno e concluiu nessa semana o que os usuários já diziam desde 2020: o algoritmo privilegiava pessoas brancas quando as fotos postadas eram recortadas. O algoritmo alimentado pelo sistema de inteligência artificial destacava imagens que, “na opinião dele”, mostrariam um conteúdo mais atraente para os usuários. Não era só racista, mas machista: além de mostrar mais pessoas brancas, exibia também mais mulheres. O Twitter informou que o algoritmo foi desativado.
Esse problema, no entanto, não é apenas do Twitter. Ele atinge a essência dos sistemas de inteligência artificial. Em 2016, a Microsoft criou o robô Fay, que aprenderia com os hábitos dos usuários das redes sociais. Foi um fracasso: o projeto foi cancelado menos de 24 horas depois, após o robô postar comentários racistas, machistas e negar o holocausto. O maior desafio é que o próprio conceito da inteligência artificial, por ser um sistema de aprendizado complexo e dinâmico, tende a incorporar a visão de mundo das pessoas que estão por trás de seu código. Basta lembrar que CEOs como Bill Gates, Jeff Bezos, Mark Zuckerberg e tantos outros correspondem a um estereótipo bem limitado e semelhante entre si – há pouca diversidade nas empresas de tecnologia e menos ainda entre suas lideranças.
O conceito de inteligência artificial nasceu em uma conferência nos EUA em 1956 e foi criado por apenas 20 homens, todos com o mesmo perfil social
A porcentagem de funcionários negros no Vale do Silício é baixíssima: 3,8% no Facebook, 4,5% na Microsoft e 3,7% no Google. No Facebook, apenas 3,1% da liderança é negra; no Google é ainda menor: 2,6%. As mulheres também estão em minoria – apesar de corresponderem à metade da força de trabalho, são apenas 25% das funcionárias do setor. O problema é estrutural, como mostram dados em duas pontas cruciais para esse ecossistema: em 2018, só 8,6% dos graduados em computação eram negros — os latinos foram 10% (Dados do National Center for Education Statistics). O financiamento também é escasso: entre os fundadores de startups que receberam investimentos de fundos de capital, menos de 1% eram negros. O número de investidores já é pequeno, o que reforça esse desequilíbrio: em 2018, havia apenas 713 pessoas com poder de decisão à frente de fundos com acesso a mais de US$ 250 milhões — do total, 11 eram latinos e apenas 7, negros.
O conceito de Inteligência Artificial nasceu em uma conferência na universidade de Dartmouth, nos EUA, em 1956. Ali, 20 homens (brancos) decidiram o que seria definida como a “inteligência”. No início, era a habilidade para vencer jogos – xadrez, especificamente. Ela evoluiu: sem ser alimentado por humanos, no entanto, o conceito torna-se estritamente matemático. O problema, abordado brilhantemente no documentário “Coded Bias”, da Netflix, é que a inteligência não pode ser definida por um pequeno grupo homogêneo. Como todo indivíduo possui um viés inconsciente, esses conceitos foram implementados também nos códigos que hoje fazem parte da vida de todos nós.
