A democratização tecnológica passa por mitigarmos controvérsias e violências de classe, raça, gênero e outras – Fundação Tide Setubal entrevista Tarcízio Silva

Toda e qualquer conversa sobre democracia deve envolver a relação entre sociedade e redes sociais, seja para falar sobre iniciativas voltadas à defesa de instituições democráticas, seja para estudar e combater grupos que, por meio de dinâmicas diversas, promovem ataques supremacistas e de ódio – e, por fim, apoiam projetos políticos autoritários.

Dentro dessa dinâmica, apesar da suposta neutralidade alegada por plataformas e profissionais atuantes nesse segmento, são frequentes e notórios episódios envolvendo vieses raciais, de gênero e territoriais recorrentes em pesquisas realizadas em sites de buscas, em reconhecimentos faciais – resultando em prisões ilegais e arbitrárias, inclusive – e em contextos envolvendo a aplicativos de alimentação e de mobilidade urbana.

Compreender tais dinâmicas, em particular o racismo algorítmico, é um dos pontos mais emblemáticos do trabalho de Tarcízio Silva, Tech + Society Fellow pela Fundação Mozilla, mestre em Comunicação e Cultura Contemporâneas pela Universidade Federal da Bahia (UFBA) e doutorando em Ciências Humanas e Sociais na Universidade Federal do ABC (UFABC).

O interesse de Tarcízio em estudar aspectos diversos relacionados à dinâmica entre tecnologia e sociedade esteve presente em toda a sua trajetória, começando pelo entusiasmo, surgido ainda na adolescência, com o potencial que a internet representava sobre circulação de conhecimento. E isso pôde ser concretizado, segundo o próprio mestre em Comunicação e Cultura Contemporâneas, por meio de conquistas do Movimento Negro, como a criação de ações afirmativas.

Essa premissa é refletida em trabalhos como o livro Racismo Algorítmico: Inteligência Artificial e Discriminação nas Redes Digitais, em que ele coloca em perspectiva a incorporação de hierarquias raciais nas tecnologias digitais de comunicação e informação. Confira a seguir a entrevista concedida por Tarcízio Silva sobre tecnologia, atuação de gigantes tecnológicas, vieses discriminatórios e até em que ponto o aumento de profissionais oriundas/os de grupos minorizados pode proporcionar mudanças nesse quadro.

Episódios como o ocorrido com o chatbot Tay, que assimilou em pouco tempo perspectiva supremacista, são indícios da existência de vieses incorporados a algoritmos. Como a maioria dos profissionais desse segmento ser de um grupo específico coloca em xeque a suposta neutralidade e endossa o conceito de racismo algorítmico?

Tarcízio Silva: A considerável homogenia de classe, raça, gênero e origem dos profissionais envolvidos no desenvolvimento de produtos e serviços para as big tech é um dos fatores que se enquadra ao mesmo tempo como uma das causas e um dos sintomas dos negócios em torno de plataformização digital. Ideologias eurocêntricas e patriarcais dos mercados de inovação ligados ao capital financeiro se esforçaram por construir conceitos e culturas sobre tecnologias digitais com o homem branco afluente como criador e usuário priorizado, ao mesmo tempo que simulava uma neutralidade ou “cegueira racial”.

Nesta realidade, o conceito de racismo algorítmico é endossado ao constatarmos que inúmeros níveis decisórios em camadas institucionais, epistêmicas e financeiras incorporam a supremacia branca não só pela violência em si contra grupos minorizados, mas também na produção estratégica de ignorância que viabiliza a implementação de produtos e serviços inadequados.

Casos emblemáticos como o lançamento do chatbot Tay, a crueldade encarceradora do sistema COMPAS para escore de reincidência criminal ou a disparidade interseccional no reconhecimento de faces denunciada pelo projeto Gender Shades são, sobretudo, indícios de acúmulos de negligência ou leniência com erros quando os prejudicados são grupos minorizados.

Há caminhos possíveis para equilibrar essas ações e evitar o risco de disseminação e normalização de discursos de ódio e supremacistas nas redes, assim como censuras por parte de regimes totalitaristas?

Tarcízio Silva: Pensarmos a controvérsia entre influência do Estado ou do setor privado na liberdade de expressão é um desafio balanceado por outras questões sobre de quais tipos de Estados estamos tratando. Empresas detentoras do Facebook ou Twitter são inerentemente ligadas ao esforço estadunidense de dominação política e ideológica em torno do mundo. Já há forte influência mútua entre big tech e Estado, como provado pelo aparato de vigilância que os EUA desenvolveram em parceria com muitas das inovadoras empresas do Vale do Silício. É matéria de soberania nacional e de defesa da democracia a supervisão e regulação estatal das plataformas, não por acaso os próprios EUA incentivam as próprias e regulam fortemente as estrangeiras, como fizeram com o TikTok.

No caso do Brasil, a relação das elites econômicas com projetos autoritários é uma constante em nossa história, infelizmente. Para além disso, a sujeição colonial dessa elite sob a ideologia e o capital estrangeiro é um grande problema para a efetiva e necessária regulação da mídia. Noções e práticas republicanas efetivas de participação do povo nas decisões sobre políticas públicas, nos avanços legislativos e na regulação não só de mídia tradicional, mas também das plataformas é essencial para o futuro do país e também mitigar violências, sejam elas estatais ou corporativas.

Desde 2011 temos, por exemplo, a Lei de Acesso à Informação (LAI), que permite a qualquer cidadão, incluindo jornalistas, pesquisadores e políticos, a interpelar o poder público e instituições dos vários níveis em busca de dados e informações de interesse. Apesar das ameaças a esse nível de transparência nos últimos anos, a LAI representa uma vitória gigantesca para a gestão responsável das coisas públicas. Mas quando o setor privado se torna capaz de modular não só as trocas financeiras, de produtos e de serviços, mas também a própria esfera pública através das plataformas, vale pensarmos como a transparência corporativa precisa ser incentivada como um primeiro passo para a responsabilização. E, para alcançar isso, só por meio da sociedade civil articulada e engajada ocupando o Estado.

Confira a série de reportagens produzidas pela Fundação Tide Setubal em 2021 sobre a relação entre tecnologia e discriminação

Como o modelo de atuação das big techs, a opacidade sobre o modus operandi usado e o suposto incentivo à liberdade de expressão retroalimentam vieses discriminatórios e o que conhecemos como racismo algorítmico?

Tarcízio Silva: Valores como democracia, justiça racial ou liberdade de expressão são incompatíveis com os oligopólios de tecnologias digitais de comunicação. Abordagens de dataficação promovidas para gerir usuários e seu trabalho gratuito ou precarizado em plataformas buscam otimizar margens de lucro em torno de métricas de negócio que prescindem de considerações sobre responsabilidade social da mídia ou impactos nocivos.

Por isso o capital financeiro empolgou-se em promover a ignorância sobre abordagens da inteligência artificial que são eficientes para os negócios, mas desastrosas para seus entornos e desenvolvimento. Os vazamentos de whistleblowers [N.R: informantes] que denunciaram o fato de que empresas de big tech impedem os próprios pesquisadores de estudar impactos nocivos de seus produtos provam que a ideia de “inexplicabilidade” da inteligência artificial é estratégica.

Nos últimos anos, você e demais pesquisadoras/es na área tecnológica, como Nina da Hora, têm trazido novos olhares e perspectivas para a produção científica e tecnológica. De qual maneira a pluralidade sociorracial, étnica e de gêneros podem ser convertidas em democratização tecnológica?

Tarcízio Silva: O caminho pavimentado nos últimos anos por pioneiras como Zelinda Barros, Paulo Victor Melo, Márcia Guena, Sil Bahia ou Ivo Pereira de Queiroz em olhares contra-hegemônicos e afrocentrados sobre comunicação e tecnologias digitais dialoga com outros ancestrais intelectuais como Abdias do Nascimento, Lélia Gonzalez ou Frantz Fanon. Análise e teoria social sobre a construção das relações de poder, exploração do trabalho ou de disputas políticas em torno das tecnologias são sempre processos longitudinais. A democratização tecnológica em sentido lato passa então por mitigarmos as controvérsias e violências de classe, raça, gênero e outras; e lutar para que o acúmulo de conhecimentos sobre os problemas do país não seja ignorado nas tomadas de decisão sobre nossos futuros sociotécnicos.

Recusar alguns tipos de tecnologias é, então, algo que deve estar no nosso rol de possibilidades. Cito aqui as atuais campanhas sobre banimento do uso de reconhecimento facial e outros tipos de biometria em espaços públicos. Não deveríamos precisar do tecnicismo sobre os problemáticos níveis de imprecisão dessa tecnologia para rejeitar o reconhecimento facial. Nossos acúmulos intelectuais e políticos sobre violência policial, genocídio negro, encarceramento ineficiente, judiciário elitista ou uso de vigilância para fins autoritários deveriam ser suficientes para gerar consensos de que o reconhecimento facial não tem lugar em projetos de sociedades saudáveis. Somar a pluralidade sociorracial, étnica e de gêneros na produção de conhecimento valorizado institucionalmente com o mesmo esforço pela pluralidade nos espaços de poder pode gerar futuros inclusivos e democráticos.

Além de se aumentar as presenças de pessoas negras, mulheres, LGTQIAP+ e de demais grupos minorizados trabalhando com desenvolvimento algorítmico e em demais segmentos científicos e tecnológicos, quais podem ser as alternativas para o ambiente online ser, de fato, plural, inclusivo e democrático?

Tarcízio Silva: Acredito que a chave da questão passa pelo controle social da tecnologia, algo que requer também o efetivo engajamento cidadão nos assuntos estatais. Marcos regulatórios sobre meios de comunicação são realidade há décadas em muitos países com altos níveis de segurança institucional. Não termos essa questão ainda resolvida piora o contexto atual de necessidade de regulação de plataformas que têm negócios não apenas como meios de comunicação, mas também nos mais diversos setores que vão de inteligência artificial, robótica e saúde a serviços financeiros.

Por interesses internos de poucos e por influência externa das potências econômicas globais, o Brasil ainda se posiciona de forma subalterna sobre a defesa de sua própria soberania e democracia. Isto cria relações interseccionais escusas entre subalternização tecnológica com outras opressões, como de gênero, raça, classe etc. Para um ambiente online plural, inclusivo e democrático precisamos de pessoas negras, mulheres, LGBTQIAP+ e outros grupos minorizados nos espaços decisórios sobre políticas públicas, legislação, regulação e distribuição de recursos.

PARA SABER MAIS

1. Confira o livro Racismo Algorítmico: Inteligência Artificial e Discriminação nas Redes Digitais, escrito por Tarcízio Silva
2. Em entrevista à Plataforma Ancestralidades, da Fundação Tide Setubal em parceria com o Itaú Cultural, Tarcízio Silva fala sobre como as múltiplas dimensões por meio das quais o racismo é reproduzido e retroalimentado na esfera tecnológica, assim como grupos de extrema-direita têm se valido de tais vieses discriminatórios e sobre a urgência em romper com a lógica eurocêntrica adotada nesse segmento.

Entrevista: Amauri Eugênio Jr.