Uma nova teoria conhecida como feminismo de dados tem emergido das universidades e já apresenta um impacto significativo em grandes empresas de tecnologia, como Google e Amazon, além de influenciar a legislação brasileira. Essa abordagem sustenta que algoritmos não são neutros e carregam preconceitos de seus criadores, o que demanda uma revisão social da inteligência artificial.
O princípio fundamental do feminismo de dados é a afirmação de que tanto os dados quanto os algoritmos não são imparciais. A predominância de equipes tecnológicas compostas majoritariamente por homens brancos oriundos de países desenvolvidos resulta em sistemas que refletem essa única visão de mundo. O movimento defende que as decisões sobre a coleta e uso de dados podem inadvertidamente marginalizar mulheres, negros e pessoas de baixa renda.
Gigantes da tecnologia, como Google, Microsoft e Amazon, têm adotado o conceito em suas práticas corporativas. Essas empresas passaram a incorporar termos como 'inteligência artificial responsável' e 'diversidade de dados' em suas estratégias de imagem. Essa mudança começou a ganhar destaque após incidentes notórios, como os problemas de reconhecimento facial que apresentavam taxas de erro significativamente mais altas ao identificar mulheres negras em comparação a homens de pele clara.
A proposta do feminismo de dados também chegou ao Senado Federal, onde um projeto de lei que regulamenta a inteligência artificial no Brasil foi apresentado. Este projeto exige que as empresas expliquem os critérios que suas máquinas utilizam para tomar decisões, visando prevenir discriminações baseadas em raça e gênero. A responsabilidade por eventuais erros nos códigos de computador seria transferida para os gestores que supervisionam esses sistemas.
Entretanto, especialistas apontam para o potencial risco de a ciência de dados se transformar em uma forma de militância política. Críticos destacam a falta de clareza técnica ao tentar converter conceitos abstratos, como 'justiça social', em regras matemáticas que possam ser testadas por engenheiros. Outro ponto de preocupação é que a busca por uma agenda ideológica possa levar à manipulação dos dados, fazendo com que eles apenas respaldem as visões dos autores.
A discussão em torno do feminismo de dados reflete um movimento mais amplo sobre a responsabilidade ética no uso de tecnologia e a necessidade de diversidade nas equipes que desenvolvem essas ferramentas, visando um futuro mais justo e inclusivo.
