No mundo cada vez mais digitalizado e interconectado em que vivemos, a tecnologia desempenha um papel fundamental em quase todos os aspectos de nossas vidas. Posso até afirmar com convicção que todos os dias de nossas vidas dependemos da tecnologia para alguma coisa, seja para se comunicar, sacar, transferir um dinheiro, entre outros.
Pois bem, com a tecnologia cada vez mais presente em nossas vidas, junto com ela se acompanha também os pontos negativos. À medida que a inteligência artificial e os algoritmos se tornam onipresentes em setores como finanças, saúde, educação e justiça, é crucial examinar de perto o impacto dessas inovações na sociedade.
Uma questão que tem emergido com força nos últimos anos é o poder dos algoritmos em reproduzir o racismo – entre outros comportamentos – que muitas vezes podem apresentar implicações profundas no sistema jurídico e, em última instância, na busca pela justiça. Este artigo é dedicado a advogados e profissionais do direito, que busquem compreender um pouco mais sobre formas de racismo algoritmo. Adiante, exploraremos o que é o racismo nos algoritmos, como ele se manifesta e por que ele deve ser visto como uma preocupação central para o sistema de justiça.
Racismo e suas formas de propagação
O racismo é considerado um fenômeno complexo e profundamente enraizado na sociedade, que se manifesta de diversas formas, desde discriminação racial direta até preconceitos sutis e estruturais.
Há grande controvérsia sobre a etimologia do termo “raça”. O que se pode dizer com mais precisão é que seu significado sempre esteve ligado de alguma forma ao ato de estabelecer classificações. Entretanto, a noção de raça como referência a categorias distintas de seres humanos, é um fenômeno presente na modernidade.
Em sua essência, o racismo é a crença na superioridade de uma raça sob outras, acompanhada pela discriminação, estigmatização ou exclusão das pessoas com base em sua origem étnica ou racial. No entanto, o racismo não se limita apenas às atitudes individuais; ele é frequentemente perpetuado e amplificado por estruturas sociais, econômicas e políticas.
O racismo também está intrinsecamente ligado às estruturas de poder existentes. Quando determinados grupos raciais têm acesso desigual ao poder político, econômico e social, as desigualdades raciais persistem e se reproduzem. Isso pode ser visto em áreas como o acesso a oportunidades de emprego, moradia e educação.
Os atos discriminatórios com relação à raça são mais evidentes em situações cotidianas, como em insultos ou gestos. O que se vê nos últimos anos, porém, é um crescimento desse preconceito no âmbito digital. Isto cria um cenário em que a agressão é velada em linhas de programação.
O pesquisador em Ciências Humanas e Sociais da UFABC (Universidade Federal do ABC), Tarcízio Silva, criou a Linha do Tempo do Racismo Algorítmico: casos, dados e reações., que é uma compilação de casos no Brasil e no mundo de formas de opressão racial no contexto digital.
Um dos casos citados é uma ação do Instagram ocorrida em novembro de 2019, em que a plataforma identificou que um desenho com pessoas negras, uma delas em referência ao automobilista britânico Lewis Hamilton, continha alusão a armas.
Outro caso emblemático nos Estados Unidos sobre racismo algoritmo, foi o do Banco Americano Wells Fargo. Conforme relatado pelo Departamento de Justiça dos EUA, o Wells Fargo, banco que mais financiou hipotecas em todo o país, cobrou maiores taxas de juros em empréstimos para 34 mil clientes afro-americanos entre 2004 e 2009, simplesmente por causa da cor de sua pele e país de origem e não pelas qualificações ou histórico de crédito.
Além disso, Tarcízio lança o livro “Racismo algorítmico – Inteligência artificial e discriminação nas redes sociais” onde questiona como as estruturas de inteligência artificial (IA) reproduzem comportamentos racistas por meio de ferramentas como reconhecimento facial, filtros para selfies, moderação de conteúdo, chatbots, entre outros mecanismos.
Algoritmos como reprodutor de comportamentos
Em um mundo cada vez mais digital, algoritmos de inteligência artificial podem ser capazes de reproduzir o racismo de diversas maneiras. Os algoritmos são treinados com uma base de dados históricos, e esses dados refletem diversos preconceitos entre eles, os raciais. Os algoritmos podem reproduzir esses preconceitos ao tomar decisões em áreas como empréstimos, contratações e sistemas de justiça criminal, por exemplo.
Para entender como esses comportamentos humanos são reproduzidos por máquinas e programas, é preciso entender quem está por trás da programação. Essa base de dados é corriqueiramente pautada por homens brancos, cis, afluentes, e dos Estados Unidos.
As redes sociais, por exemplo, usam um algoritmo que coleta dados a partir das buscas e curtidas dos usuários para recomendar novos conteúdos, criando o que chamam de “bolhas”, ou seja, as pessoas consomem ideias parecidas com as suas e não são expostas a novos tipos de pensamentos, fazendo com que ideais antigas se perpetuem.
Reconhecimento facial, filtros para selfies, moderação de conteúdo, chatbots, policiamento preditivo e escore de crédito são apenas algumas das aplicações que usam sistemas de inteligência artificial na atualidade.
Mas e o que acontece quando as máquinas e programas apresentam resultados discriminatórios? Seriam os algoritmos racistas? Ou trata-se apenas de erros inevitáveis? De quem é a responsabilidade entre humanos e máquinas? E o que podemos fazer para combater os impactos tóxicos e racistas de tecnologias que automatizam o preconceito? São diversos os questionamentos.
Fato é que o racismo algoritmo se tornou um conceito relevante para entender como a implementação acelerada de tecnologias digitais emergentes, que priorizam ideais de lucro e de escala, impactam negativamente minorias raciais em torno do mundo.
Quando algoritmos recebem o poder de decidir – a partir dos critérios de seus criadores – o que é risco, o que é belo, o que é tóxico ou o que é mérito, os potenciais discriminatórios se multiplicam.
Soluções possíveis
A solução para o problema do racismo algorítmico envolve uma abordagem multifacetada que requer ações coordenadas por parte da sociedade, governos, empresas e tecnólogos.
Empresas e organizações que usam algoritmos devem conduzir auditorias regulares para identificar e mitigar preconceitos e viés em seus sistemas. Isso inclui a revisão de dados de treinamento, métricas de desempenho e ajustes de algoritmos para garantir que eles não perpetuam desigualdades.
As empresas devem ser transparentes sobre como seus algoritmos funcionam e quais dados são usados. Além disso, elas devem ser responsabilizadas por eventuais discriminações algorítmicas, e devem ter sistemas de correção e reparação em vigor.
A pesquisa e o desenvolvimento de algoritmos éticos devem ser incentivados. Isso inclui a criação de diretrizes e padrões éticos para o design e treinamento de algoritmos.
Em resumo, o racismo algoritmo é uma séria preocupação ética e legal, com implicações prejudiciais em várias áreas da sociedade. Para enfrentar esse problema, é necessário um esforço conjunto que inclui auditorias de algoritmos, transparência, regulamentações, diversidade na tecnologia, educação pública e desenvolvimento de algoritmos éticos.
Conclusão
Concluindo, o racismo algorítmico é uma realidade complexa que deve demandar a atenção urgente de toda nossa sociedade. À medida que a tecnologia continua a moldar nossas vidas, não podemos fechar os olhos e permitir que o racismo algoritmo acaba perpetuando injustiças raciais.
Ações coordenadas são essenciais, incluindo regulamentações rigorosas, auditorias transparentes de algoritmos, diversificação na tecnologia e conscientização pública. Somente assim, através de esforços coletivos, podemos garantir que a inteligência artificial promova a justiça e a igualdade, e que ela esteja presente para ajudar a progredir, e não regredir.
Além disso, o futuro deve ser moldado por algoritmos éticos, mas que principalmente, respeitem a dignidade de todas as pessoas, independentemente de sua raça ou origem étnica. E para tanto, é essencial que a sociedade, o setor privado e o governo trabalhem juntos para enfrentar esse desafio complexo.
Assim como o pesquisador Tarcízio, o racismo algoritmo pode ser uma forte linha de pesquisa, capaz de trazer grandes benefícios para o mundo social e acadêmico.
O IDP oferece o Mestrado Profissional em Direito, que possui várias linhas de pesquisa e com certeza alguma delas você pode se encaixar.
Dentre as linhas de pesquisa previstas, você terá a oportunidade de aprofundar-se em: Transformações na Ordem Econômica e Social: Tecnologia e Inovação. No IDP, você conta com um dos melhores corpos docentes do Brasil. São professores e professoras do mais alto nível acadêmico e profissional, referências na área.
Você tem acesso ainda a uma superestrutura, incluindo biblioteca virtual com mais de 25 mil títulos para as áreas de Administração, Arquitetura e Urbanismo, Ciência da Computação, Comunicação, Direito, Economia, Engenharias, Jornalismo, Publicidade, Psicologia e Relações Internacionais.
Até a próxima!
Referências
Banco americano recebe multa milionária por discriminação – Brasil 247
Racismo digital: como as máquinas reproduzem comportamentos humanos – DiversEM – Estado de Minas
Racismo algorítmico: quando o preconceito chega pela internet — Humanista (ufrgs.br)
