MODELO ENEM - RACISMO ALGORÍTMICO

RACISMO ALGORÍTMICO – MODELO ENEM – ID: JIQ

Texto I 

Para entender o que é o racismo algorítmico, precisamos antes entender qual é a real função da Inteligência Artificial. A IA é um conjunto de comandos que consegue não só identificar os gostos do usuário, como também realizar milhares de cálculos, em segundos, sem a intervenção humana. Com a inteligência artificial, os conteúdos se tornam mais atrativos, pois ela identifica os gostos dos usuários com base no que consomem.

O caso do Google Fotos: Em junho de 2015, o algoritmo do google categorizou pessoas negras como “gorilas”. A IA do Google não era capaz de distinguir a pele de um ser humano da dos macacos, como gorilas e chimpanzés. O Google pediu desculpas pelo ocorrido e a solução foi a retirada de gorilas do buscador, dois anos depois. (...) Esse é apenas um exemplo de como a problemática está presente no mundo digital, e de como as Ias intensificam o racismo que já está enraizado em nossa sociedade.

Quais os impactos do racismo algorítmico em nossa sociedade?

O racismo algorítmico intensifica a estrutura discriminatória e excludente em que vivemos, o que traz diversas consequências negativas para a sociedade. O Google é um dos sites de busca mais utilizado no mundo todo. (...)  Os usuários que o acessam confiam na plataforma e são influenciados por ela. Muitas vezes, as pessoas tomam decisões orientadas pelos primeiros resultados, mas nem sempre o algoritmo usa os dados de modo adequado. Diante desse contexto, o racismo algorítmico torna constante as microagressões na internet. Estas se configuram como um comportamento – verbal ou não verbal – sutil, dirigido a um membro de um grupo marginalizado. (...) Um exemplo disso ocorreu em 2022, em que um sistema de reconhecimento facial de um aplicativo bancário não reconheceu o rosto de um correntista negro. Essas falhas no sistema dizem muito sobre como o racismo está enraizado em nossa sociedade, e mais presente do que pensamos no meio digital.

Como combater o racismo algorítmico?

Ainda não existe uma regulação própria para algoritmos, e, assim, casos com viés racista acontecem e irão continuar acontecendo. É certo que o racismo algorítmico não é produzido pelas máquinas – são os seres humanos que criam e estimulam o preconceito, e, por isso, empresas e profissionais da computação têm um papel muito importante nessa luta. É necessário que as empresas de tecnologia possam receber formações acerca do racismo algorítmico, um assunto que precisa ser discutido e combatido.

GOMES, Graziely Ketlen de Souza Gomes Disponível em: https://www.politize.com.br/o-que-e-racismo-algoritmico/. Adaptado. Acesso em 24.out.2024.

Texto IV

O preconceito algorítmico ocorre quando algoritmos reproduzem e ampliam vieses sociais, resultando em injustiças, como reconhecimento facial incorreto e desigualdade em plataformas digitais. Combater isso exige ética e diversidade. (...) O preconceito algorítmico pode ter um impacto significativo em nossa vida cotidiana e, como qualquer forma de discriminação, pode resultar em injustiças para parte da população.

Em 2015, um usuário do Google Fotos denunciou a plataforma por ter rotulado a foto de um casal negro com a legenda "gorilas". Na época, a gigante da tecnologia afirmou que tomaria as medidas necessárias para evitar a repetição de erros como esse. (...)

Regulamentação e combate: Em 2020, o Comitê para Eliminação da Discriminação Racial da Organização das Nações Unidas fez um apelo para a regulamentação dos algoritmos de reconhecimento facial, devido ao potencial de perpetuar ou ampliar casos de preconceito contra grupos minoritários. Combater o preconceito algorítmico é um desafio significativo no mundo da tecnologia. Combater o preconceito algorítmico é respeitar aos direitos humanos. 

Disponível em: https://exame.com/hub-faculdade-exame/preconceito-algoritmico-os-computadores-podem-cometer-erros-como-nos-2/. Acesso em 24.out.2024.

Texto V

Pesquisadores apontam que, mesmo inserido no banco de mandados de prisão, não há garantia legal de que o suspeito tenha cometido o crime ao qual responde, o que fere a chamada presunção da inocência – popularmente conhecida pelo jargão: “todos são inocentes, até que se prove o contrário”.

Um desses casos ocorreu durante a festa junina de 2022, em Salvador. Um homem negro foi preso enquanto chegava no Parque de Exposições da capital com a esposa e o filho, para aproveitar o evento. Ele, que é vigilante, foi detido e ficou preso por 26 dias, por roubo, injustamente. O crime que levou o trabalhador à prisão foi cometido em 2012, por outra pessoa. O verdadeiro criminoso foi preso em flagrante e usou o nome do vigilante e as próprias digitais para se identificar. Este homem foi solto em 2013, e depois condenado a cinco anos e quatro meses de prisão.

Disponível em: https://g1.globo.com/ba/bahia/noticia/2023/09/01/com-mais-de-mil-prisoes-na-ba-sistema-de-reconhecimento-facial-e-criticado-por-racismo-algoritmico-inocente-ficou-preso-por-26-dias.ghtml. Acesso em 24.out.2024.

PROPOSTA DE REDAÇÃO: A partir da leitura dos textos motivadores seguintes e com base nos conhecimentos construídos ao longo de sua formação, redija texto dissertativo-argumentativo em norma padrão da língua portuguesa sobre o tema: “Racismo algorítmico: a falibilidade da tecnologia perante os direitos humanos”. Apresente proposta de intervenção, que respeite os direitos humanos. Selecione, organize e relacione, de forma coerente e coesa, argumentos e fatos para defesa de seu ponto de vista.