Direto ao ponto

A cientista e ativista negra que enfrentou as big techs

A pesquisa de Joy Buolamwini persuadiu Amazon, IBM e Microsoft a rever a tecnologia de reconhecimento facial. Ela agora luta contra o preconceito da IA em outras frentes

Compartilhar:

Em junho, a Amazon anunciou que estava voltando atrás quanto ao uso policial de seu polêmico software de reconhecimento facial, o Rekognition, usado pela polícia durante anos. Na mesma semana, a IBM prometeu parar totalmente de desenvolver o reconhecimento facial, e a Microsoft se comprometeu a suspender seu sistema usado pela polícia até a aprovação de uma regulamentação federal.

Tudo isso, segundo a revista Fast Company, graças à atuação da cientista da computação Joy Buolamwini. A base para esses resultados foi lançada há quatro anos, quando a jovem, então uma formanda de 25 anos no Media Lab do MIT, começou a examinar as disparidades raciais e de gênero incorporadas às tecnologias de reconhecimento facial disponíveis comercialmente.

Sua pesquisa culminou em dois estudos que revelaram como os sistemas das Big Techs foram incapazes de classificar os rostos femininos mais escuros com a mesma precisão dos homens brancos – destruindo o mito da neutralidade da máquina e provocando injustiças. Para Buolamwini, a pausa das Big Techs no desenvolvimento dessa tecnologia não é suficiente: ela está consolidando um movimento para expor as consequências sociais da inteligência artificial.

Por meio de sua organização sem fins lucrativos, a Algorithmic Justice League (AJL), Buolamwini testemunhou perante congressistas dos EUA sobre os perigos do uso de tecnologias de reconhecimento facial sem supervisão.
A ativista digital viveu o problema. Como estudante de graduação na Georgia Tech, ela teve que “pegar emprestado” o rosto de sua colega de quarto para usar em uma tarefa. Na época, a pesquisadora achava que as empresas de tecnologia logo resolveriam o problema. No MIT, percebeu que nem sabiam que o problema existia. Joy decidiu investigar o viés algorítmico quando se viu vestindo uma “máscara branca” para acessar o Media Lab do MIT – sem esse recurso, que escondia totalmente suas feições, o computador não a reconhecia.

Com seus estudos, afirma a reportagem, Buolamwini ajudou a fundar um novo campo de pesquisa acadêmica, que comprova o racismo nos algoritmos. Agora, a AJL, que antes funcionava como uma espécie de coalizão informal de pesquisadores e ativistas digitais, está lançando o Algorithmic Vulnerability Bounty Project, um conjunto de ferramentas que ajudará as pessoas a relatar preconceitos e danos causados pela IA, inspirado nos tipos de programas de recompensa usados para encontrar falhas de segurança na programação.

Compartilhar:

Artigos relacionados

Há um fio entre Ada Lovelace e o CESAR

Fora do tempo e do espaço, talvez fosse improvável imaginar qualquer linha que me ligasse a Ada Lovelace. Mais improvável ainda seria incluir, nesse mesmo

Tecnologia e inovação, Empreendedorismo
6 min de leitura
Inovação
Cinco etapas, passo a passo, ajudam você a conseguir o capital para levar seu sonho adiante

Eline Casasola

4 min de leitura
Transformação Digital, Inteligência artificial e gestão
Foco no resultado na era da IA: agilidade como alavanca para a estratégia do negócio acelerada pelo uso da inteligência artificial.
12 min de leitura
Negociação
Em tempos de transformação acelerada, onde cenários mudam mais rápido do que as estratégias conseguem acompanhar, a negociação se tornou muito mais do que uma habilidade tática. Negociar, hoje, é um ato de consciência.

Angelina Bejgrowicz

6 min de leitura
Inclusão
Imagine estar ao lado de fora de uma casa com dezenas de portas, mas todas trancadas. Você tem as chaves certas — seu talento, sua formação, sua vontade de crescer — mas do outro lado, ninguém gira a maçaneta. É assim que muitas pessoas com deficiência se sentem ao tentar acessar o mercado de trabalho.

Carolina Ignarra

4 min de leitura
Saúde Mental
Desenvolver lideranças e ter ferramentas de suporte são dois dos melhores para caminhos para as empresas lidarem com o desafio que, agora, é também uma obrigação legal

Natalia Ubilla

4 min min de leitura
Carreira, Cultura organizacional, Gestão de pessoas
Cris Sabbag, COO da Talento Sênior, e Marcos Inocêncio, então vice-presidente da epharma, discutem o modelo de contratação “talent as a service”, que permite às empresas aproveitar as habilidades de gestores experientes

Coluna Talento Sênior

4 min de leitura
Uncategorized, Inteligência Artificial

Coluna GEP

5 min de leitura
Cobertura de evento
Cobertura HSM Management do “evento de eventos” mostra como o tempo de conexão pode ser mais bem investido para alavancar o aprendizado

Redação HSM Management

2 min de leitura