IBM desiste dos negócios de reconhecimento facial

A tecnologia de reconhecimento facial é falha, discriminando fortemente as pessoas negras e pardas.
[Imagem: CC0 Public Domain/Pixabay]

Tecnologia falha

A gigante do software IBM anunciou que está retirando do mercado programas de reconhecimento facial, e pediu um "diálogo nacional" sobre o uso da tecnologia pelas agências de aplicação da lei.

A medida, que ocorre em meio a protestos globais contra o racismo e a brutalidade policial, é uma mudança acentuada na abordagem da empresa para enfrentar o reconhecimento facial - em novembro de 2019, a IBM afirmou que "as proibições gerais de tecnologia não são a resposta para as preocupações relacionadas a casos de uso específicos".

Ocorre que as falhas na tecnologia de reconhecimento de rosto estão bem documentadas. Um estudo de 2018, realizado por pesquisadores do MIT e da Microsoft, descobriu que mulheres de pele escura são identificadas erroneamente por esses sistemas em 35% das vezes.

"Os sistemas de reconhecimento facial têm preconceitos embutidos porque são treinados principalmente em bibliotecas de rostos brancos," disse o professor Alison Powell, especialista em ética de dados no Instituto Ada Lovelace (Reino Unido). "Eles não reconhecem bem os rostos pretos e pardos."

Mas não é só isso, e a solução não é treinar o sistema em um conjunto de dados mais diversificado, diz Powell: "Eles aumentam a vigilância em pessoas negras e pardas."

Preconceito do reconhecimento facial

A decisão da IBM, apresentada em uma carta do presidente da empresa, Arvind Krishna, a membros do Congresso dos EUA, foi relatada por alguns veículos como o fim de todos os seus negócios de reconhecimento facial, mas isso pode não ser o caso, porque a empresa vai continuar vendendo programas mais específicos.

Quaisquer que sejam os detalhes e o comportamento futuro da empresa, contudo, o anúncio pode ter um impacto mais amplo no uso do reconhecimento facial, avaliou Frederike Kaltheune, especialista em política de tecnologia da Fundação Mozilla.

No início deste ano, a versão inicial de uma legislação sugeriu que a União Europeia estaria considerando uma proibição de cinco anos da tecnologia, embora a versão final publicada tenha removido essa proposta. "Se uma empresa como a IBM acha que o reconhecimento facial é muito problemático para eles, isso deve colocar a ideia de uma moratória de volta à agenda política na Europa," diz Kaltheuner.

Várias cidades dos EUA, incluindo San Francisco, Seattle e Oakland, já proibiram o uso de reconhecimento facial pela polícia, e um projeto de lei de reforma da polícia apresentado pelos democratas dos EUA propõe proibir o uso da tecnologia em imagens feitas por câmeras usadas no corpo, como algumas forças policiais já fazem.

E também se espera que todo esse movimento pressione empresas como a Amazon, que fornece às forças policiais dos EUA serviços de reconhecimento facial, que terão que repensar sua abordagem. Em 2018, a União Americana das Liberdades Civis demonstrou que o software da Amazon identificou incorretamente 28 rostos em canecas de policiais como membros do Congresso, com as falsas correspondências sendo desproporcionalmente pessoas de cor.

"O reconhecimento facial sofreu um impacto no último ano do ponto de vista das liberdades civis, violando a privacidade e os altos riscos de discriminação racial e de gênero," disse Nikita Aggarwal, no Instituto Oxford para a Internet (Reino Unido). "Isso pode significar que os sistemas não são mais viáveis comercialmente."

• Inteligência artificial mostra preconceitos: veja 5 exemplos