Não precisa sorrir: Você será filmado de qualquer jeito

Vários sistemas em desenvolvimento planejam usar o reconhecimento facial na área de saúde.
[Imagem: Projeto Semeoticons/Divulgação]

Você está sendo filmado

Avança rapidamente no Brasil o uso de uma tecnologia que é alvo de polêmicas em todo o mundo: o reconhecimento facial.

A tecnologia é criticada mesmo quando é usada de forma voluntária e privada pelos usuários - o reconhecimento facial para uso do telefone celular, por exemplo - porque as informações podem ser compartilhadas na rede e usadas por empresas interessadas em anúncios, por exemplo.

No Brasil, contudo, o uso da tecnologia de reconhecimento facial avança em larga escala e em ambientes públicos, onde o usuário não pode escolher se seu rosto é identificado e gravado ou não.

Identificação forçada

O Serviço de Proteção ao Crédito (SPC), por exemplo, anunciou a oferta de uma tecnologia de reconhecimento facial para comerciantes. Os lojistas poderão instalar o sistema, que irá registrar traços faciais e validar a identidade de cada comprador. Os dados serão armazenados no banco de dados do SPC, junto com outras informações sobre a pessoa.

Em abril deste ano, a empresa responsável pela concessão da linha 4 do metrô da cidade de São Paulo, a Via Quatro, instalou no transporte público um sistema que detecta as reações de quem visualiza anúncios em telões nas estações e nos vagões.

O objetivo, segundo a empresa, é a obtenção de respostas para direcionar melhor as mensagens veiculadas nos painéis, embora afirme que seu sistema trabalhe com detecção facial, e não reconhecimento facial. O primeiro mapeia reações a partir da leitura das imagens de rostos, enquanto o segundo identifica se a câmera está filmando determinada pessoa. A empresa acrescenta que seu sistema não armazena as imagens.

Violação de privacidade

Na avaliação do coordenador da área de direitos digitais do Instituto de Defesa do Consumidor (Idec), Rafael Zanatta, os dois exemplos brasileiros violam a legislação.

No caso da Via Quatro, as ferramentas de detecção facial violam o Código de Defesa do Consumidor pelo fato de o sistema instituir uma prática abusiva e impor o monitoramento à pessoa, que não tem compreensão sobre como esta coleta de dados é feita. Elas também ferem o Código de Usuários de Serviços Públicos ao promover uma espécie de "pesquisa de opinião forçada" sem relação com o serviço prestado, o transporte público.

No caso da iniciativa do Serviço de Proteção ao Crédito (SPC), acrescenta Zanatta, também há ilegalidade. "Há coleta da informação sensível, há uma atribuição de um ID único coletado sem consentimento, de forma abusiva, sem transparência. O Supremo Tribunal Federal diz que coleta de imagem sem consentimento só pode ocorrer quando não tem finalidade lucrativa, ou a pessoa não é o elemento central da coleta de imagem e, neste caso, é uso de imagem de pessoas para fim comercial", analisa.

Especialistas afirmam que há poucas evidências de que câmeras de segurança realmente protejam a população.
[Imagem: Wikimedia/Quevaal]

Microsoft e Facebook

Na semana passada, o presidente da Microsoft, Brad Smith, divulgou comunicado em que defendeu a regulação pública do tema e medidas de responsabilidade por parte das empresas. Segundo ele, a evolução dessa tecnologia e a adoção em larga escala por empresas e governo acendem um sinal de alerta: "As tecnologias de reconhecimento facial levantam questões que vão no coração da proteção de direitos humanos fundamentais como privacidade e liberdade de expressão."

Essas ferramentas poderiam ser usadas, por exemplo, para monitorar adversários políticos em um protesto. Em razão desses riscos, o executivo defendeu que o governo inicie um processo de regulação apoiado por uma comissão de especialistas no tema.

O discurso é politicamente correto, mas vem relacionado a uma preocupação com a imagem da empresa. A Microsoft foi questionada no início do ano por um suposto contrato com o Serviço de Imigração dos EUA para monitoramento de pessoas entrando ilegalmente no país. A companhia desmentiu, afirmando que mantém um contrato, mas com sistemas para mensagens e gestão de outras atividades.

A organização sem fins lucrativos Eletronic Frontier Foundation (EFF) publicou relatório em fevereiro deste ano em que aponta a adoção crescente dessas ferramentas, especialmente pelo Estado, por alegadas razões de segurança. Analisando o caso dos EUA, a organização aponta riscos à privacidade dos cidadãos.

"Sem limites em questão, poderia ser relativamente fácil para o governo e companhias privadas construir bases de dados de imagens da vasta maioria das pessoas e usar essas bases de dados para identificar e rastrear pessoas em tempo real a medida que elas se movem de lugar a lugar em seu cotidiano", disse a entidade no documento.

Outro alvo tanto de preocupação quanto de questionamentos judiciais é o Facebook. A plataforma começou a adotar o reconhecimento facial no ano passado. Diferentemente da ferramenta de marcação de pessoas em fotos, o novo recurso passou a identificar o usuário em qualquer imagem e a alertá-lo quando uma foto sua for publicada ou compartilhada.

Contudo, a iniciativa foi questionada tanto publicamente quanto na Justiça em diferentes locais. A organização de promoção da privacidade estadunidense EPIC apresentou em abril uma reclamação junto ao órgão de concorrência dos EUA (FTC, na sigla em inglês). Segundo a entidade, "o escaneamento de imagens faciais sem consentimento afirmativo e expresso é ilegal e deve ser proibido". O Facebook também é objeto de outro processo, ajuizado por cidadãos do estado de Illinois, que pode resultar em multas de bilhões de dólares.

A ferramenta do Facebook passou a ser questionada também na Europa, que ganhou uma nova legislação de proteção de dados em maio deste ano. A Regulação Geral (GDPR, na sigla em inglês) coloca como requisito para a coleta de um dado o consentimento, que deve ser obtido de formas específicas não respeitadas pelo sistema da plataforma.

Discriminação digital

Outra preocupação com os sistemas de reconhecimento e detecção facial envolve as falhas na identificação de pessoas, especialmente na precisão diferente para distintos grupos étnicos e raciais.

Em fevereiro deste ano, dois pesquisadores do MIT (Instituto de Tecnologia de Massachussets) e da Universidade de Stanford, Joy Buolamwini e Timnit Gebru, testaram sistemas e constaram que as margens de erro são bastante diferentes de acordo com a cor da pele da pessoa: 0,8% no caso de homens brancos e de 20% a 34% no caso de mulheres negras.

Os pesquisadores também identificaram que as bases de dados utilizadas para "treinar" determinados sistemas são majoritariamente de cor branca e de homens. O artigo coloca a preocupação de como essas tecnologias são construídas e de que maneira esses vieses podem ter impactos problemáticos, como na identificação de suspeitos de crimes.

• Inteligência artificial mostra preconceitos: veja 5 exemplos