A luta decisiva contra o reconhecimento facial

Embora invisível na mídia, cresce em todo o mundo a resistência a tecnologias que ameaçam ampliar o controle e a discriminação entre as sociedades — com claro viés racista. Já há vitórias. É sintomático que pouco se fale a respeito

Por Malkia Devich-Cyril

Texto publicado originalmente no site Outras Palavras


O reconhecimento facial já é grave nas mãos da polícia, mas sua ameaça e sua capacidade de difundir lógicas racistas vão muito além. Este tipo de tecnologia tem sido utilizado em escolas e aeroportos, e nos dispositivos que usamos em nosso cotidiano. Em janeiro de 2020, o Distrito Escolar de Lockport City, no Estado de Nova York (EUA), tornou-se um dos primeiros daquele país em adotar a tecnologia de reconhecimento facial nas instalações da escola. Em 2017, o presidente Donald Trump assinou uma ordem executiva para instaurar o uso da biometria de reconhecimento facial no aeroporto para todos os viajantes internacionais. Enquanto isso, empresas como o Facebook e a Apple integraram o reconhecimento facial em suas plataformas e dispositivos para permitir que os usuários desbloqueiem telefones e marquem fotos. A questão é que o reconhecimento facial é generalizado, e muitos desses dados são extraídos por um sistema policial sem limites, que é violento e racista.


Faz tempo que os rostos negros são considerados uma ameaça também pela polícia norte-americana. É desconfortável, e até distópico, pensar que quando eu sair de casa para exercer meu direito constitucional de protestar, vou ao encontro de um sistema que parece determinado a acabar com minha vida. Meu rosto preto pode ser identificado, verificado e rastreado sem meu consentimento ou conhecimento. Embora os anúncios da IBM, Amazon e Microsoft tenham gerado forte pressão e respondido ostensivamente ao crescente movimento liderado pelos negros contra a violência policial, ainda há motivos para se preocupar seriamente.


Inclusive o Facebook, a Nike, o McDonald’s e a Coca-Cola, marcas que enfrentaram acusações de racismo fazem, agora, todo tipo de compromissos públicos em nome da luta pela vida dos negros. Embora os protestos pelos direitos civis dos negros não sejam uma marca que possa ser comprada nem um modismo destinado a desaparecer com o tempo, não é raro que empresas privadas se aproveitem desses momentos de conscientização em massa a seu favor. A indústria de reconhecimento facial não escapa a essa lógica.


Poucos dias antes de a Microsoft fazer seu anúncio aparentemente magnânimo de que deixaria de vender uma tecnologia que nunca vendeu para os departamentos de polícia locais dos EUA, mais de 250 funcionários da empresa divulgaram uma comovente carta sobre suas experiências pessoais com a violência policial, pedindo que se cortassem os laços com esses departamentos — laços que se estendem para muito além do mercado de reconhecimento facial. A Microsoft assegura que não permitirá que sua tecnologia de reconhecimento facial seja usada de forma a por em risco os direitos fundamentais dos cidadãos. Mas, há mais de uma década, a mesma Microsoft estabeleceu uma parceria com o Departamento de Polícia de Nova York (NYPD, na sigla em inglês) para criar o Domain Awareness System (DAS, na sigla em inglês; e “Sistema de Reconhecimento de Domínio”, em português), espinha dorsal do sistema de aparelhos de vigilância de uma cidade cujos oficiais são mais de cinco vezes mais propensos a matar nova-iorquinos negros do que brancos. Num movimento alarmante em resposta aos ativistas negros que querem desfinanciar a polícia, a Microsoft chegou a propor o DAS como uma alternativa aos altos salários dos policiais.


Enquanto isso, por e-mail, a Microsoft pediu ao popular artista negro Shantell Martin que fizesse um mural do Black Lives Matter em Manhattan “enquanto os protestos ainda são relevantes”. Claramente ciente do momento, no auge dos protestos em junho, a empresa também publicou poderosas citações no Twitter sobre o impacto do racismo sistêmico em seus funcionários negros — que, a propósito, constituem apenas 4,4% da força de trabalho global da Microsoft, incluindo trabalhadores de varejo e armazéns, e menos de 3% de seus executivos, diretores e gerentes nos EUA, de acordo com o relatório de diversidade e inclusão de 2019 da empresa. A dissonância entre as ações e os valores declarados pela empresa não pode ser ignorada.


A Amazon também tem o mesmo conflito entre sua retórica e suas ações. A empresa passou os últimos dois anos comercializando agressivamente o Rekognition, seu sistema de reconhecimento facial, para centenas de departamentos de polícia e agências federais dos EUA, atualizando-o até com o novo parâmetro de “detecção de medo”. A Amazon também comercializou fortemente um produto de campainha “inteligente” chamado Ring, que grava imagens de vídeo de pessoas que chegam à sua porta, às quais a polícia pode ter acesso. No ano passado, a Amazon alegou ter feito parceria com mais de 200 agências policiais norte-americanas para compartilhar os locais das câmeras Ring instaladas e promover o Ring em suas comunidades locais


Especialistas em privacidade da Electronic Frontier Foundation expuseram a preocupação de que a tecnologia se tornasse simplesmente um “mecanismo digital de alta velocidade pelo qual as pessoas pudessem fazer julgamentos rápidos sobre quem pertence ou não ao seu bairro e convocar a polícia para enfrentá-los.” À medida em que os protestos contra a violência policial aumentavam, a Amazon expandia fortemente as parcerias entre Ring e a polícia.


Desde que ocorreu o assassinato de George Floyd, o Prime Video da Amazon está passando filmes sobre a questão negra. A Amazon também anunciou que doará 10 milhões de dólares a organizações que apoiem a justiça e a equidade; a empresa declarou “solidariedade com nossos funcionários, clientes e parceiros negros” e que está “comprometida em ajudar a construir um país e um mundo onde todos possam viver com dignidade e livres do medo”. Menos de duas semanas depois, a Amazon está sendo duramente criticada por anunciar uma comemoração da décima terceira “Festa do frango e dos waffles” para seus trabalhadores, num armazém de Chicago. Cinco anos atrás, 27% da força de trabalho da Amazon nos EUA era composta por negros, mas a grande maioria, 85%, de seus trabalhadores negros possuía empregos não qualificados e com baixos salários. No ano passado, os números de diversidade para os funcionários negros da Amazon não mudaram muito: apenas 8% dos gerentes da empresa eram negros em dezembro de 2019, de acordo com os dados que eles mesmos forneceram.


Embora a Amazon e a Microsoft tenham anunciado que não venderão mais produtos e serviços de reconhecimento facial para as autoridades locais, as empresas não indicaram que não venderiam esses perigosos produtos para o governo federal ou, no exterior, para clientes internacionais. Exceto pela IBM, que disse que está abandonando seus serviços de reconhecimento facial para sempre, nenhuma outra empresa se comprometeu com uma moratória ou proibição da venda de sua tecnologia de reconhecimento facial a órgãos federais de aplicação da lei, como a Alfândega e Proteção de Fronteiras dos EUA, a Imigração e o Drug Enforcement Administration (DEA), entre outros.


De fato, embora atualmente a Microsoft não tenha nenhum contrato de reconhecimento facial com órgãos policiais, de acordo com a American Civil Liberties Union, e-mails publicados recentemente indicam que, em 2017, a corporação apresentou insistentemente sua tecnologia de reconhecimento facial ao DEA: órgão policial responsável pela “guerra às drogas”, que expandiu significativamente a vigilância policial e encheu as prisões de corpos negros, latinos e indígenas, gerando uma profunda desigualdade, como resultado. Quando o presidente da Microsoft, Brad Smith, foi diretamente questionado se a empresa venderia tecnologia de reconhecimento facial para as autoridades federais, ele contornou a questão, respondendo que não deixariam a tecnologia ser usada em cenários que levassem a preconceitos contra mulheres e pessoas de cor.


O presidente Trump retweetou a publicação do ex-diretor interino de Inteligência Nacional Richard Grenell no dia 12 de junho, onde dizia que a Microsoft deveria ser proibida de assinar contratos federais, em resposta ao anúncio da empresa de que não venderia tecnologia de reconhecimento facial à polícia. Parece evidente que o governo federal pretende expandir seu uso do reconhecimento facial.


Os gigantes por trás dessas tecnologias parecem estar em grande conflito. O Google favoreceu uma moratória na tecnologia de reconhecimento facial em janeiro, quando anunciou que não venderia sua tecnologia sem antes “resolver importantes questões políticas e de tecnologia”. No entanto, mesmo assim o Google foi duramente reprovado quando a mídia relatou que intermediários enviados pela empresa a várias cidades dos EUA, haviam coagido moradores de rua negros a permitir que seus rostos fossem digitalizados — numa tentativa equivocada de melhorar a precisão de sua tecnologia


E depois, ainda tem a IBM. Sair do mercado de reconhecimento facial não significa necessariamente estar cortando laços com a aplicação da lei. A IBM continuará a vender ferramentas de policiamento preditivo de inteligência artificial, apesar de evidências esmagadoras de que previsões de ameaças ou crimes com base em dados históricos, exacerbam os preconceitos raciais existentes. Tudo isso parece contradizer diretamente o anúncio de Krishna, que afirmou que a empresa se opõe ao uso de “qualquer tecnologia, incluindo a tecnologia de reconhecimento facial oferecida por outros fornecedores, para vigilância em massa, criação racista de perfis, violações dos direitos humanos e liberdades básicas ou qualquer propósito que não seja consistente com nossos valores.”


Para piorar essas contradições, Amazon, Microsoft e Google continuam seus esforços para garantir uma regulamentação federal que ofereça um mercado estável e lucrativo, no qual a tecnologia de reconhecimento facial é, de fato, usada pela polícia, em oposição direta ao movimento que estas empresas afirmam apoiar. O CEO da Amazon, Jeff Bezos, anunciou em 2019 que a equipe de políticas públicas da Amazon estava escrevendo suas próprias leis de reconhecimento facial para apresentar aos formuladores de políticas governamentais; também, um funcionário da Microsoft escreveu uma lei recentemente aprovada no Estado de Washington, que não faz quase nada para limitar ou proibir o governo de usar de reconhecimento facial.


IBM, Amazon e Microsoft são todas empresas-membros do Integrated Justice Information Systems Institute, que recentemente se uniu à Associação Internacional de Chefes de Polícia para divulgar um catálogo que detalha como as forças policiais podem usar o reconhecimento facial. Pelo menos meia dúzia de empresas já se posicionaram para fazer lobby contra a proibição do reconhecimento facial. As empresas de reconhecimento facial parecem não ter intenção de sair do jogo nem de perder nenhum dólar para uma regulamentação desfavorável.


Pelas comunidades negras e por todos os que já sofreram brutalidade geracional nas mãos da polícia, nosso futuro relacionamento com o policiamento não pode ser comandado pela indústria privada. Um movimento de protesto visionário e inclusivo para desmontar a tecnologia de reconhecimento facial já está lutando para garantir que não seja. Grupos como a Electronic Frontier Foundation, Fight for the Future, Color of Change, MediaJustice e Mijente, entre muitos outros, pediram a proibição total da tecnologia de reconhecimento facial para a aplicação da lei, em todos os níveis de governo.


Os legisladores acataram o apelo à ação. Nos últimos 12 a 18 meses, pelo menos nove cidades dos EUA proibiram o reconhecimento facial, incluindo Oakland, São Francisco, Berkeley e sete cidades de Massachusetts, entre elas Somerville, Brookline, Easthampton, Boston, Springfield, Cambridge e Northampton. Oregon e New Hampshire proibiram a tecnologia de reconhecimento facial em câmeras corporativas da polícia e a moratória de três anos da Califórnia entrou em vigor em janeiro de 2020. Estados como Nova York e Massachusetts também estão considerando uma legislação que proíba a tecnologia de reconhecimento facial em conexão com câmeras oficiais, imponha moratória a todos os usos da lei e decrete moratórias mais amplas a todo uso governamental de reconhecimento facial, a fim de abranger outras agências e autoridades estatais.


Nos EUA, legisladores do Partido Democrata propuseram recentemente uma moratória ao uso de reconhecimento facial por agências federais, bem como às tecnologias de reconhecimento de voz e de deslocamento, com restrições rígidas, que irão reter verbas federais dos governos estaduais e locais até serem aprovadas. Embora as moratórias perenes do governo não sejam tão restritivas ou eficazes quanto uma proibição definitiva, elas são muito mais úteis do que as moratórias corporativas de curto prazo e continuam sendo uma maneira útil de restringir o uso da tecnologia de reconhecimento facial pela aplicação da lei, no caminho para sua abolição. Agora, tudo o que as empresas de reconhecimento facial precisam fazer é sair do caminho.


Recentemente, em Detroit, uma cidade reconhecida pela atenta organização liderada pela sua comunidade, uma caravana de cerca de 40 carros circulou pelas casas dos membros do Conselho da Cidade, exigindo que votassem contra uma extensão de contrato de 219 mil dólares para um fornecedor de software de reconhecimento facial. O Departamento de Polícia de Detroit combina imagens tiradas de várias fontes, incluindo o Projeto Green Light — que instala câmeras de alta definição pagas por empresas locais — com seu software de reconhecimento facial para identificar suspeitos de crimes violentos. Pressionar os legisladores locais para votar contra contratos específicos de reconhecimento facial é outra maneira de desfinanciar a vigilância de face no nível das cidades.


A nível federal, este ano fiscal, o Departamento de Segurança Interna dos EUA disponibilizou cerca de 1,8 bilhão de dólares para as comunidades locais, por meio de seu programa de doações para o fundo de preparação contra desastres, mas, para receber alguns desses subsídios, as localidades devem concordar em alocar pelo menos 25% para a polícia. E ainda tem o Programa 1033 do Departamento de Defesa, que militariza a polícia civil, fornecendo equipamentos militares excedentes para as agências policiais. Outras fontes de financiamento adicionais para a tecnologia de reconhecimento facial são os orçamentos de programas federais, como da Alfândega e Proteção de Fronteiras dos EUA, da Administração da Segurança de Transporte, e do Serviço Secreto.


Há, também, os patrocinadores corporativos dos departamentos de polícia. Algumas empresas norte americanas estão fazendo parcerias com fundações policiais, doando milhões para departamentos policiais locais investirem em redes de vigilância, software e equipamentos. Amazon, Motorola, Verizon, Facebook, Google e AT&T são alguns dos principais apoiadores corporativos dessas fundações.


Joy Buolamwini, co-fundador da Liga da Justiça Algorítmica, disse em depoimento ao Congresso: “Essas ferramentas são poderosas demais, e o potencial de ter graves deficiências, incluindo preconceitos demográficos e fenotípicos extremos, é nítido. Não podemos permitir que as agências governamentais adotem essas ferramentas e comecem a tomar decisões com base em seus resultados hoje, e deixem para resolver como controlar os abusos só lá na frente”


A supremacia branca define como a sociedade é estruturada e como as novas tecnologias são usadas. Ela se move no ritmo do capital. O policiamento americano, durante séculos, defendeu as leis e a ordem da supremacia branca às custas brutais da vida dos negros. Enquanto ativistas inovam em estratégias para desfinanciar o policiamento e investir nas comunidades, não devemos abrir as portas para um estado de segurança expansivo e irresponsável, com olhos automatizados, treinados para ir atrás de dissidentes negros e pardos. O fim do sistema de policiamento dos EUA como o conhecemos deve ser associado a estratégias para proibir o reconhecimento facial e outras tecnologias de vigilância do século XXI que capacitam esse sistema.


A violência do policiamento estadunidense mata 1000 pessoas por ano, fere muitos gravemente e imprime às gerações de negros e pardos um rito de passagem brutal. Numa era em que os interesses policiais e privados se tornaram extraordinariamente poderosos — e onde esses interesses também se entrelaçaram com a infraestrutura — moratórias de curto prazo, reformas fragmentadas e melhorias técnicas no software não defenderão vidas negras nem protegerão os direitos humanos.


No meu conceito de nação que investe na vida e dignidade dos negros, o reconhecimento facial e outras formas de policiamento biométrico não precisam de mais supervisão, nem de reformas ou aprimoramentos. O reconhecimento facial, bem como o policiamento americano — da forma como o conhecemos — devem desaparecer.



MAIS:

A primeira parte deste texto pode ser lida aqui



9 visualizações

© 2020 - Observatório Da Crise / Fundação Lauro Campos e Marielle Franco

Alameda Barão de Limeira, 1400, Campos Elíseos, São Paulo (SP)