Pablo Nunes alerta para os perigos do uso massivo de sistemas de reconhecimento facial, no Brasil
Em geral, as produções literárias e cinematográficas ambientadas num futuro distante, tais como: Eu, Robô, Blade Runner, Minority Report, Elysium e Gataca; são marcadas por contradições. Afinal, os carros voadores, as viagens intergalácticas e o teletransporte convivem com mazelas seculares como a fome, a falta de moradia e o racismo. Fazendo uma ponte entre a ficção e a realidade, o que temos visto nos últimos 10 anos é que para a comunidade negra, este futuro distópico já é parte integrante de seu cotidiano.
Tanto isso é verdade que o uso da Tecnologia da Informação para reforçar o racismo institucional tem sido denunciado por uma série de produções acadêmicas, aqui e no exterior. O cientista político Pablo Nunes, coordenador adjunto do Centro de Estudos de Segurança e Cidadania (CESeC), no Rio de Janeiro, é um dos que vêm se destacando neste campo. E sua principal linha de pesquisa é sobre a utilização de mecanismos de reconhecimento facial na política de combate à criminalidade.
Para ele, o que vemos, na prática, é a repetição de teorias fundamentadas em pseudociências, como o Lombrosianismo, ou a modernização dos surrados álbuns de fotos que são encontrados em delegacias. “Os erros recorrentes de reconhecimento levaram diversos países a abandonar esse sistema. Por outro lado, no Brasil ele ainda é apresentado como uma ferramenta eficaz de combate ao crime”, diz.
Os números, no entanto, mostram os riscos de colocar nas mãos de um algoritmo a decisão de prender ou não uma pessoa. “Está evidente que estes sistemas são construídos a partir de um viés racista, onde o protótipo do cidadão é o branco.” Segundo Pablo, a busca por uma solução rápida e fácil para reduzir a criminalidade, acabou gerando uma certa apatia da sociedade brasileira. Inclusive em sua porção progressista. “Muitos acreditam que por ser teoricamente neutro, o algoritmo pode tomar decisões melhores que o policial que, historicamente, parte de um visão racista”.
Apesar dos problemas, Pablo começa a enxergar alguns sinais de que esta questão poderá ganhar mais espaço na agenda social e política. A expectativa tem por base os movimentos de ativistas nos Estados Unidos e na Europa, colocando em xeque os mecanismos usados por gigantes da tecnologia. “Vejo um futuro promissor para o crescimento deste debate, também no Brasil.”
Para saber mais sobre racismo algoritmo: https://piaui.folha.uol.com.br/o-algoritmo-e-racismo-nosso-de-cada-dia/
