MAIARA ELLEN da Mangue Jornalismo (@maiara.ellen)
“Sorria, você está sendo vigiado”, nas festas, nos estádios de futebol e nas escolas. O governo do estado de Sergipe e a prefeitura de Aracaju implementaram uma política de segurança audaciosa, introduzindo as chamadas câmeras inteligentes em diversos espaços públicos.
Sob a justificativa de combater a criminalidade e garantir uma maior segurança, essas tecnologias prometem identificar suspeitos de cometerem crimes através do reconhecimento facial ou monitorar quem entra ou sai de instituições de ensino, por exemplo.
O reconhecimento facial é uma forma de identificar ou confirmar a identidade de uma pessoa usando seu rosto. Os sistemas de reconhecimento facial podem ser usados para identificar pessoas em fotos, vídeos ou em tempo real.
Essa tecnologia é uma categoria de segurança biométrica. Outras formas de software biométrico incluem reconhecimento de voz, impressão digital, retina ocular ou íris. Na maioria das vezes, a tecnologia é usada para segurança e aplicação da lei, embora haja um interesse crescente em outras áreas de uso.
De acordo com Arthur Almeida Menesês Barbosa, Advogado, Co-fundador e Consultor do Aqualtune Lab, coletivo jurídico de pessoas negras, com suporte multidisciplinar, criado em 2020 para debater as questões de direito, tecnologias e antirracismo, o reconhecimento facial não tem a ver com o seu rosto, mas sim com como sua identidade digital pode ser usada para determinar seus direitos.
“Descubra quanta informação pode ser extraída de uma simples selfie e quais outros tipos de dados biométricos você pode estar fornecendo. Com cada selfie que você tira e carrega, você cria automaticamente um conjunto de dados sobre as características do seu rosto. Juntos, esses pontos se transformam em um conjunto único de características chamado impressão facial”, explica Barbosa.
O sistema de reconhecimento facial só reconhece e acusa peles negras?
“Uma impressão facial pode ser usada para identificá-lo, mas será que ela realmente representa você?” .O questionamento de Arthur se revela nas ocorrências de erros graves que apresentam indícios de um mecanismo que reproduz racismo e apresenta fragilidades.
O erro mais recente com grande repercussão, inclusive nacional, aconteceu no último dia treze de abril, durante a final do campeonato sergipano. O personal trainer João Antônio Trindade Bastos, de 23 anos, foi abordado de maneira constrangedora no estádio Batistão após falha no sistema de reconhecimento facial.
Em seu perfil no X (antigo twitter), Bastos, torcedor do Confiança, detalhou como foi a abordagem dos policiais militares. Ele relatou que foi conduzido até uma sala onde foi revistado e interrogado várias vezes.
“Deu o intervalo do jogo e eu me sentei para mexer no celular. Cinco minutos depois, cinco policiais vieram, e eu dei passagem para um lado. Eles vieram em minha direção mais ainda, até que o primeiro pegou no meu braço e disse para eu não reagir, me ‘convidando’ a acompanhá-los com as mãos para trás, como mostra o vídeo. Fiquei altamente constrangido, tentando esconder o meu rosto. Não sabia o que fazer, pois a torcida inteira do Confiança estava me olhando”, narrou Bastos.
Não se sabe ao certo o porquê dos policiais não confirmarem a identidade do personal trainer antes de fazê-lo passar por tal constrangimento ou qual procedimento eles são orientados a seguir. Mas após a ação, Bastos relatou outro momento de humilhação que prosseguiu no trajeto até a sala onde ele seria interrogado.
Enquanto estava sendo conduzido pelos policiais, um deles pisou em sua sandália. Quando Bastos tentou se abaixar para recuperar o calçado, ele teve o seu punho segurado com força por um dos policiais, que o orientou a evitar movimentos bruscos. Após esse episódio, o personal trainer foi levado pelos policiais com um dos pés descalços até a sala onde foi interrogado.
Poucos dias após o ocorrido, Bastos decidiu compartilhar um vídeo em seu instagram. Nele, além de expressar gratidão pelo apoio que tem recebido de sua família e amigos, ele também relatou o processo traumático que foram os dias seguintes após a abordagem.
“Eu vejo uma viatura e já fico com medo, um receio de ser confundido de novo. Ouço uma sirene até mesmo de ambulância e já me vem uma angústia de que ali eu posso ser um alvo mesmo não tendo feito nada”, lamentou Bastos.
O personal trainer reforça que não acusa ninguém especificamente de racismo, mas o sistema a qual está inserido. “Eu nunca tinha sofrido preconceito racial explicitamente, pelo menos não que eu tenha percebido, mas agora que eu sofri e senti na pele, eu sei o que pessoas que têm mais melanina do que eu passam diariamente’, conclui o personal trainer.
Este não foi a primeiro erro gritante cometido pelo reconhecimento facial em Sergipe, 4 meses antes, no final da tarde do dia 4 de novembro de 2023, a auxiliar administrativa Taislaine Santos, de 31 anos, foi identificada pelas câmeras como foragida da Justiça durante a festa do Pré-Caju, realizada na Orla de Atalaia.
“Quando estava acompanhando o circuito do triunfo, três homens me pararam, já chegaram me abordando, perguntando o meu nome, meu RG, meu CPF e pedindo para que eu me afastasse um pouco da população”, recorda a auxiliar administrativa.
Os homens a quem Taislane se refere eram policiais civis à paisana, ela conta que obedeceu os comandos e posteriormente eles revelaram que ela havia sido identificada através do reconhecimento facial como foragida da justiça.
“No momento eu fiquei nervosa porque não imaginava que poderia ser confundida com alguém que estava devendo algo. Aí os policiais pediram para que eu me acalmasse, que era um procedimento de segurança. Eles pediram meu nome, então informei, eu estava sem meu RG no momento, mas sabia de cor”.
Taislane conta que os policiais verificaram o sistema e constataram que ela não era a pessoa que eles estavam procurando. Mas esse foi apenas o primeiro erro, poucas horas depois a auxiliar administrativa foi abordada novamente por policiais militares fardados.
“Quando eu já estava acompanhando o trio da cantora Ivete, passei pelo lado de uma viatura da Polícia Militar, onde se encontravam policiais agrupados. Nesse momento, fui surpreendida com três policiais que já chegaram descendo da caminhonete, pulando em cima de mim, na minha frente, me cercando.”
De acordo com Taislane, os policiais já chegaram afirmando que ela sabia o que havia feito. “Eles colocaram minhas mãos para trás no momento, fiquei muito nervosa e acabei urinando nas calças… Quando me dei conta, eu estava sendo conduzida a subir dentro da caminhonete da polícia e ali eu fui metade do percurso chorando e pedindo ajuda às pessoas que passavam.”
Vieses Racistas: Um Algoritmo Discriminatório?
Em ambos os casos as vítimas do erro no reconhecimento facial são pessoas negras. Os relatos mencionados expõem as falhas no sistema, destacando um viés problemático embutido em sua operação. Para a advogada criminalista e mestra em Direitos Humanos com linha de pesquisa sobre as perspectivas do reconhecimento facial pela Universidade de Tiradentes, Stephanny Resende de Melo, esses incidentes não são isolados.
Em seus estudos, Sthephanny tem destacado a necessidade de investigar o desenvolvimento dessa tecnologia para compreender as causas de suas falhas frequentes. Ela aponta que esses problemas resultam em humilhação, constrangimento e, mais importante, restrições à liberdade, à privacidade e à ocorrência de discriminação e vigilância.
“Além dos casos de Aracaju, outros exemplos documentados por pesquisadores como Tarcízio Silva e incidentes relatados em várias partes do mundo evidenciam a disseminação dessas falhas. Desde casos de pessoas presas erroneamente devido a reconhecimento facial sem mandados até situações em que a tecnologia reproduz estereótipos raciais, como associar um estilo de cabelo negro como ‘inseguro’ ou rotular erroneamente pessoas negras como ‘gangues’.”
Ainda de acordo com Stephanny, esses eventos não se limitam apenas ao reconhecimento facial, mas se estendem a outras áreas da tecnologia, como algoritmos de recomendação e ferramentas de processamento de imagem. Desde a rotulagem equivocada de vídeos até a exclusão de indivíduos negros em videoconferências, esses exemplos ilustram os perigos do viés algorítmico e destacam a necessidade urgente de revisão e regulação dessas tecnologias.
Stephanny cita inúmeros exemplos em diferentes plataformas que evidenciam este racismo. “Em 2021, IA do Facebook rotulou vídeo de homens negros como ‘primatas’ ao recomendar mais conteúdo. Em 2020, planos de fundo do ZOOM excluiuem professor negro durante videoconferência. Em 2020, o Google acha que a ferramenta que aufere temperatura corporal é uma arma de fogo em mão negra.”
Os estados e municípios brasileiros têm adotado o sistema tecnológico sob a premissa de um significativo custo-benefício, embora não disponibilizem dados suficientes para respaldar tal alegação. A evidência desses benefícios é crucial para avaliar se a extensa coleta de dados e a vigilância intensiva realmente compensa em termos de segurança.
Escola Tech: Prefeitura de Aracaju implementa reconhecimento facial em 79 escolas
No âmbito escolar, a Prefeitura de Aracaju, por meio da Secretaria Municipal da Educação (Semed) instituiu em parte das instituições públicas de ensino o programa Escola Tech – um pacote de modernização tecnológica com investimento de 75 milhões que promete revolucionar o aprendizado dos alunos da rede municipal. Entre as inovações apresentadas está o sistema de reconhecimento facial.
O uso dessa tecnologia surgiu em diversos estados do Brasil após uma série de casos de atentados violentos que ocorreram dentro das escolas em 2023.
De acordo com o relatório da InternetLab, centro independente de pesquisa focado em internet e direitos humanos, algumas secretarias municipais em estados brasileiros estão implementando tecnologias com os propósitos de combater a evasão escolar, evitar alterações indevidas no registro de presença dos alunos e comunicar o Conselho Tutelar em casos de inassiduidade. Além disso, a tecnologia também é utilizada para otimizar a gestão do ambiente escolar, permitindo o reconhecimento facial para economizar tempo de aula, administrar faltas, gerenciar a distribuição de merendas e material escolar.
Em Aracaju os objetivos da Prefeitura não foram totalmente esclarecidos, o que gerou questionamentos da comunidade acadêmica. Os professores da rede pública denunciam que a inserção da nova tecnologia foi feita sem nenhum diálogo com os pais dos alunos e com os funcionários das escolas. Após o anúncio nos jornais locais a respeito das câmeras inteligentes, Paulo Cesar Lira Fernandes, professor da rede Estadual e secretário de Organização e Política Sindical da CUT/SE, publicou uma nota de repúdio questionando o novo sistema.
“Vale lembrar que nessas escolas uma parte considerável dos estudantes são crianças, meninos e meninas negras, ou seja, esse reconhecimento facial tem no seu bojo uma segregação das crianças e adolescentes de pele negra”, crítica Fernandes.
“Por que precisa se controlar e identificar os filhos e filhas da classe trabalhadora, dos desvalidos e dos que mais precisam? Será que em uma escola particular as crianças e os adolescentes são tratadas dessa forma com um reconhecimento facial?”, questiona o professor.
Além disso, o professor de educação física da rede municipal e presidente do Sindicato dos Profissionais do Ensino do Município de Aracaju (SINDIPEMA), Obanshe Severo, expressou sua oposição à implementação do sistema de reconhecimento facial. Ele argumenta que essa tecnologia não contribuirá para melhorar o desempenho acadêmico, destacando que o ambiente escolar já é seguro.
“A implementação do sistema de reconhecimento facial não vai contribuir em nada com os resultados do desempenho acadêmico. Nós precisamos de profissionais concursados cumprindo seus papéis na portaria, na vigilância, além da secretaria.”
Obanshe também levanta preocupações sobre a possibilidade de o algoritmo ser tendencioso, especialmente contra os estudantes negros. “Nós sabemos que o algoritmo é, resumidamente, racista. Ele tende a identificar os traços da população negra, que constitui a maioria em nossa comunidade escolar, retratando-os injustamente como pessoas criminosas.”
Sistema sem regulamentação
Para Arthur Almeida, o uso do reconhecimento facial em ambientes como escolas, locais de atendimento à população em situação de rua e grandes eventos levanta preocupações sobre a invasão da privacidade e a criação de um ambiente de vigilância constante, sem o consentimento livre e informado dos indivíduos. Essa prática pode ter um impacto negativo no desenvolvimento da autonomia individual, especialmente entre crianças e jovens, e na sensação de segurança e pertencimento de grupos vulneráveis.
“Em um país cuja seletividade penal é notória contra pessoas negras e pobres e em um estado em que 97% das vítimas de violência policial são negras, não é difícil imaginar quem são os alvos principais das operações policiais movidas pelo sistema de caça de suspeitos turbinado pela tecnologia. Uma pesquisa da Rede de Observatórios de Segurança em cinco estados já mostrou que 90,5% dos presos por reconhecimento facial no Brasil eram negros.”
No Brasil, o uso das tecnologias de reconhecimento facial ainda não é regulamentado, mas de acordo com Panóptico, Rede de Observatórios de Segurança, cerca de 72 milhões de pessoas estão potencialmente sob vigilância de câmeras de reconhecimento facial na segurança pública.
A falta de uma regulamentação precisa para o uso do reconhecimento facial no Brasil cria uma lacuna legal que propicia a ocorrência de práticas abusivas e violações de direitos. Conforme indicado na Lei Geral de Proteção de Dados (Lei Federal 13.709/18), os dados pessoais ligados à segurança pública e à investigação criminal devem ser regulados por uma legislação específica. No entanto, até o momento, essa legislação ainda não foi estabelecida.
Até 2023 existiam 5 Projetos de Lei na Câmara dos Deputados sobre o tema reconhecimento facial.
No dia 6 deste mês de maio, o movimento “Meu Rosto Não”, composto por diversas organizações publicou um abaixo-assinado que exige a regulamentação dessas tecnologias e o banimento do sistema de reconhecimento facial da segurança pública.
“É imperativo que reconheçamos os impactos significativos e de longo alcance que o uso indiscriminado do reconhecimento facial pode ter em nossa sociedade. Além de violar direitos fundamentais, essas práticas contribuem para a criação de um ambiente de vigilância constante e opressiva, minando os princípios democráticos.” declarou o movimento através de publicações nas redes sociais.
Em Sergipe, o Governo do Estado revogou o sistema de reconhecimento facial após a grande repercussão do grave erro contra o personal João Antonio. Em nota sobre a abordagem indevida, a Secretaria de Segurança Pública (SSP-SE) declarou que “Considera que o procedimento precisa ser corrigido com a adoção de procedimentos operacionais que sejam os mais discretos possíveis”.
A Mangue Jornalismo também entrou em contato com a Secretaria Municipal de Educação para entender o cenário das escolas da rede pública, mas não obteve nenhuma resposta.
