Lição da Ciência
"Reconhecer um rosto parece uma das
coisas mais naturais que fazemos. Talvez por isso seja tão fácil esquecer o
quanto podemos errar."
O rosto
como uma assinatura
Poucas coisas parecem tão pessoais quanto um
rosto.
É por meio dele que reconhecemos familiares,
amigos, desconhecidos.
Um rosto nos parece familiar antes mesmo que
consigamos explicar por quê.
Durante séculos, a Justiça também confiou
nessa capacidade humana.
A testemunha olhava para uma pessoa.
Reconhecia.
Apontava.
E aquela identificação podia adquirir um peso
enorme dentro de uma investigação.
Mas o rosto, embora pareça uma assinatura
perfeita, não é.
O cérebro não fotografa rostos. Ele os
interpreta.
E quando a interpretação encontra medo,
distância, pouca iluminação, passagem do tempo ou expectativa, o reconhecimento
pode falhar.
A
certeza de um rosto
Imagine uma testemunha diante de um suspeito.
Ela olha.
Pensa alguns segundos.
E diz:
“É ele.”
A frase parece definitiva.
Mas o que significa realmente reconhecer
alguém?
É uma comparação entre uma representação
armazenada na memória e aquilo que está diante dos olhos.
E essa comparação pode ser influenciada por
inúmeras variáveis.
O tempo entre o acontecimento e o
reconhecimento.
A iluminação.
O ângulo do rosto.
A distância.
O nível de atenção.
O estado emocional.
A familiaridade com o rosto.
E até a maneira como o procedimento de
identificação é conduzido.
A testemunha pode estar absolutamente
convencida.
E ainda assim estar errada.
O
cérebro não procura uma fotografia
Quando reconhecemos alguém conhecido, não
precisamos reconstruir conscientemente todos os detalhes daquele rosto.
O cérebro faz isso de maneira
extraordinariamente rápida.
Mas reconhecer um desconhecido é diferente.
A testemunha pode ter visto aquele rosto
durante poucos segundos.
Talvez estivesse assustada.
Talvez estivesse concentrada em outra ameaça.
Talvez a pessoa estivesse parcialmente
escondida.
Depois, passam-se dias.
Semanas.
Meses.
E o cérebro precisa reconstruir aquilo que
viu.
Nesse intervalo, outras informações podem
interferir.
A fila
de suspeitos
Durante muito tempo, um dos instrumentos
tradicionais de investigação foi a apresentação de suspeitos para
reconhecimento.
A testemunha observava várias pessoas e
tentava identificar aquela que acreditava ter visto.
Parece um procedimento simples.
Mas existe uma questão fundamental:
e se o verdadeiro autor não estiver entre as
pessoas apresentadas?
Se a testemunha acredita que necessariamente
precisa escolher alguém, a tendência de selecionar o indivíduo que mais se
aproxima da memória pode aumentar.
Isso cria um problema.
A pergunta deveria ser:
“Essa pessoa estava lá?”
Mas pode acabar se transformando em:
“Qual dessas pessoas parece mais parecida com
quem eu vi?”
São perguntas completamente diferentes.
O rosto
mais parecido não é necessariamente o rosto certo
O cérebro trabalha muito bem com
reconhecimento de padrões.
Isso é uma vantagem extraordinária para a vida
cotidiana.
Mas, em uma investigação criminal, uma pequena
diferença pode ter consequências enormes.
Imagine que o verdadeiro autor tenha
determinado formato de rosto, sobrancelhas, olhos e mandíbula.
O suspeito apresentado pode possuir
características semelhantes.
A testemunha reconhece a semelhança.
Mas semelhança não significa identidade.
O problema é que, para o cérebro, as duas
coisas podem parecer próximas demais.
Quando a
identificação cria a própria certeza
Existe outro fenômeno preocupante.
Depois que uma testemunha escolhe alguém, essa
escolha pode reforçar a própria confiança.
A pessoa pode começar a reconstruir
mentalmente o rosto identificado.
Com o tempo, a lembrança original e a
experiência da identificação podem se misturar.
A testemunha já não recorda apenas aquilo que
viu.
Pode recordar também aquilo que acredita
ter reconhecido.
A confiança cresce.
E o sistema de Justiça pode interpretar esse
aumento de confiança como confirmação.
Mas confiança posterior não necessariamente
significa precisão original.
O
problema do rosto familiar
Existe ainda uma dificuldade que todos nós
conhecemos.
Às vezes vemos alguém e pensamos:
“Eu conheço essa pessoa.”
Mas não sabemos de onde.
Nosso cérebro reconheceu alguma coisa.
O contexto, entretanto, está ausente.
Agora imagine isso acontecendo em uma
investigação.
A testemunha vê um rosto que parece familiar.
A polícia apresenta uma fotografia.
A pessoa escolhe.
Depois descobre que aquele indivíduo estava
relacionado à investigação.
A sensação de familiaridade pode adquirir uma
explicação.
“Era ele. Eu sabia.”
Mas talvez o cérebro apenas estivesse
respondendo à familiaridade criada pelo próprio procedimento.
O avanço
da tecnologia
Durante muito tempo, o problema era
essencialmente humano.
Depois vieram as máquinas.
Câmeras começaram a registrar rostos.
Computadores passaram a comparar imagens.
Algoritmos passaram a medir características
faciais.
E surgiu uma promessa sedutora:
se o ser humano pode errar, talvez a máquina
consiga reconhecer melhor.
A ideia parecia lógica.
Uma máquina não se cansa.
Não sente medo.
Não se distrai.
Não esquece.
Pode comparar milhares de rostos em segundos.
Mas havia um detalhe.
A máquina também aprende com seres humanos.
E aquilo que os humanos colocam no sistema
pode influenciar aquilo que o sistema produz.
O
reconhecimento facial
A tecnologia de reconhecimento facial procura
identificar ou verificar pessoas a partir de características presentes em
imagens.
Em termos gerais, um sistema transforma um
rosto em um conjunto de características matemáticas e compara essa
representação com outras.
É extraordinário.
Mas não é mágico.
Uma fotografia de baixa qualidade pode
dificultar a comparação.
Ângulo, iluminação, resolução e expressão
facial podem interferir.
E os algoritmos podem apresentar desempenhos
diferentes conforme os dados utilizados em seu desenvolvimento e conforme os
grupos de pessoas avaliados.
A tecnologia pode auxiliar a investigação.
Mas auxiliar não significa decidir.
Quando
uma máquina diz "parece ser ele"
Aqui está o perigo.
Imagine uma câmera registrar um rosto.
O sistema encontra uma correspondência
provável.
A informação chega ao investigador:
“Possível correspondência.”
Essa expressão deveria provocar cautela.
Mas pode produzir o efeito contrário.
A tecnologia parece objetiva.
O número parece científico.
A tela parece neutra.
E aquilo que era apenas uma indicação pode
começar a ser tratado como identificação.
A máquina fornece uma hipótese.
O ser humano transforma a hipótese em certeza.
E o erro volta a entrar pela mesma porta.
O
algoritmo também pode errar
Sistemas de reconhecimento facial podem
produzir falsos positivos e falsos negativos.
Um falso positivo ocorre quando o sistema
indica uma correspondência que não corresponde à pessoa procurada.
Um falso negativo ocorre quando o sistema não
reconhece uma pessoa que deveria ter sido identificada.
Em segurança pública, essas diferenças não são
meramente técnicas.
Podem significar:
uma abordagem;
uma investigação;
uma acusação;
uma prisão;
ou a exposição de uma pessoa inocente a uma
suspeita injusta.
Por isso, a precisão de uma ferramenta precisa
ser analisada dentro do contexto em que será utilizada.
O rosto
e o preconceito dos dados
Existe ainda uma questão mais profunda.
Algoritmos são treinados com dados.
Se os dados forem limitados, desequilibrados
ou inadequados, o desempenho do sistema pode refletir essas limitações.
Isso não significa que uma máquina possua
preconceito da mesma maneira que um ser humano.
Significa que as escolhas humanas presentes
nos dados, nos modelos e nos procedimentos podem produzir resultados desiguais.
A tecnologia não elimina automaticamente os
problemas humanos.
Às vezes, apenas os transforma em números.
A falsa
sensação de objetividade
Talvez esse seja o maior perigo da tecnologia
aplicada à Justiça.
Nós tendemos a acreditar mais em uma
informação quando ela aparece acompanhada de números, gráficos ou porcentagens.
Um resultado de computador parece mais
objetivo do que uma impressão humana.
Mas toda tecnologia possui:
margem de erro.
E toda margem de erro precisa ser
compreendida.
Uma ferramenta científica não se torna
infalível simplesmente porque utiliza matemática.
A matemática pode organizar a incerteza.
Não pode eliminá-la.
A
diferença entre identificação e investigação
Esse ponto deveria ser gravado na consciência
de qualquer sistema de Justiça:
uma ferramenta de reconhecimento deve ajudar a
investigar, não substituir a investigação.
Se uma câmera produz uma possível
correspondência, isso pode ser um ponto de partida.
Não necessariamente uma conclusão.
É preciso procurar outras evidências.
Verificar horários.
Analisar imagens.
Examinar testemunhos.
Comparar informações independentes.
Construir uma cadeia probatória.
Quanto maior a consequência da decisão, maior
deve ser o cuidado com a evidência.
Quando o
inocente vira "o rosto certo"
Imagine alguém que não participou de um crime.
Seu rosto, entretanto, apresenta semelhanças
com uma imagem registrada.
O algoritmo indica uma correspondência.
Um investigador consulta a fotografia.
Uma testemunha recebe aquela imagem.
A testemunha reconhece.
Agora temos duas fontes aparentemente
independentes.
Mas elas talvez não sejam independentes.
Uma influenciou a outra.
O algoritmo produziu a primeira suspeita.
A suspeita influenciou a investigação.
A investigação influenciou a testemunha.
E a testemunha confirmou a suspeita.
Nasceu um círculo.
A tecnologia aparentemente confirmou aquilo
que ela própria ajudou a construir.
Esse é um dos maiores riscos quando diferentes
etapas de uma investigação não são verdadeiramente independentes.
O
Direito diante do algoritmo
O Direito precisa fazer perguntas que a
tecnologia não consegue responder sozinha.
Quem desenvolveu o sistema?
Com quais dados?
Qual é a taxa de erro?
Em quais condições ele funciona melhor?
Em quais condições funciona pior?
O resultado é uma identificação ou apenas uma
probabilidade?
Quem interpretou o resultado?
Houve outras evidências independentes?
O investigado teve possibilidade de contestar
a conclusão?
Essas perguntas são tão importantes quanto o
próprio resultado tecnológico.
A
Justiça não pode terceirizar a responsabilidade
Existe uma tentação silenciosa na era digital:
“Foi o computador que disse.”
Mas computadores não respondem moralmente por
decisões.
Instituições respondem.
Profissionais respondem.
O Estado responde.
A responsabilidade não desaparece porque uma
máquina participou da decisão.
Pelo contrário.
Quanto maior o poder tecnológico, maior
deveria ser a responsabilidade humana sobre sua utilização.
O rosto
que a máquina não conhece
Existe uma verdade curiosa nessa história.
Nós acreditamos conhecer os rostos porque
convivemos com eles desde o nascimento.
Mas o rosto é apenas uma superfície.
A identidade de uma pessoa é muito maior.
Nome.
História.
Memória.
Relações.
Experiências.
Escolhas.
Um algoritmo pode comparar características
faciais.
Não pode, por si só, compreender a pessoa que
está diante da câmera.
Por isso, transformar rosto em identidade
exige cautela.
Parecer-se com alguém não é ser alguém.
O olhar
da Ciência
A ciência não está dizendo:
“Não use reconhecimento facial.”
A ciência está dizendo algo mais responsável:
“Conheça os limites da ferramenta antes de
confiar nela.”
Essa é uma diferença fundamental.
Toda tecnologia deve ser avaliada pelo que
consegue fazer.
Mas também pelo que pode fazer errado.
Uma ferramenta poderosa não é aquela que nunca
falha.
É aquela cujos limites são conhecidos e cujos
erros podem ser detectados.
O olhar
do Direito
O Direito possui uma obrigação ainda maior.
Quando uma tecnologia interfere na liberdade
de alguém, o padrão de cautela precisa aumentar.
Porque um erro em uma recomendação comercial
pode custar dinheiro.
Um erro em uma investigação pode custar
reputação.
Um erro judicial pode custar anos de
liberdade.
E alguns erros jamais podem ser completamente
reparados.
A tecnologia deve servir à Justiça.
Nunca substituir a Justiça.
O olhar
do autor
Talvez o mais perigoso rosto de uma
investigação não seja aquele que aparece na tela.
É o rosto da certeza.
Quando alguém diz:
“É ele.”
Precisamos perguntar:
“Como sabemos?”
Quando um algoritmo diz:
“É uma correspondência.”
Precisamos perguntar:
“Com que grau de confiabilidade?”
Quando uma testemunha afirma:
“Tenho certeza.”
Precisamos perguntar:
“O que sustenta essa certeza?”
A verdadeira investigação começa justamente
quando aprendemos a fazer perguntas depois da resposta.
Legado
para a Justiça
A história do reconhecimento facial nos ensina
uma lição que ultrapassa a tecnologia.
Nenhuma ferramenta de identificação deve ser
confundida com a própria verdade.
O rosto pode enganar.
A memória pode enganar.
A percepção pode enganar.
O algoritmo pode errar.
E, diante de tudo isso, a Justiça precisa
conservar aquilo que nenhuma tecnologia pode substituir:
o julgamento crítico.
Para
refletir
“Uma máquina pode reconhecer um rosto. Só a
Justiça pode decidir o que aquele reconhecimento significa.”
EPÍLOGO
DO CAPÍTULO
Durante séculos, a investigação procurou um
rosto.
Depois aprendeu a fotografá-lo.
Aprendeu a medi-lo.
Aprendeu a compará-lo.
Aprendeu a transformá-lo em números.
E finalmente entregou parte desse trabalho às
máquinas.
Mas, em cada etapa, permaneceu a mesma
pergunta:
o rosto que encontramos é realmente o rosto
que procuramos?
A resposta exige mais do que tecnologia.
Exige método.
Exige prudência.
Exige evidências independentes.
E, sobretudo, exige a humildade de admitir que
identificar alguém não é o mesmo que provar que essa pessoa é culpada.
A investigação estava prestes a entrar em
território ainda mais perigoso.
Porque, se a tecnologia podia reconhecer
rostos...
talvez um dia pudesse tentar reconhecer o
próprio comportamento.
E então surgiria uma ideia que parecia saída
da ficção:
e se fosse possível prever quem cometerá um
crime antes que o crime aconteça?
Era o nascimento do sonho — e do perigo — da polícia
preditiva.
Elson
Mesquita de Araujo
Advogado,
jornalista, escritor, pesquisador
