Com os recentes avanços na inteligência artificial, o reconhecimento facial está emergindo como um poderoso meio de validação de identidade. As pessoas o usam o tempo todo para acessar seus telefones celulares, mas a aceitação nem sempre se estendeu além do uso pessoal.
Isso se deve em parte a preocupações com o uso indevido potencial. Algumas pessoas veem subtons Orwellian na noção de dezenas de bancos de dados cheios de varreduras faciais. Isso aponta para a importância da ética do reconhecimento facial, incluindo discussões sobre como medir e resolver disparidades.
O que é reconhecimento facial?
As tecnologias biométricas estão avançando rapidamente, o que significa que novos modos de autenticação de pessoas estão se tornando mais prevalentes. A tecnologia de reconhecimento facial biométrico transforma imagens em expressões numéricas, e algoritmos de computador permitem comparar duas imagens para ver se elas combinam.
O uso adequado da tecnologia de reconhecimento facial depende da cultura, ética, legislação e práticas vigentes. Com o reconhecimento facial ainda relativamente inexperiente - sem regulamentos amplamente usados ou aceitos que regem seu uso - os líderes de segurança precisarão garantir que estão usando a tecnologia com responsabilidade.
E eles precisam se mexer nisso logo. O mercado de tecnologia de reconhecimento facial deve chegar a US$ 12,6 bilhões até 2028, contra US$ 5 bilhões em 2021.
Como funciona o reconhecimento facial?
Como forma de autenticação biométrica, o reconhecimento facial depende da inteligência artificial (IA) para identificar rostos humanos em imagens ou vídeos. Essa abordagem pode gerar várias vantagens importantes, incluindo:
- Prova de presença — saiba com certeza quem acessou o quê e quando
- Nada para carregar ou lembrar - Cartões ATM, PINs e senhas potencialmente se tornam obsoletos
- Intervenção humana reduzida — o reconhecimento facial alivia os operadores humanos e direciona para processos sem contato no ambiente pós-pandemia
A IA desempenha um papel vital em tudo isso, conduzindo as operações de dados de alto volume necessárias para digitalizar e combinar rostos em escala. Isso por si só levantou preocupação entre os defensores da privacidade e outros que temem que abordagens algorítmicas automatizadas para identidade possam ser mal utilizadas.
A importância do reconhecimento facial ético
O viés é uma característica inerente ao ser humano. Na verdade, o viés pode ser refletido e incorporado em tudo o que criamos, até mesmo na tecnologia. Em um artigo recente do Fórum Econômico Mundial , esses preconceitos foram descritos como resultados que emanam de preconceitos sociais e incluem raça, gênero, sexo biológico, nacionalidade ou idade.
Como esses preconceitos acabam na tecnologia de IA? Os algoritmos de IA devem ser treinados por humanos que usam dados potencialmente não representativos ou incompletos que refletem desigualdades históricas. Isso pode levar a algoritmos tendenciosos e, por sua vez, decisões tendenciosas que têm um impacto coletivo em certos grupos de pessoas. O Pew Research Center divulgou dados sobre reconhecimento facial mostrando que apenas 5% dos americanos “têm muita confiança de que as empresas de tecnologia usarão o reconhecimento facial com responsabilidade”.
Implementando o Reconhecimento Facial Ético
Dar passos em direção a tecnologias de reconhecimento facial mais éticas significa abordar o viés em primeiro lugar. O Instituto Nacional de Padrões e Tecnologia (NIST) recomenda ampliar o escopo de onde procuramos a fonte de vieses , incluindo ir “… além dos processos e dados de aprendizado de máquina usados para treinar o software de IA para os fatores sociais mais amplos que influenciam como a tecnologia é desenvolvido."
Outras questões éticas interessantes podem surgir na interseção de reconhecimento facial e estratégia de negócios. Os pesquisadores perguntam, por exemplo, “se você usa o reconhecimento facial para identificar as pessoas que entram em uma loja, deve usar essa identidade para obter o histórico de compras? Que tal um relatório de crédito?
Claramente, uma abordagem cuidadosa para o reconhecimento facial é necessária daqui para frente.
Melhores práticas em reconhecimento facial ético
Enquanto a indústria em geral trabalha para abordar a ética na IA, as organizações podem adaptar uma estrutura para o uso ético da tecnologia de reconhecimento facial. A American Civil Liberties Union enviou uma estrutura ética para o reconhecimento facial à Administração Nacional de Telecomunicações e Informações do Departamento de Comércio dos EUA, descrevendo uma série de práticas recomendadas importantes que incluem princípios sobre coleta, uso, compartilhamento e acesso.
O que isso significa para as organizações que desejam utilizar a tecnologia de reconhecimento facial? Será fundamental delinear e comunicar:
- Consentimento informado – Aqueles que procuram implementar uma solução de reconhecimento facial precisam considerar “quando e como fornecer um aviso significativo e obter seu consentimento informado, especialmente se esses indivíduos forem identificados ou perfilados em outros conjuntos de dados”, de acordo com o Future of Privacy Forum (FPF)
- Ferramentas de transparência — “A transparência foi sugerida como um facilitador de confiança”, de acordo com pesquisadores do Wilson Center , um fórum político apartidário. Eles apontam para abordagens que permitem a visibilidade do funcionamento interno de sistemas técnicos, como IA explicável, dados abertos e algoritmos abertos. “Outras estratégias se concentram em explorar as saídas de um algoritmo, inclusive por meio de testes que avaliam riscos como viés”.
- Privacidade/propriedade de dados — Também será importante estabelecer regras de trânsito que especifiquem as proteções de privacidade para os consumidores e desenvolver uma estrutura para a propriedade de dados de reconhecimento facial. “Os princípios básicos de privacidade exigem que os indivíduos estejam cientes de entidades comerciais que coletaram dados sobre eles com sistemas de reconhecimento facial, que tenham a capacidade de solicitar saber quais dados foram mantidos sobre eles e solicitar acesso para corrigir erros ou excluir as informações”, segundo a FPF.
- Governança — As organizações que desejam implementar o reconhecimento facial precisarão estabelecer uma governança clara. Será importante que eles desenvolvam limites intencionais. Eles precisarão determinar e documentar os usos pretendidos dos dados e sistemas de reconhecimento facial, e precisarão ter protocolos que restrinjam o uso dessas soluções apenas a esses propósitos predefinidos.
O futuro do reconhecimento facial
A tecnologia de reconhecimento facial tem um potencial infinito para atender às necessidades do mundo real, incluindo as de consumidores e cidadãos. De configurações de varejo a compromissos de TI e controle de acesso físico, a biometria de reconhecimento facial está em uso hoje e continuará remodelando a forma como vemos a identidade.
No entanto, abordar a IA ética e as preocupações em torno da tecnologia de reconhecimento facial será fundamental.
Embora o principal problema da tecnologia de reconhecimento facial decorra da falta de diversidade nos conjuntos de dados, a adoção de princípios éticos pode ajudar as organizações a reduzir os riscos e aliviar as preocupações durante o uso.
