Como a Veriff está enfrentando o viés na verificação de identidade

Em um mundo cada vez mais online, é imperativo que as ferramentas digitais que as pessoas usam todos os dias localizem ativamente e removam o viés. Isso ocorre porque tecnologias enviesadas têm implicações negativas no mundo real, uma vez que as pessoas podem ser injustamente negadas o acesso a serviços ou experimentar discriminação; de empregos a justiça criminal, o viés tem sido exposto como embutido em muitos setores ao longo dos anos. Além disso, há riscos financeiros, legais e reputacionais substanciais para as empresas que são expostas por ter viés em sua tecnologia

O viés pode estar presente através da maneira como uma pessoa interage com um sistema; por exemplo, se uma pessoa tem que entender ou seguir instruções complexas, isso pode ser tendencioso contra pessoas com habilidades cognitivas limitadas. Além disso, se um processo requer movimento físico, como manipular um dispositivo, isso pode representar viés contra pessoas com mobilidade física limitada, muitas vezes, os idosos. Se um sistema só funciona em tecnologia nova - frequentemente a mais cara - isso representa viés contra pessoas com meios financeiros limitados

Em termos de ferramentas digitais inovadoras, graças à sua usabilidade, capacidade de escalar e eficácia em prevenir fraudes, as empresas estão adotando cada vez mais a verificação de identidade (IDV) remota para o processo de integração do cliente. Como líder da indústria em IDV, a Veriff está comprometida em criar acesso igual a bens, produtos e serviços para pessoas em todo o mundo.

No entanto, reconhecer e enfrentar os vieses na IDV é essencial para criar sistemas justos e precisos que não sejam discriminatórios. Para delinear como estamos comprometidos em combater o viés, conversamos com nossa Gerente Sênior de Produtos, Liisi Soots, para detalhar suas visões sobre o que é viés, como o viés pode ser encontrado na tecnologia e medidas acionáveis para reduzir o viés.

Você pode definir o conceito de viés e como ele surge?

Vemos viés na vida cotidiana quando uma pessoa favorece ou desfavorece injustamente uma pessoa, ideia, objeto ou outra questão, exibindo uma perspectiva distorcida. Isso pode ser influenciado por fatores como criação, ambiente diário, grupo social ou cultura. Para dar um exemplo, para muitas pessoas em culturas ocidentais, o termo 'vestido de noiva' evoca um vestido branco e um véu, mas nem todas as culturas associariam isso a um 'vestido de noiva'.

Ao falar sobre viés em aprendizado de máquina, temos que considerar se os sistemas são tendenciosos a favor ou contra pessoas devido a fatores incluindo idade, raça, gênero ou deficiência. Um sistema pode funcionar melhor para crianças e não tão bem para pessoas idosas, ou vice-versa. A existência de viés coloca as pessoas em risco real de discriminação com base em características sobre as quais elas não têm controle, portanto, isso deve ser tratado seriamente.

Quais são os diferentes tipos de viés que vemos no espaço de IDV e porque eles são problemáticos para nossos clientes?

Além dos viéses de idade, raça e gênero, na verificação de identidade temos que estar atentos a situações específicas onde o viés pode ocorrer, como que tipo de documento de identidade ou dispositivo pessoal um indivíduo está usando. Por exemplo, nem todo mundo pode pagar os mais novos smartphones de alta tecnologia que podem tirar uma imagem em alta resolução. Na Veriff, já apoiamos uma ampla variedade de documentos de identidade e dispositivos, e continuamos a expandir a gama para que mais pessoas genuínas possam ser verificadas online

A Veriff opera em muitos países e setores diferentes, o que significa que nossas soluções de IDV devem poder ser usadas por um amplo espectro de pessoas. Como parte dos nossos processos de garantia de qualidade, monitoramos regularmente como nossas soluções estão se saindo com diferentes grupos de pessoas, por exemplo, se estamos funcionando de maneira semelhante para homens e mulheres.

O que estamos tentando mitigar é uma diferença de desempenho; por exemplo, com base no gênero, garantindo que as mulheres estejam passando pelo nosso fluxo de verificação de identidade tanto quanto os homens, garantindo que não estamos bloqueando elas, ou pessoas de diferentes raças. Isso para que nosso sistema seja igual para todos, não importa de onde venham ou como se pareçam

Para as empresas hoje, é vital garantir que possam integrar clientes genuínos de todo o mundo. A falha em fazer isso limita a capacidade da empresa de escalar, expandir para novos mercados e cria o risco de danos financeiros ou reputacionais se clientes forem afetados por viés.

Como você diria que o viés afeta o aprendizado de máquina?

Sistemas incluindo modelos de aprendizado de máquina são construídos por humanos, portanto, o viés que os humanos têm é naturalmente propagado para todos os sistemas que estamos construindo. Modelos de aprendizado de máquina devem ser criados usando as melhores práticas possíveis. Treinamos nossos modelos com uma ampla gama de dados, garantindo que coletamos diferentes casos regulares e excepcionais

Se alguma dessas áreas tivesse viés embutido, por exemplo, ao usar apenas um conjunto de dados limitado construído a partir de uma população estreita ou criado por indivíduos que tiveram exposição limitada a culturas, então há o risco de introduzir viés nos algoritmos. A Veriff está constantemente ciente do risco de introduzir viés em nossos sistemas e tentamos conscientemente mitigar esse risco monitorando nosso desempenho e agindo quando problemas surgem.

O viés no aprendizado de máquina é mais relevante do que quando temos viés nos humanos, pois estamos usando modelos para tomar milhares de decisões diariamente. Nós, como humanos, não estamos tomando milhares de decisões por dia. Com aprendizado de máquina, estamos propagando o viés para um contexto mais amplo. Não queremos que os sistemas sejam tendenciosos, discriminando algumas pessoas. Estamos medindo como estamos atuando em diferentes grupos raciais e gêneros e precisamos garantir que estamos atuando de forma igual.

O que as empresas podem fazer para eliminar o viés ou mitigar o risco de viés?

Existem vários métodos para remover viés. O primeiro é os dados com os quais treinamos: quais dados estamos colocando no modelo e como estamos obtendo os dados. É realmente importante garantir que os dados em si não são tendenciosos, que não temos dados apenas de homens brancos, mas temos dados de diferentes grupos raciais e que temos isso distribuído de forma igual

É importante que tenhamos uma gama diversificada de profissionais, como cientistas de dados e anotadores, de diferentes origens trabalhando com os dados, pois eles levantam diferentes questões e garantem que os dados sejam preparados corretamente. Por fim, podemos eliminar o viés e mitigá-lo garantindo que estamos cientes dele, que estamos medindo quanto viés temos em modelos e estamos fazendo mudanças para garantir alta qualidade

A Veriff usa verificação manual de documentos juntamente com aprendizado de máquina no processo de IDV. Isso ajuda a remover o viés?

Reunir o fluxo automático e manual ajuda a garantir que fornecemos o melhor serviço ao mundo. Se não temos certeza sobre uma decisão automatizada, nossos especialistas altamente treinados podem verificar a decisão quando pedimos. Se a investigação identificar erros na decisão algorítmica, a resposta é reintegrada ao sistema como um processo de melhoria contínua.

Quão perto a Veriff está de alcançar 'zero viés'?

Em termos matemáticos, nenhum sistema pode ter zero viés. A abordagem mais importante é garantir que nós, como uma empresa de tecnologia líder, monitoramos continuamente nossos sistemas em busca de qualquer evidência de viés. Se isso for encontrado, garantimos que temos um processo para mitigar e corrigir rapidamente quaisquer problemas. Além disso, novas leis estão sendo implementadas para regular também o viés e as medições no aprendizado de máquina.