✨ Três temas para ficar de olho na IA em 2024

1. Lidando com preconceitos

O preconceito não intencional pode ser um problema significativo em processos automatizados que incorporam IA e aprendizado de máquina. Felizmente, é um problema que pode ser abordado eficazmente com a ajuda de intervenção humana focada.

O primeiro passo para reduzir o preconceito é entender de onde ele vem. O preconceito existe no mundo real, então inevitavelmente acaba nos dados, como Liisi German, Gerente de Produto Sênior da Veriff, aponta.

‘Os dados refletem como vemos o mundo ao nosso redor,’ comenta Liisi. ‘Se todos nós pensamos em um vestido de noiva, então provavelmente todos nas culturas ocidentais pensam em um vestido branco. Mas as pessoas asiáticas podem não pensar em um vestido branco.’

A IA é programada para aprender a discriminar entre dados fornecidos por humanos, usando regras criadas por humanos. Como resultado, o preconceito inevitavelmente se infiltra. Devido à natureza do processo, o preconceito pode ser progressivamente amplificado pelo aprendizado de máquina em um tipo de ciclo de feedback se não for tratado. Os resultados podem ser imprevisíveis e, muitas vezes, indesejáveis, como evidenciado por exemplos bem divulgados, mesmo ao usar os modelos generativos de IA mais recentes e avançados.

A Veriff está constantemente explorando maneiras de abordar o preconceito na verificação de identidade, tanto melhorando algoritmos de IA quanto por meio da intervenção humana.

‘Por exemplo, temos pessoas de diferentes países e etnias trabalhando na equipe, anotando os dados,’ diz Liisi. ‘Mas também estamos medindo quão tendenciosos somos, como nosso desempenho difere entre gêneros e raças.’

‘Você definitivamente pode remover o preconceito,’ diz Suvrat Joshi, Vice-Presidente Sênior de Produto da Veriff. ‘Acho que alcançar uma saída perfeita do modelo o tempo todo ou ao longo do tempo é difícil, mas nunca é impossível – e é um ótimo objetivo a se buscar.’

Quando os preconceitos são identificados, podem ser abordados por meio de um processo conhecido como aprendizado reforçado por meio de feedback humano, ou RLHF para abreviar (veja nosso artigo recente sobre tópicos quentes em fraudes online e verificação de identidade para mais informações sobre como isso funciona).

Suvrat vê o RLHF como uma ótima maneira de ajudar a abordar as preocupações sobre o uso de IA tanto para empresas que desejam empregar as técnicas de verificação de identidade mais avançadas quanto para seus clientes finais.

‘Aumentação é sempre necessária,’ diz Suvrat. ‘E é um aprendizado contínuo, que permite que o modelo permaneça no ponto ou seja melhorado ao longo do tempo. Acho que isso é uma parte essencial para construir confiança – ajustar e melhorar para que possamos fornecer aos nossos clientes a reasurança de que não é apenas algo funcionando no modo piloto automático.’

2. A corrida armamentista de IA entre criminosos e guardiões

A inteligência artificial sem dúvida promete entregar benefícios significativos no esforço do setor de serviços financeiros para combater fraudes. Infelizmente, também é uma inovação que está sendo rapidamente e entusiasticamente adotada por criminosos, como Kathryn Sharpe, Chefe de Produto de Crime Financeiro da plataforma de banking as a service Griffin, explica.

‘Acho que a IA generativa vai ser realmente poderosa (para maus atores), e já tem sido realmente poderosa – para criar deep fakes e para gerar textos para criar um monte de aplicativos muito rapidamente.’

Os guardiões estão inevitavelmente se encontrando em uma espécie de corrida armamentista com os fraudadores, que têm a vantagem de serem muito mais livres para “agir rapidamente e quebrar coisas”.

‘Enquanto teremos a capacidade de usar IA de uma maneira muito mais significativa em termos de identificar padrões e sendo proativos e reativos, teremos que implementar mudanças muito mais lentamente, provavelmente, do que os criminosos são capazes,’ diz Kathryn.

Kathryn afirma que deve haver um compromisso entre garantir que as empresas de serviços financeiros e outros guardiões estejam usando a IA com segurança e permitindo liberdade suficiente para que possam acompanhar os criminosos.

Ao mesmo tempo, para as empresas, sempre há um compromisso a ser feito entre minimizar riscos e evitar fricção excessiva.

‘À medida que seu negócio muda, à medida que o cenário de fraudes muda, à medida que o cenário do cliente muda, você vai querer poder balançar esse pêndulo de um lado para o outro,’ diz David Divitt, Diretor Sênior de Prevenção de Fraudes e Experiência da Veriff.

Felizmente, processos eficazes de combate à fraude podem ser virtualmente invisíveis para o usuário final.

‘Você pode fazer muito ao observar as maneiras como os clientes interagem com seus serviços,’ comenta David. ‘Se você puder reunir todos esses dados e tomar decisões melhores com isso, pode fazer isso sem que o cliente realmente saiba que está acontecendo.’

3. O impacto da IA na engenharia de software

As aplicações potenciais para a inteligência artificial generativa se estendem a praticamente todas as disciplinas, e a engenharia de software não é exceção. Na Veriff, já estamos usando soluções assistidas por IA para gerar parte do nosso código. A IA generativa tem acesso a uma quantidade imensa de documentação técnica disponível na internet e pode usar isso para ajudar a integrar até mesmo com a API mais arcanos.

No entanto, Hubert Behaghel, Vice-Presidente Sênior de Engenharia da Veriff, vê a IA como uma ferramenta para engenheiros, e não como um substituto para eles.

‘Está mudando o trabalho, mas não substituiu todo o papel,’ diz Hubert. ‘Não prevejo, pelo menos nos próximos anos, que não precisaremos mais de um engenheiro de iOS, ou um cientista de dados…’

Em vez disso, Hubert acredita que a IA desempenhará cada vez mais a função de especialista, graças à sua capacidade de acessar e sintetizar rapidamente o conhecimento sobre as complexidades de elementos específicos da pilha de software. Isso acelerará o retorno dos engenheiros de software a um papel mais holístico, uma tendência já vista com a crescente popularidade dos engenheiros ‘em forma de T’ (indivíduos que possuem habilidades especializadas e a capacidade de se integrar a outras disciplinas).

‘Quando eu era mais jovem, não tínhamos front end e back end, fazíamos tudo,’ diz Hubert. ‘Me pergunto se o nível de complexidade da pilha que temos agora será algo que uma pessoa possa lidar novamente, por causa da assistência que recebemos da IA.’