✨ Tres temas a tener en cuenta en la IA en 2024

1. Abordar el sesgo

El sesgo no intencional puede ser un problema significativo en los procesos automatizados que incorporan IA y aprendizaje automático. Afortunadamente, es un problema que se puede abordar eficazmente con la intervención humana enfocada.

El primer paso para reducir el sesgo es entender de dónde proviene. El sesgo existe en el mundo real, por lo que inevitablemente termina en los datos, como señala Liisi German, Gerente Senior de Producto en Veriff.

‘Los datos reflejan cómo vemos el mundo que nos rodea,’ comenta Liisi. ‘Si todos pensamos en un vestido de novia, probablemente todos en las culturas occidentales piensen en un vestido blanco. Pero las personas asiáticas pueden no pensar en un vestido blanco.’

La IA está programada para aprender a discriminar entre los datos proporcionados por los humanos, utilizando reglas creadas por humanos. Como resultado, el sesgo inevitablemente se introduce. Debido a la naturaleza del proceso, el sesgo puede ser amplificado progresivamente por el aprendizaje automático en una especie de ciclo de retroalimentación si no se aborda. Los resultados pueden ser impredecibles y, a menudo, indeseables, como se evidencia en ejemplos bien publicitados incluso al usar los modelos de IA generativa más recientes y avanzados.

Veriff está explorando constantemente maneras de abordar el sesgo en la verificación de identidad, tanto mejorando los algoritmos de IA como a través de la intervención humana.

‘Por ejemplo, tenemos personas de diferentes países y etnias trabajando en el equipo, anotando los datos,’ dice Liisi. ‘Pero también estamos midiendo cuán sesgados somos, cómo difiere nuestro rendimiento según géneros y razas diferentes.’

‘Definitivamente puedes eliminar el sesgo,’ dice Suvrat Joshi, Vicepresidente Senior de Producto en Veriff. ‘Creo que lograr una salida de modelo perfecta todo el tiempo o durante un periodo es difícil, pero nunca es imposible – y es un gran objetivo al que aspirar.’

Cuando se identifican sesgos, pueden ser abordados a través de un proceso conocido como aprendizaje reforzado a través de la retroalimentación humana, o RLHF para abreviar (vea nuestro artículo reciente sobre temas candentes en el fraude en línea y la verificación de identidad para más detalles sobre cómo funciona esto).

Suvrat ve el RLHF como una gran manera de ayudar a abordar las preocupaciones sobre el uso de IA tanto para las empresas que desean emplear las técnicas de verificación de identidad más avanzadas como para sus clientes finales.

‘La augmentación siempre es necesaria,’ dice Suvrat. ‘Y es un aprendizaje continuo, lo que permite al modelo permanecer enfocado o ser mejorado con el tiempo. Creo que eso es una parte esencial para generar confianza – ajustándose y mejorando para que proporcionemos a nuestros clientes la tranquilidad de que no es solo algo que funciona en piloto automático.’

2. La carrera armamentista de IA entre criminales y guardianes

La inteligencia artificial indudablemente promete ofrecer beneficios significativos en el esfuerzo del sector de servicios financieros por abordar el fraude. Desafortunadamente, también es una innovación que los criminales están adoptando rápida y entusiastamente, como explica Kathryn Sharpe, Jefa de Producto de Crimen Financiero en la plataforma de servicio bancario Griffin.

‘Creo que la IA generativa va a ser realmente poderosa (para los actores malintencionados), y ya ha sido realmente poderosa – para crear falsificaciones profundas y para generar textos que crean una gran cantidad de aplicaciones muy rápido.’

Los guardianes inevitablemente se encuentran en una especie de carrera armamentista con los estafadores, quienes tienen la ventaja de poder “moverse rápido y romper cosas”.

‘Mientras vamos a tener la capacidad de usar la IA de manera mucho más significativa en términos de detectar patrones y ser tanto proactivos como reactivos, vamos a tener que implementar cambios mucho más lentamente, probablemente, de lo que los criminales son capaces de hacerlo,’ dice Kathryn.

Kathryn dice que debe haber un equilibrio entre asegurar que las empresas de servicios financieros y otros guardianes estén utilizando la IA de manera segura y permitir suficiente libertad para que puedan mantenerse al ritmo de los criminales.

Al mismo tiempo, para las empresas siempre hay un equilibrio que debe hacerse entre minimizar el riesgo y evitar fricciones excesivas.

‘A medida que su negocio cambia, a medida que cambia el panorama del fraude, a medida que cambia el panorama del cliente, querrá poder mover ese péndulo de un lado a otro,’ dice David Divitt, Director Senior de Prevención de Fraude y Experiencia de Veriff.

Afortunadamente, los procesos efectivos de prevención del fraude pueden ser prácticamente invisibles para el usuario final.

‘Puedes hacer mucho observando las maneras en que los clientes interactúan con tus servicios,’ comenta David. ‘Si puedes recopilar todos esos datos y tomar mejores decisiones con ellos, puedes hacerlo sin que el cliente realmente sepa que está sucediendo.’

3. El impacto de la IA en la ingeniería de software

Las aplicaciones potenciales de la inteligencia artificial generativa se extienden a prácticamente todas las disciplinas, y la ingeniería de software no es una excepción. En Veriff, ya estamos utilizando soluciones asistidas por IA para generar parte de nuestro código. La IA generativa tiene acceso a los extensos documentos técnicos disponibles en Internet y puede usar esto para ayudar a integrarse con incluso la API más oscura.

Sin embargo, Hubert Behaghel, Vicepresidente Senior de Ingeniería en Veriff, ve la IA como una herramienta para los ingenieros, en lugar de un reemplazo para ellos.

‘Está desplazando el trabajo, pero no ha reemplazado el rol completo,’ dice Hubert. ‘No imagino, al menos durante los próximos años, que ya no necesitemos un ingeniero de iOS, o un científico de datos…’

En cambio, Hubert piensa que la IA cumplirá cada vez más la función de especialista, gracias a su capacidad de acceder y sintetizar rápidamente el conocimiento sobre las complejidades de elementos específicos de la pila de software. Esto acelerará el retorno de los ingenieros de software a un rol más holístico, una tendencia ya observada con la creciente popularidad de los ingenieros ‘en forma de T’ (individuos que poseen habilidades especializadas y la capacidad de integrarse en otras disciplinas).

‘Cuando era más joven, no teníamos front end y back end, simplemente hacíamos todo,’ dice Hubert. ‘Me pregunto si el nivel de complejidad de la pila que tenemos ahora será algo que una persona pueda manejar de nuevo, debido a la asistencia que obtenemos de la IA.’