Navegando el cumplimiento de la IA en 2025: Perspectivas clave del seminario web de Veriff

Comprendiendo la Ley de IA de la UE y su impacto global

La Ley de IA de la UE es uno de los marcos regulatorios más significativos que rige las tecnologías de IA. Con un amplio alcance, se aplica a:

• Empresas con sede en la Unión Europea
• Cualquier organización que ofrezca servicios o productos impulsados por IA a usuarios de la UE

Definiciones clave según la Ley

• Sistema de IA – Un sistema basado en máquinas diseñado para operar con diferentes niveles de autonomía y adaptabilidad, utilizando entradas para generar salidas como predicciones, contenido, recomendaciones o decisiones que influyen en entornos físicos o virtuales.
• Proveedor – La entidad que desarrolla un sistema de IA.
• Desplegador – Una organización que implementa un sistema de IA en sus operaciones.
• Importador – Una empresa que trae soluciones de IA desarrolladas fuera de la UE a la región.
• Distribuidor – Un negocio que revende o facilita soluciones de IA en el mercado.

Comprender dónde se encuentra su negocio dentro de este marco es esencial para el cumplimiento.

Clasificación del riesgo de IA: Lo que las empresas necesitan saber

Uno de los aspectos más críticos de la Ley de IA de la UE es su enfoque basado en riesgos, que clasifica los sistemas de IA en cuatro categorías:

Riesgo inaceptable (estrictamente prohibido)

Estas aplicaciones de IA están prohibidas debido a su potencial daño a individuos y a la sociedad. Ejemplos incluyen:

• Sistemas de puntuación social
• IA utilizada para la policía predictiva
• Identificación biométrica remota en tiempo real (excepto en la aplicación de la ley con estrictas salvaguardias)

Sistemas de IA de alto riesgo (extensas obligaciones de cumplimiento)

Las empresas deben implementar rigurosas documentaciones, gestión de riesgos y supervisión humana para los sistemas de IA de alto riesgo, incluyendo aplicaciones en:

• Salud (por ejemplo, diagnóstico asistido por IA)
• Finanzas (por ejemplo, puntuación de crédito, detección de fraude)
• Educación y empleo (por ejemplo, evaluaciones de contratación impulsadas por IA)
• Sistemas de IA de riesgo limitado (obligaciones de transparencia)
• Las aplicaciones de IA en esta categoría requieren medidas de transparencia, como notificaciones a los usuarios al interactuar con contenido generado por IA. Ejemplos:
• Chatbots
• Medios generados por IA y deepfakes

Sistemas de IA de riesgo limitado (obligaciones de transparencia)

Las aplicaciones de IA en esta categoría requieren medidas de transparencia, como notificaciones a los usuarios al interactuar con contenido generado por IA. Ejemplos:

• Chatbots
• Medios generados por IA y deepfakes

Sistemas de IA de riesgo mínimo (recomendaciones de mejores prácticas)

Estas aplicaciones de IA no tienen obligaciones de cumplimiento importantes, pero se les anima a seguir las mejores prácticas para el uso responsable de IA.

Fechas clave a tener en cuenta para el cumplimiento de IA

• 2 de febrero de 2025 – Fecha límite general de cumplimiento de la Ley de IA de la UE
• 2 de agosto de 2025 – Implementación de las obligaciones del sistema de IA de alto riesgo
• 2 de agosto de 2026 – Aplicación más estricta de los requisitos de cumplimiento
• 2 de agosto de 2027 – Comienza la supervisión regulatoria a gran escala

Pasos clave de cumplimiento para las empresas (Ley de IA de la UE y RGPD)

Realizar una auditoría de IA

Comience identificando todos los procesos impulsados por IA dentro de su organización y clasificándolos de acuerdo con las categorías de riesgo de la Ley de IA de la UE: Inaceptable, Alto Riesgo, Limitado o Mínimo. Una vez categorizados, evalúe cualquier brecha de cumplimiento para asegurarse de que cumple con las regulaciones necesarias sin arriesgar un sobrecumplimiento o no cumplir con los requisitos.

Alinear con el RGPD y las regulaciones de protección de datos

Los sistemas de IA manejan frecuentemente datos personales, por lo que el cumplimiento del RGPD es esencial. Para asegurarse de esto, las organizaciones deben adoptar técnicas que mejoren la privacidad, como la anonimización de datos y la minimización para reducir la exposición a información personal, generación de datos sintéticos para entrenar modelos de IA sin usar datos reales de usuarios, y cifrado junto con un manejo seguro de datos para proteger información sensible. Además, la adherencia a principios de procesamiento legal, incluida la transparencia y el respeto a los derechos de los sujetos de datos, es vital para mantener el cumplimiento y construir confianza.

Establecer mecanismos de supervisión humana

La Ley de IA de la UE requiere "intervención humana significativa" en las decisiones impulsadas por IA, lo que enfatiza la importancia de mantener la supervisión humana en aplicaciones de alto riesgo. Para cumplir, se recomienda que las organizaciones nombren oficiales de cumplimiento de IA o establezcan equipos de gobernanza de IA para supervisar la implementación y adherencia a las regulaciones. Además, es crucial asegurar que los humanos mantengan la autoridad final de toma de decisiones en escenarios donde la IA presenta riesgos significativos. También es esencial realizar pruebas regulares de modelos de IA para sesgos, equidad y responsabilidad para alinearse con los estándares de la Ley y promover prácticas éticas de IA.

Fortalecer el cumplimiento de proveedores de IA de terceros

Si sus soluciones de IA dependen de proveedores externos o APIs, asegúrese de que los contratos describan claramente las responsabilidades de cumplimiento, verifique que los proveedores de IA cumplan con la Ley de IA de la UE y los estándares del RGPD, y realice auditorías e evaluaciones de impacto regulares de sistemas de terceros.

Mantenerse actualizado sobre cambios regulatorios de IA

Las regulaciones de IA están cambiando rápidamente, y las empresas necesitan adelantarse. Es importante rastrear las actualizaciones de la Ley de IA de la UE y otras políticas regionales, participar en discusiones de la industria y foros regulatorios, y participar en grupos de ética de IA. A medida que se introduzcan nuevas reglas, las empresas deben adaptar sus marcos de gobernanza de IA para seguir siendo compatibles.

Reflexiones finales: Preparándose para el futuro del cumplimiento de IA

A medida que las regulaciones de IA toman forma, las empresas deben prepararse proactivamente para el cumplimiento, en lugar de reaccionar ante las penalizaciones. Con una planificación estratégica, documentación clara y un enfoque en el despliegue ético de la IA, las organizaciones pueden adelantarse a los desafíos regulatorios mientras aprovechan la IA para la innovación.

El seminario web de Veriff enfatizó la importancia de la transparencia, la responsabilidad y la adaptabilidad en la gobernanza de la IA. Siguiendo estas perspectivas, las empresas pueden asegurar el cumplimiento y construir confianza con los clientes y reguladores por igual.

Directrices recomendadas de IA para empresas:

• Guías sobre la definición del sistema de IA de la Comisión de la UE
  Lea las guías oficiales
• "Repositorio vivo de prácticas de alfabetización en IA" de la oficina de la UE
  Explore el repositorio de alfabetización en IA
• "Opinión 28/2024 sobre IA y protección de datos" de la Junta Europea de Protección de Datos
  Lea la opinión del EDPB
• "Guías sobre prácticas prohibidas en IA" de la Comisión de la UE
  Lea las guías oficiales