El Banco Central de los Emiratos Árabes Unidos ha emitido nuevas directrices sobre el uso responsable de la inteligencia artificial en instituciones financieras, marcando un paso significativo en la regulación de esta tecnología emergente. La medida, anunciada recientemente, busca garantizar que la implementación de la inteligencia artificial en el sector bancario no amplifique sesgos históricos ni excluya a ciertos grupos demográficos del acceso al crédito.
Según declaraciones de expertos del sector realizadas en Dubai Eye, estas directrices llegan en un momento crucial cuando las instituciones financieras están adoptando rápidamente sistemas automatizados para decisiones crediticias. La orientación del regulador establece requisitos específicos sobre el uso de datos representativos en modelos de aprendizaje automático.
Datos alternativos y la transformación del análisis crediticio
La inteligencia artificial permite a los bancos procesar volúmenes masivos de datos alternativos que tradicionalmente quedaban fuera de los modelos crediticios convencionales. Estos datos incluyen huellas digitales de la vida cotidiana como suscripciones a servicios de streaming, facturas telefónicas y otros pagos recurrentes que anteriormente no se consideraban en la evaluación crediticia.
Esta capacidad representa un cambio fundamental respecto a la digitalización básica y los algoritmos tradicionales que han respaldado a las agencias de crédito durante años. Sin embargo, el volumen de información que ahora puede procesarse mediante inteligencia artificial constituye un salto tecnológico significativo en la industria financiera.
Riesgos de sesgo en modelos de inteligencia artificial
Los expertos advierten que la inteligencia artificial entrenada con datos históricos puede amplificar sesgos existentes en lugar de eliminarlos. Si determinados grupos demográficos fueron sistemáticamente rechazados para préstamos en el pasado, esos patrones discriminatorios pueden perpetuarse en los nuevos modelos automatizados.
Las directrices del Banco Central de los Emiratos abordan específicamente este riesgo al exigir que las instituciones utilicen conjuntos de datos representativos. Esta medida busca garantizar que los modelos de aprendizaje permanezcan inclusivos y equilibrados en sus decisiones crediticias.
Niveles de supervisión humana
La cuestión de la supervisión humana en sistemas de inteligencia artificial se analiza mediante tres marcos operativos: humano en el circuito, humano sobre el circuito y humano fuera del circuito. Inicialmente, se espera que los bancos mantengan personal humano tomando las decisiones finales, aunque las presiones operativas podrían impulsar una reducción gradual de esta intervención.
En etapas posteriores, la participación humana podría limitarse únicamente a situaciones donde se active una alerta del sistema, o eventualmente eliminarse por completo del proceso decisorio. Esta evolución plantea interrogantes significativos sobre responsabilidad y protección del consumidor.
Desafíos regulatorios frente a la innovación tecnológica
Los reguladores enfrentan dificultades para mantener el ritmo de la rápida evolución de la inteligencia artificial, según indican analistas del sector. Esta brecha entre el desarrollo tecnológico y el marco regulatorio podría llevar a las autoridades a implementar restricciones temporales para garantizar la seguridad del consumidor.
Mientras los bancos tradicionales mantienen enfoques conservadores frente al riesgo, se anticipa que las innovaciones más significativas provendrán del sector fintech. Las empresas tecnológicas financieras continúan explorando los límites de estas tecnologías, lo que requiere atención regulatoria enfocada para equilibrar innovación y protección del consumidor.
Se espera que el Banco Central de los Emiratos publique orientaciones adicionales conforme las instituciones financieras implementen estas directrices en sus operaciones. La efectividad de estas medidas dependerá de la capacidad de supervisión continua y la adaptación del marco regulatorio a los desarrollos tecnológicos emergentes. La colaboración entre reguladores, instituciones tradicionales y empresas fintech será determinante para establecer estándares que promuevan tanto la inclusión financiera como la protección adecuada de los consumidores en el ecosistema de servicios bancarios automatizados.