FSI Occasional Papers No 24
El creciente uso de la inteligencia artificial (IA) en las finanzas está transformando las operaciones, la gestión de riesgos y los servicios al cliente; sin embargo, la limitada explicabilidad de los modelos complejos (como el deep learning y los modelos de lenguaje de gran tamaño, LLMs) plantea serios desafíos para las instituciones y los reguladores. La explicabilidad es fundamental para la transparencia, la rendición de cuentas, el cumplimiento normativo y la confianza, pero las técnicas actuales suelen ser poco fiables.
La mayoría de las directrices existentes de gestión del riesgo de modelos (MRM, por sus siglas en inglés) son de carácter general, no están adaptadas a la IA avanzada y rara vez mencionan de manera explícita la explicabilidad, lo que dificulta el cumplimiento, especialmente cuando se emplean modelos de terceros.
A medida que se amplía la adopción de la IA en áreas críticas de negocio, los reguladores deben adaptar las prácticas de MRM, equilibrando las compensaciones entre explicabilidad y desempeño. Los modelos complejos de IA aún podrían utilizarse si los riesgos se gestionan adecuadamente, se aplican salvaguardas y se imponen restricciones en los casos de uso sensibles (por ejemplo, capital regulatorio). Asimismo, los reguladores deberán fortalecer las capacidades de su personal para evaluar la IA de manera efectiva.
(Documento en inglés)
