IA responsable en la banca

Resumen Ejecutivo

La inteligencia artificial se consolida como una prioridad estratégica en el sector financiero. Durante la conferencia Responsible AI in Banking, organizada por Grant Thornton, expertos del Banco Central Europeo (BCE) y representantes de entidades como BBVA, Santander, Commerzbank y Lloyds Banking Group compartieron su visión sobre cómo los supervisores y bancos están pasando de la experimentación a un despliegue práctico de capacidades de IA.  

A lo largo de la jornada, se destacó cómo la inteligencia artificial se está integrando en los procesos de supervisión y las operaciones bancarias, al tiempo que plantean nuevos retos sobre gobernanza, rendición de cuentas, gestión de riesgos y preparación organizativa. Aunque las perspectivas variaban entre supervisores y profesionales, existía un amplio consenso en que el éxito pasa por equilibrar innovación y control mediante marcos sólidos de gobernanza y una apuesta constante por el talento y las capacidades. una adopción exitosa requiere un equilibrio entre innovación y control, respaldado por sólidos marcos de gobernanza y una inversión continua en personas y capacidades.

El evento incluyó también la visión de Grant Thornton sobre la validación de sistemas de IA, con un enfoque práctico centrado en la supervisión, el seguimiento y la gobernanza de la IA Generativa y Agéntica.

Revive la conferencia en el siguiente vídeo:

Parte I – Perspectiva del BCE: Construyendo un supervisor digitalmente habilitado

La inteligencia artificial se ha convertido en una prioridad estratégica para supervisores y entidades bancarias

En la apertura de la conferencia, el discurso describió cómo la innovación tecnológica está transformando el sector financiero y modificando la manera en que operan tanto los bancos como los supervisores. Según el BCE, la inteligencia artificial ofrece la oportunidad de mejorar la eficiencia, generar nuevos conocimientos a partir de los datos y reforzar la eficacia supervisora. El BCE considera la IA no sólo como un medio para mejorar sus propios procesos, sino también como una forma de comprender mejor las tecnologías que adoptan cada vez más las entidades supervisadas.

El BCE impulsa la IA en el marco de una agenda de transformación digital más amplia

La ponencia principal describió un programa de transformación digital lanzado en 2020 que combina inversiones en infraestructura de datos, tecnología de supervisión e inteligencia artificial con un cambio organizativo más amplio. El BCE explicó que su objetivo es lograr una supervisión más eficaz, más eficiente y más integrada en el seno de la comunidad supervisora europea. Se hizo especial hincapié en la simplificación del ecosistema tecnológico de supervisión y en la creación de una arquitectura capaz de soportar analítica avanzada y supervisión habilitada por IA.

En el marco de esta transformación, el BCE ha incorporado nuevas herramientas de supervisión que ayudan a los supervisores a analizar información, acceder a documentación e identificar riesgos con mayor eficiencia. Los ponentes también destacaron ejemplos como la plataforma Athena, que permite a los supervisores interactuar con información y documentación supervisora en múltiples idiomas. También se abordaron las inversiones en curso en capacidades de IA agéntica como parte de los esfuerzos por mejorar la productividad y la recuperación de conocimiento.

La supervisión humana sigue siendo un principio fundamental

Al debatir el creciente papel de la inteligencia artificial, el BCE subrayó repetidamente que la IA está destinada a apoyar a los supervisores y no a reemplazarlos. Las decisiones de supervisión siguen siendo responsabilidad de expertos humanos, siendo la inteligencia artificial una tecnología habilitadora y no un tomador de decisiones autónomo. La gobernanza sólida, los casos de uso controlados y el cumplimiento de los requisitos regulatorios se presentaron como principios centrales del enfoque del BCE.

La cultura, la formación y la responsabilidad son esenciales para una adopción exitosa

Un tema recurrente fue que el éxito de la transformación digital depende tanto de las personas como de la tecnología. El BCE describió amplias inversiones en desarrollo de competencias digitales, formación del liderazgo y colaboraciones con instituciones académicas. Se otorgó especial importancia a ayudar al personal a comprender tanto las oportunidades como las limitaciones de las tecnologías emergentes. La conferencia concluyó destacando la necesidad de equilibrar innovación y control, reconociendo al mismo tiempo que no adoptar tecnologías transformadoras puede crear riesgos para las organizaciones.

Parte II – Perspectivas del sector: Gobernanza, responsabilidad y gestión del riesgo en IA

Los bancos avanzan de la experimentación con IA hacia el despliegue operativo

El panel del sector se centró en cómo los bancos están abordando la adopción de la IA en la práctica. Los participantes debatieron cómo muchas instituciones están yendo más allá de la experimentación y las iniciativas centradas en la productividad hacia un despliegue más amplio en los procesos empresariales. Los ejemplos tratados incluyeron la interacción con clientes, la toma de decisiones crediticias, las actividades de prevención del blanqueo de capitales y los programas de eficiencia operativa. Todos concluyeron en que el ritmo de adopción sigue acelerándose, impulsado en parte por la preocupación por quedarse atrás frente a la competencia y perder oportunidades que presenta la tecnología.

La IA Generativa y la IA Agéntica plantean nuevos desafíos de gobernanza

Una parte sustancial del debate se centró en las diferencias entre los modelos analíticos tradicionales, el aprendizaje automático, la IA Generativa y la IA Agéntica. Los ponentes coincidieron en que los enfoques de gobernanza para los modelos tradicionales son relativamente maduros, mientras que las entidades siguen perfeccionando sus enfoques para sistemas de IA. La IA Agéntica fue descrita como una fuente de complejidad adicional, dado que estos sistemas pueden acceder a múltiples aplicaciones, recuperar información de forma dinámica y ejecutar acciones con distintos grados de autonomía.

La gobernanza emerge como habilitador clave de una adopción responsable de la IA

La gobernanza fue uno de los temas dominantes durante la mesa redonda. Los participantes subrayaron la importancia de mantener inventarios de casos de uso de IA, establecer estructuras claras de propiedad y aplicar controles que reflejen la complejidad y materialidad de las aplicaciones individuales. En lugar de restringir la innovación, la gobernanza se describió como proporcionando la visibilidad necesaria para apoyar un despliegue responsable a gran escala.

El foco pasa de la gobernanza de modelos a la gobernanza de sistemas

Uno de los temas más destacados del panel fue la observación de que las organizaciones supervisan cada vez más sistemas completos de IA en lugar de modelos individuales. Los participantes señalaron que muchas soluciones de IA ahora comprenden múltiples componentes interconectados, incluyendo modelos, prompts, mecanismos de recuperación, repositorios de conocimiento, servicios externos y capacidades de monitorización. En consecuencia, las actividades de supervisión se están expandiendo más allá de la validación tradicional de modelos hacia una comprensión más completa de cómo operan los sistemas de IA en la práctica.

Los fundamentos de datos siguen siendo un desafío clave

A pesar de los rápidos avances en capacidades de IA, los ponentes señalaron que muchos de los retos históricos en materia de datos siguen siendo muy relevantes. Los entornos heredados fragmentados, los problemas de trazabilidad y las definiciones de datos inconsistentes continúan afectando a los esfuerzos de implantación en todo el sector. Al mismo tiempo, las organizaciones dependen cada vez más de proveedores de servicios en la nube y de vendedores externos de tecnología de IA, lo que introduce consideraciones adicionales en materia de resiliencia operativa y gestión de riesgos de terceros.

Las expectativas regulatorias continúan evolucionando

El debate concluyó con reflexiones sobre las expectativas de supervisión y el futuro entorno regulatorio. La responsabilidad, la supervisión humana, la monitorización, los procesos de escalada y la evaluación de resultados fueron destacados de forma recurrente como áreas de atención. Aunque los enfoques regulatorios siguen evolucionando en diferentes jurisdicciones, la gobernanza y la rendición de cuentas se identificaron de forma constante como requisitos fundamentales para una adopción exitosa de la IA.

Parte III – Perspectiva de Grant Thornton: De la Validación de Modelos a la Validación de Sistemas de IA

Los enfoques tradicionales de validación de modelos no son suficientes para los sistemas de IA

Los enfoques tradicionales de validación de modelos no son suficientes para los sistemas
de IA. Basándose en los temas planteados tanto por el BCE como por los profesionales del sector, la presentación de Grant Thornton se centró en uno de los retos más prácticos a los que se enfrentan hoy las instituciones financieras: cómo validar y monitorizar continuamente los sistemas de IA. La presentación destacó un cambio fundamental desde los modelos tradicionales de aprendizaje automático hacia la IA generativa y la IA agente. A diferencia de los modelos convencionales, que son en gran medida deterministas y repetibles, los sistemas de IA son inherentemente probabilísticos, lo que obliga a las instituciones a replantearse cómo se realizan la validación, el seguimiento y la supervisión.

La validación de IA debe centrarse en los datos, el comportamiento, los resultados, la supervisión humana y la monitorización

La presentación introdujo un marco de validación estructurado en cinco áreas clave: datos y seguridad de datos, pruebas de comportamiento, evaluación de resultados, supervisión humana y monitorización continua. En lugar de centrarse únicamente en el rendimiento del modelo, el marco de validación efectiva evalúa cómo funciona todo el sistema de IA, cómo se generan las salidas y si los controles adecuados están integrados a lo largo del ciclo de vida. Junto a una gobernanza sólida de datos, las instituciones también deben considerar la calidad y precisión de los repositorios de conocimiento, prompts, instrucciones y flujos de trabajo que influyen en el comportamiento y la producción de la IA.

Las pruebas de comportamiento examinan si un sistema de IA se comporta de forma segura, predecible y consistente en una variedad de condiciones. En lugar de evaluar la calidad de una única respuesta, evalúa cómo el sistema razona, sigue instrucciones, maneja información incompleta o contradictoria, aplica salvaguardas y, cuando existen capacidades agentes, planifica y ejecuta acciones para alcanzar objetivos definidos. Las pruebas se realizan bajo una variedad de escenarios de estrés controlado para identificar debilidades conductuales sistemáticas que pueden no ser evidentes durante el funcionamiento normal.

La evaluación de resultados se centra en la calidad y idoneidad de las respuestas individuales. Esto incluye evaluar la relevancia, la precisión fáctica, la completitud, la claridad, el tono profesional y la idoneidad general para el propósito. Mientras que ciertas comprobaciones pueden automatizarse, como verificar la consistencia frente al material fuente, otras requieren el juicio humano para determinar si la salida responde adecuadamente al objetivo previsto, presenta un razonamiento equilibrado y es adecuada para su contexto empresarial, de riesgo o regulatorio.

Para ilustrar en qué se diferencia la validación de IA de la validación tradicional de modelos, la presentación destacó varios enfoques prácticos de prueba. Un ejemplo de evaluación de resultados fue una prueba de relevancia, que valora si la respuesta de un agente de IA se mantiene centrada en la solicitud original. Una respuesta puede ser factualmente correcta y, sin embargo, no superar la validación si introduce información innecesaria o se desvía del objetivo previsto. Un ejemplo de prueba de comportamiento consistió en presentar al agente una instrucción deliberadamente engañosa para evaluar si impugna adecuadamente la premisa subyacente o simplemente reproduce información inexacta. Este tipo de pruebas ayuda a evaluar no sólo la exactitud de los resultados, sino también la fiabilidad, robustez y solidez del comportamiento del agente bajo diferentes condiciones.

La supervisión humana y la monitorización proporcional siguen siendo esenciales

La presentación subrayó la importancia de la supervisión humana y la monitorización continua. A medida que los resultados de la IA se vuelven más sofisticados, las organizaciones deben seguir cuestionando y verificando los resultados en lugar de confiar en ellos de forma automática. La monitorización debe ser proporcional a factores como la autonomía, el impacto en el negocio y la relevancia regulatoria, con una segmentación que ayude a equilibrar innovación y control

Para profundizar en los distintos enfoques de validación de sistemas IA, así como consideraciones prácticas relativas a la gestión del riesgo de modelo, ver la siguiente publicación de Grant Thornton, Validating Artificial Intelligence Systems: A Modern Capability for Model Risk Management.

Conclusión

La conferencia demostró que tanto los supervisores como las instituciones financieras están invirtiendo activamente en inteligencia artificial mientras refuerzan simultáneamente los marcos de gobernanza y control. La ponencia principal del BCE destacó cómo la IA se está integrando en los procesos de supervisión mediante una combinación de inversión tecnológica, preparación organizativa y supervisión humana. El panel de la industria amplió estos temas explorando las realidades prácticas de la adopción de la IA, incluyendo la gobernanza, la rendición de cuentas, los fundamentos de los datos y las expectativas regulatorias en evolución. Finalmente, la presentación de Grant Thornton ofreció un marco práctico para validar y monitorizar sistemas de IA, destacando el cambio de la validación tradicional de modelos hacia una gobernanza más amplia de los sistemas de IA.

Aunque los enfoques siguen madurando, las tres sesiones reforzaron un mensaje común: la adopción exitosa de la IA requiere un equilibrio entre innovación y control, respaldado por una gobernanza sólida, una clara rendición de cuentas y una inversión continua en personas, procesos y tecnología.