Marc Sureda
El desarrollo de aplicaciones para el ámbito contable y de recursos humanos requiere evaluar constantemente la recepción de las nuevas tecnologías en el mercado profesional. En este contexto, el estudio global «The Emerging Economics of AI in Finance«, elaborado por la firma de análisis IDC y respaldado por el proveedor de software empresarial Sage, ha analizado la perspectiva de más de 2.000 responsables en la toma de decisiones financieras. Los datos recogidos indican que la capacidad de comprender y justificar cómo los sistemas algorítmicos llegan a sus conclusiones se está erigiendo como un requisito indispensable para su adopción. La exigencia de control es de tal magnitud que el 68% de los responsables financieros españoles descartaría una herramienta de IA con un 99% de precisión si esta no es capaz de justificar sus resultados.
Esta necesidad de visibilidad corporativa surge como consecuencia de un problema operativo creciente. En la actualidad, los profesionales del sector se enfrentan a un coste de tiempo derivado de la revisión de datos que ha sido denominado como impuesto de verificación. A escala global, los trabajadores destinan una media de 13 horas semanales a reconstruir y defender la información generada de forma automatizada. Al focalizar en el mercado nacional, la mitad de los profesionales dedica 15 horas o más a la semana a tareas de verificación de los datos generados por la IA, llegando casi a una quinta parte de los encuestados a invertir más de 30 horas en este proceso.
Debido a esta carga de trabajo, las competencias exigidas a los líderes de los departamentos económicos están experimentando una notable transformación. La gestión del riesgo, la gobernanza y el criterio para la toma de decisiones son actualmente las habilidades más valoradas. En España, estas capacidades alcanzan una puntuación de 32 puntos, superando ampliamente a los 16 puntos otorgados a los conocimientos contables técnicos tradicionales. Ante este escenario, queda patente que las organizaciones consideran inaceptable la precisión técnica si carece de capacidad de auditoría, puesto que el rendimiento bruto no resulta útil si el sistema informático oculta la forma en la que elabora sus recomendaciones.
Para solucionar estas deficiencias de trazabilidad, la industria tecnológica está iniciando una transición desde los modelos opacos de caja negra, donde la lógica subyacente es inaccesible, hacia arquitecturas de caja de cristal. Estos nuevos desarrollos buscan proporcionar transparencia total sobre las fuentes y el razonamiento aplicado. Como muestra del interés del mercado por esta evolución, más de la mitad de las empresas estaría dispuesta a asumir un coste económico mayor por adquirir plataformas que integren esta claridad y el 71% de los directivos señala que los proveedores que aplican principios de diseño transparente se posicionan como socios preferentes.
Desde el punto de vista de la ingeniería, los responsables técnicos de Sage argumentan que en el ámbito de las finanzas la inexactitud es inadmisible y el coste de la incertidumbre resulta demasiado elevado al gestionar flujos de trabajo complejos. Por ello, sostienen que el éxito de estas herramientas no dependerá únicamente de su capacidad de procesamiento, sino de la creación de una infraestructura basada en la confianza que evite que los empleados deban actuar como investigadores de las respuestas generadas por los sistemas.
Aaron Harris, CTO de Sage afirma: “En finanzas, decir que algo es casi correcto siempre ha significado que era incorrecto. A medida que la IA asume flujos de trabajo financieros más complejos, el coste de la incertidumbre es sencillamente demasiado alto. Esta investigación muestra que la próxima era de la IA no se ganará sólo con la capacidad técnica del modelo por sí sola; se ganará con infraestructura de confianza. Los equipos financieros no pueden permitirse pasar horas haciendo de detectives con resultados de IA de caja negra. Necesitan soluciones que aporten transparencia, control y trazabilidad a los sistemas que hay detrás de sus resultados, para poder ejecutar con absoluta confianza”.
Kevin Permenter, Research Director, Financial Applications en IDC, añade que “las organizaciones que lograrán la ventaja más duradera en IA serán aquellas que replanteen la infraestructura de confianza no como una restricción para el despliegue de la IA, sino como la base sobre la que se construye una IA escalable. Las organizaciones deben tomar una elección; actuar pronto para convertir la confianza en procesos concretos o arriesgarse a verse desbordadas por la sobrecarga de verificación”.
En la misma línea, los analistas de IDC advierten de que las corporaciones que obtendrán ventajas duraderas serán aquellas que entiendan la explicabilidad de los resultados y el control de las acciones no como un freno técnico, sino como la base fundamental para escalar la tecnología. Por consiguiente, los departamentos de TI se ven empujados a actuar con celeridad para integrar la transparencia en sus procesos financieros de compra y despliegue para evitar la ineficiencia derivada de las revisiones manuales.
