Ph. D Giancarlo López – Escuela de Dirección (Universidad de Piura)

El dilema actual refleja una tensión estructural que atraviesa a las empresas tradicionales a nivel global: la colisión entre un aparato de control interno maduro, diseñado bajo esquemas deterministas y la naturaleza probabilística de la Inteligencia Artificial (IA).

Tradicionalmente, la solidez de una organización se medía por la previsibilidad de sus procesos y la trazabilidad lineal de sus decisiones. Sin embargo, la incorporación masiva de algoritmos de aprendizaje automático (machine learning) e inteligencia artificial generativa ha desplazado el núcleo operativo desde decisiones humanas auditables hacia inferencias estadísticas masivas. ¿Cuáles son las consideraciones que debemos tomar en cuenta para no caer en un atasco en la construcción de valor a través del uso de la IA?

Sistemas Deterministas vs. Sistemas Probabilísticos

Para comprender la magnitud del desafío en los procesos de transformación digital, es relevante contrastar los dos paradigmas que conviven hoy en las empresas.

Sistemas Deterministas: Se basan en reglas de negocio fijas, árboles de decisión rígidos (del tipo si ocurre X, entonces apruebo Y) y procesos secuenciales. Su control opera fundamentalmente ex post mediante muestras representativas y auditorías sobre expedientes físicos o digitales con un rastro legible. Asumen un volumen humano y una causalidad directa donde detrás de cada decisión existe un responsable.

Sistemas Probabilísticos: Operan sobre modelos estadísticos complejos y probabilidades de acierto a partir de grandes volúmenes de datos. No saben la respuesta correcta en el sentido lógico, sino que estiman la más probable. Generan millones de inferencias por segundo en tiempo real sin dejar un rastro documental tradicional a menos que se diseñe explícitamente. Los modelos aprenden y se reentrenan, lo que implica que su comportamiento puede degradarse silenciosamente si el entorno cambia, lo que vuelve obsoleto el enfoque tradicional de auditorías periódicas, exigiendo pasar a un modelo de monitoreo continuo.

Oportunidades y riesgos de la eficiencia algorítmica

La adopción de IA en las empresas modernas ha demostrado ventajas competitivas innegables en términos de agilidad y escalabilidad:

·        Procesamiento masivo en tiempo real: Capacidad para analizar el 100% de las transacciones u operaciones (por ejemplo, prevención de fraudes) en lugar de depender de revisiones manuales sobre muestras limitadas.

·        Agilidad comercial: Aprobación de servicios o procesos en segundos y atención automatizada de alta frecuencia a través de asistentes conversacionales.

·        Eficiencia operativa: Reducción de tiempos y costos en tareas rutinarias mediante copilotos internos de asistencia generativa.

Sin embargo, delegar procesos a sistemas puramente probabilísticos genera riesgos severos:

·       La obsolescencia del control tradicional: Dado que los modelos probabilísticos aprenden y mutan con los datos nuevos, un algoritmo aprobado hoy puede desviarse mañana. Esto hace insuficientes las revisiones de cumplimiento exigiendo un monitoreo continuo.

·       Sesgos ocultos: Modelos automatizados que comienzan a discriminar o fallar sistemáticamente debido a la degradación de los datos de entrada, sin que exista una regla explícita que un auditor pueda detectar fácilmente.

·       Alucinaciones y exposición legal: Asistentes interactivos entregando información errónea al usuario, lo que genera compromisos legales, perjuicios al cliente y crisis de reputación.

·       Shadow AI: Empleados utilizando herramientas externas sin supervisión, exponiendo datos confidenciales al vulnerar la trazabilidad de la información.

Arquitectura Combinada: El Enfoque de Doble Capa

Para mitigar los riesgos sin sacrificar la velocidad del negocio, las organizaciones han comprendido que no deben elegir entre sistemas deterministas o probabilísticos, sino integrarlos. La solución tecnológica más robusta es una arquitectura de decisión de doble capa:

·       Capa Probabilística (Experiencia, Interacción y Análisis): Utiliza la Inteligencia Artificial para interactuar fluidamente con el usuario, procesar lenguaje natural, evaluar múltiples variables y predecir comportamientos en fracciones de segundo. Aporta la agilidad comercial, la hiperpersonalización y la eficiencia que exige el mercado digital.

·       Capa Determinista (Reglas de Inferencia y Control Normativo): Actúa como el freno innegociable (guardrails). Se basa en reglas de negocio estrictas (exclusiones regulatorias, políticas de riesgo ético o límites de capital) que la IA no tiene permitido violar.

En la práctica operativa, esto significa que el motor probabilístico puede dialogar con el cliente y proponer una oferta hiper-personalizada, pero antes de que la decisión se ejecute en los sistemas centrales, el motor determinista valida la acción. Si la IA sugiere algo que rompe una política de cumplimiento, la capa determinista bloquea la operación. Así, el sistema probabilístico impulsa el crecimiento, mientras que la determinista blinda a la empresa.

El Modelo Híbrido

Para que esta arquitectura tecnológica funcione, requiere un modelo de gobierno híbrido o federado:

1. Plataforma y Estándares Centralizados: Áreas de Riesgos, Cumplimiento y Tecnología definen las reglas deterministas, los marcos éticos y las plataformas de monitoreo.

2. Dueños de Modelos Distribuidos: Los líderes de negocio (comercial, operaciones) asumen la responsabilidad directa sobre los modelos probabilísticos y los datos de sus respectivos frentes operativos, evitando la dilución de la responsabilidad.

3. Calibración de la Delegación: Se clasifica estrictamente qué decisiones se automatizan por completo, cuáles requieren un humano en el circuito (HITL) para ser revisadas y qué ámbitos estratégicos son indelegables a una máquina.

Fábrica de créditos digitales

Para materializar cómo interactúan estas dos arquitecturas en tiempo real, tomemos un proceso de originación de créditos digitales end to end, donde la automatización y el control conviven sin fricciones[1]:

Fase 1: Interacción y Captura (Dominio Probabilístico)

·       Gestión conversacional: El cliente inicia su solicitud a través de un asistente virtual impulsado por IA generativa que entiende lenguaje natural, guiándolo en la recopilación de datos sin formularios tediosos.

·       Identidad Biométrica: Un modelo de visión artificial (IA probabilística) captura el rostro del usuario y extrae los datos de su documento de identidad mediante reconocimiento óptico (OCR), infiriendo la autenticidad del documento.

Fase 2: Filtros de Cumplimiento Innegociables (Dominio Determinista)

·       Verificación regulatoria: Inmediatamente después de la captura biométrica, el sistema lanza consultas automatizadas basadas en reglas rígidas: cruza la identidad con bases de datos gubernamentales y listas restrictivas internacionales (como LA/FT u OFAC). Si hay una alerta, el proceso se bloquea automáticamente; la IA no tiene poder de excepción.

Fase 3: Evaluación y Oferta Combinada (Sinergia Híbrida)

·       Motor predictivo (Probabilístico): Algoritmos de machine learning analizan la huella digital y el comportamiento financiero del cliente, calculando la probabilidad de impago y estructurando una oferta hiperpersonalizada de monto y tasa en milisegundos.

·       Motor de riesgo (Determinista): Antes de mostrar la oferta al cliente, una regla dura verifica que la propuesta de la IA no supere la "capacidad máxima de endeudamiento" ni las políticas de riesgo estructurales de la compañía.

Fase 4: Delegación y Cierre (Dominio Determinista con HITL)

·       Enrutamiento inteligente: Un árbol de decisión basado en matrices de autonomía define el siguiente paso. Si el riesgo es bajo y el monto es menor al umbral, el crédito se aprueba y desembolsa de forma autónoma (Firma Electrónica). Si el caso presenta variables atípicas o montos elevados, la regla determinista exige un Human-in-the-Loop (HITL), derivando el expediente a un analista o comité de crédito para su firma final.

Conclusiones

1.       En la era de la incertidumbre algorítmica, el control ya no puede ser un acto retrospectivo de revisión de expedientes, sino un sistema integrado de monitoreo continuo.

2.       El futuro del liderazgo digital no consiste en someterse ciegamente a la probabilidad estadística, ni en quedarse estancado en la rigidez de las reglas fijas.

3.       Las organizaciones ganadoras serán aquellas capaces de orquestar ambos mundos: utilizando la IA probabilística para expandir las fronteras de su negocio y la lógica determinista para asegurar que el crecimiento ocurra dentro de un marco ético, legal y predecible.

Referencias

Boston Consulting Group (BCG). (2023). Responsible AI: Delivering on the promise of artificial intelligence. https://www.bcg.com/capabilities/artificial-intelligence/responsible-ai

Chui, M., Roberts, R., & Yee, L. (2023, 14 de junio). The economic potential of generative AI: The next productivity frontier. McKinsey & Company. https://www.mckinsey.com/capabilities/mckinsey-digital/our-insights/the-economic-potential-of-generative-ai-the-next-productivity-frontier

Davenport, T. H., & Redman, T. C. (2020, 21 de mayo). Digital transformation comes down to talent in 4 key areas. Harvard Business Review. https://hbr.org/2020/05/digital-transformation-comes-down-to-talent-in-4-key-areas

Gartner. (2023). Innovation insight for AI trust, risk and security management (AI TRiSM). Gartner Research. https://www.gartner.com/en/articles/what-is-ai-trism

Iansiti, M., & Lakhani, K. R. (2020). Competing in the age of AI. Harvard Business Review, 98(1), 60–67. https://hbr.org/2020/01/competing-in-the-age-of-ai

[1] Ejemplo extraído sobre la propuesta de valor de 4ToldFintech