La inteligencia artificial está entrando en una nueva etapa dentro de las empresas. Después de dos años marcados por la irrupción de la IA generativa y su capacidad para automatizar tareas, producir contenidos y aumentar la productividad, el foco comienza a desplazarse hacia un problema menos visible, pero cada vez más relevante: entender cómo los algoritmos llegan a sus recomendaciones cuando estas empiezan a influir en decisiones reales del negocio.
El fenómeno está dando impulso a la llamada inteligencia artificial explicable o XAI (Explainable Artificial Intelligence), un enfoque que busca abrir la denominada “caja negra” de los modelos. En términos simples, no se trata solo de que una herramienta entregue una respuesta, sino que permita identificar qué información consideró, qué factores tuvieron mayor peso y por qué esa combinación terminó en una determinada recomendación.
La discusión adquiere relevancia a medida que crece el uso de estas tecnologías en América Latina. Según el Índice Latinoamericano de Inteligencia Artificial (ILIA) 2025, elaborado por la CEPAL y el Centro Nacional de Inteligencia Artificial (CENIA), [1] América Latina representa entre 15% y 20% del mercado mundial de descargas de aplicaciones de IA generativa, aunque los 19 países analizados en el índice concentran solo 1,12% de la inversión global en inteligencia artificial. “Una IA puede entregar un resultado preciso, rápido y convincente, pero eso no significa necesariamente que sepamos si es correcto para una situación determinada. Cuando estos sistemas comienzan a participar en decisiones reales, necesitamos entender qué hay detrás de sus recomendaciones, cuestionarlas cuando sea necesario y evaluar sus límites”, explica Federico dos Reis, CEO de INFORM para Latinoamérica.
Decisiones y variables
La utilidad de esta aproximación se vuelve evidente en operaciones donde las decisiones dependen de múltiples variables. Una compañía, por ejemplo, puede tener inventario suficiente para cubrir sus pedidos y, aun así, recibir una recomendación para anticipar una compra. En esta línea, detrás de esa alerta podría estar el aumento en los tiempos de entrega de un proveedor, un cambio en la demanda o una menor disponibilidad de fuentes alternativas. La diferencia está en que un sistema explicable permite conocer qué factores están elevando el riesgo, en lugar de entregar únicamente la instrucción de comprar antes. “Si una IA propone cambiar una secuencia, la pregunta deja de ser solo si el nuevo plan es más eficiente. También importa saber si busca reducir tiempos de espera, evitar un cuello de botella, proteger un envío prioritario o liberar capacidad”, añade dos Reis.
Y es que la necesidad de avanzar en esta dirección también aparece reflejada en las preocupaciones de las propias empresas. Según una encuesta de McKinsey realizada en 2024, 40% de los encuestados identificó la explicabilidad como un riesgo relevante en el uso de IA generativa, pero solo 17% señaló que estaba trabajando activamente para mitigarlo. [2]
La decisión final sigue siendo humana
De acuerdo con actores del rubro, la explicabilidad, sin embargo, no convierte a la inteligencia artificial en una tecnología infalible. Sobre este punto, dos Reis señala que un modelo puede mostrar con claridad las variables que utilizó y, aún así, trabajar con información incompleta, objetivos inadecuados o supuestos que ya no corresponden a la realidad. Por eso, XAI no reemplaza el criterio humano, ya que permite contar con más antecedentes para evaluar una recomendación, detectar sus limitaciones y decidir si resulta pertinente en un contexto determinado.
“El juicio humano sigue siendo esencial, porque solo las personas pueden ponderar las consecuencias en su contexto, considerar prioridades contrapuestas y decidir qué es apropiado en una situación determinada. Por ello, hace años definimos internamente una política de IA ética y responsable, donde la última decisión recae en las personas respecto al control de nuestras soluciones”, concluye el CEO de INFORM para Latinoamérica, quien precisa que para las empresas, el desafío ya no parece estar únicamente en cuánto pueden automatizar con estas herramientas, sino en cuánto pueden comprender, cuestionar y finalmente confiar en las decisiones que sus algoritmos ayudan a tomar.
[1]https://www.cepal.org/es/publicaciones/82514-indice-latinoamericano-inteligencia-artificial-ilia-2025
[2]https://www.mckinsey.com/capabilities/quantumblack/our-insights/building-ai-trust-the-key-role-of-explainability?utm_source
