La inteligencia artificial puede recomendar. La firma no se delega.

La última pregunta del panel fue qué decisiones no debería delegar nunca una organización a un sistema de inteligencia artificial. Es la pregunta que más se repite en estas mesas y casi siempre se responde con una lista: crédito, contratación, despido, precios, diagnóstico médico. Todo lo que afecta derechos de personas.

La lista no está mal. El problema es que no sirve para trabajar. Un director que vuelve a su oficina con esa lista sigue sin saber qué hacer el lunes, porque la mayoría de las decisiones que su empresa está automatizando no aparecen ahí. Aprobar un descuento. Priorizar una orden de servicio. Decidir a qué cliente se llama primero. Ninguna de esas afecta derechos fundamentales, y todas juntas gobiernan el negocio.

Hay un criterio mejor, y es incómodo por lo simple que resulta.

Lo que la máquina revela

En treinta años de operación he visto pocas cosas tan consistentes como esta: cuando una organización intenta automatizar una decisión y se atora, casi nunca se atora en el modelo. Se atora al preguntar quién responde por el resultado.

La conversación se detiene, alguien dice que eso lo revisa un comité, otro aclara que el comité solo valida, y en veinte minutos queda claro que esa decisión llevaba años tomándose sin dueño. Funcionaba porque el costo de equivocarse se diluía entre varias áreas y nadie lo medía.

La inteligencia artificial no crea ese problema. Lo hace visible, y lo hace visible rápido, porque un sistema exige que la regla se escriba. Mientras la decisión la tomaba una persona con criterio, la ambigüedad se podía sostener: el criterio rellenaba los huecos sin que nadie los notara. Cuando hay que programarla, los huecos salen a la superficie todos juntos.

Por eso las implementaciones más difíciles que he acompañado no fracasaron por falta de datos ni por elegir mal la herramienta. Fracasaron porque el proyecto obligaba a definir una responsabilidad que la organización llevaba años evitando definir, y eso es una conversación política, no técnica.

La prueba de la firma

Antes de automatizar una decisión, cualquiera, hay que poder contestar tres preguntas sin titubear:

1. Quién firma. No qué área: qué puesto. Si la respuesta tiene la palabra comité, todavía no hay respuesta.
2. Con qué información firma. Cuáles son las cifras que sostienen la recomendación, de dónde salen y si esa persona las puede auditar sin depender de quien construyó el sistema.
3. Qué pasa cuando se equivoca. No en abstracto. Cuál es la consecuencia medible de haber seguido la recomendación equivocada, y quién la absorbe.

Si las tres tienen respuesta, la decisión se puede automatizar con tranquilidad, incluso si afecta a personas, porque hay alguien que responde. Si alguna no tiene respuesta, el proyecto de inteligencia artificial acaba de descubrir un problema de gobierno, y ese problema se arregla antes y no con tecnología.

Recomendar no es decidir

Nada de esto es un argumento contra automatizar. Al contrario. Un sistema que calcula bien libera a una persona de la parte mecánica del juicio y le deja justamente la parte que no se puede delegar: entender el contexto, ponderar lo que no está en los datos, y asumir el resultado.

La distinción que importa no es entre decisiones importantes y decisiones menores. Es entre recomendar y responder. Una máquina puede recomendar con más consistencia que cualquiera de nosotros, y sin cansarse. Responder es otra cosa, y hasta donde alcanzo a ver, sigue siendo un trabajo con nombre y apellido.

Este texto salió de la última pregunta de un panel sobre implementación de inteligencia artificial en EGADE Business School, el 14 de agosto de 2026. No incluye ninguna conversación privada, ninguna empresa cliente ni cifras de nadie.

Volver al inicio