Hace unos días compartimos una encuesta a partir de un caso que se volvió viral: un comercio del Reino Unido automatizó descuentos con IA y, después de una larga negociación con el chatbot, un cliente consiguió un 80% de descuento en una compra de más de USD 10.000.
El problema apareció después: el comercio sostuvo que no podía asumir esa pérdida y quiso cancelar la operación. El cliente, por su parte, respondió que iniciaría acciones legales si no se respetaba el acuerdo.
Más allá del caso puntual, la situación abre una pregunta que cada vez aparece con más fuerza en las organizaciones: ¿hasta dónde debería poder decidir una herramienta con IA sin intervención humana?
Los resultados de la encuesta quedaron así:
- 44%: Depende del contexto
- 38%: Hasta cierto límite
- 19%: Solo tareas operativas
- 0%: También decisiones comerciales
Hay algo interesante en cómo se distribuyeron las respuestas. Casi nadie eligió posiciones completamente extremas. No apareció una defensa de la autonomía total de la IA, pero tampoco una idea de control humano absoluto sobre cada acción.
Más bien, lo que aparece es cierta cautela.
Y tiene sentido. Porque cuando las herramientas de IA empiezan a participar en procesos comerciales, atención al cliente o decisiones operativas, la discusión deja de ser solamente tecnológica. Empiezan a entrar en juego preguntas sobre responsabilidad, criterio, supervisión y límites.
En este caso, por ejemplo, la IA no “inventó” sola la posibilidad de negociar descuentos. Alguien definió previamente que tuviera esa capacidad, alguien configuró sus márgenes de acción y alguien decidió que pudiera cerrar acuerdos sin intervención humana directa.
Y ahí aparece un punto interesante: muchas organizaciones parecen querer la eficiencia de la automatización, pero no siempre asumir completamente las consecuencias de su uso.
Mientras la IA vende más rápido, responde más consultas o reduce costos, funciona. Pero cuando toma una resolución inconveniente, vuelve a aparecer el intento de despegarse: “fue la IA”.
Sin embargo, no vale desligarse de la responsabilidad de su implementación. Las acciones automatizadas siguen siendo organizacionales.
También resulta interesante pensar cómo interactúan las personas con este tipo de herramientas. Muchas veces alguien insiste más frente a un agente automatizado de lo que insistiría con una persona real, justamente porque percibe que el sistema puede ceder, repetir patrones o no registrar ciertas señales sociales.
Y quizás ahí aparece otra pregunta relevante: ¿en qué momento una conversación debería derivarse a una persona?
Porque, a diferencia de un vínculo humano, algunos sistemas automatizados están diseñados para sostener la interacción, negociar o evitar fricción comercial durante mucho tiempo. Sin criterios claros de escalamiento, la conversación puede no tener un cierre.
Por eso, más que preguntarnos únicamente hasta dónde debería decidir la IA, quizás también haga falta pensar qué cosas una organización nunca debería automatizar completamente y quién responde cuando una herramienta toma una resolución inesperada o inconveniente.