Hay una creencia de transformación digital que me preocupa cada vez más:
pensar que automatizar una conversación también automatiza la responsabilidad.
La idea suena seductora.
Un chatbot atiende más rápido.
No duerme.
No se cansa.
No pide vacaciones.
Responde al mismo tiempo a miles de personas.
Reduce carga operativa.
Ordena la demanda.
Baja costos.
Visto desde un comité, parece una decisión obvia.
Pero el cliente no vive la experiencia desde el comité.
El cliente no piensa:
“Estoy interactuando con una herramienta tecnológica probablemente entrenada con una base de conocimiento que puede tener errores”.
El cliente piensa algo mucho más simple:
“La empresa me está diciendo esto.”
Y ahí empieza el problema.
Porque una cosa es usar inteligencia artificial para mejorar la atención.
Y otra muy distinta es usarla como si fuera una zona gris donde nadie responde por lo que se promete.
El caso Air Canada
En noviembre de 2022, Jake Moffatt necesitaba viajar por la muerte de su abuela. Antes de comprar los tiquetes, consultó el chatbot de Air Canada sobre las tarifas por duelo.
El chatbot le indicó que podía comprar el tiquete y solicitar el descuento después, dentro de un plazo determinado.
Moffatt compró los tiquetes.
Después pidió el reembolso correspondiente.
Air Canada lo negó.
La aerolínea sostuvo que su política real exigía solicitar la tarifa por duelo antes de viajar y que no permitía aplicar ese descuento retroactivamente. El problema era que el chatbot de su propia página web había dicho algo distinto.
El caso llegó al Civil Resolution Tribunal de British Columbia.
En febrero de 2024, el tribunal decidió que Air Canada debía responder por la información entregada por su chatbot. La aerolínea fue condenada a pagar C$650,88 en daños, C$36,14 en intereses y C$125 en costos del tribunal, para un total de C$812,02.
El monto, para una aerolínea, es irrelevante.
Pero la decisión es muy importante.
Porque deja una lección que va mucho más allá de un chatbot mal configurado:
si una empresa pone una herramienta a hablar con sus clientes, esa herramienta habla en nombre de la empresa.
La defensa que revela el verdadero problema
Lo más interesante del caso no fue solamente que el bot se equivocara.
Fue la defensa de Air Canada.
Según la decisión y la cobertura del caso, la aerolínea intentó argumentar que no debía ser responsable por la información entregada por el chatbot. El tribunal rechazó esa idea y señaló que no había razón para que el pasajero distinguiera entre una parte de la página web que era confiable y otra que no lo era.
Esa parte me parece clave.
Porque muestra una confusión que muchas empresas están cometiendo.
Por dentro, la organización divide todo:
El bot.
La web.
El área de tecnología.
El área legal.
El área de servicio.
El proveedor.
La base de conocimiento.
La política comercial.
El cliente no ve nada de eso.
El cliente ve una sola cosa:
una empresa respondiendo.
Y cuando esa respuesta falla, la confianza se rompe completa, no por áreas.
Automatizar no es abandonar
Creo que este es el punto central.
La automatización no elimina la necesidad de gestión.
La aumenta.
Cuando una persona de servicio al cliente se equivoca, el error suele quedar contenido en una conversación.
Cuando un chatbot se equivoca, puede repetir el mismo error cientos o miles de veces con una seguridad impecable.
Ese es el riesgo de la transformación digital mal entendida.
No solo hace más eficientes los aciertos.
También puede hacer más escalables los errores.
Por eso, antes de implementar un chatbot, las empresas deberían tener conversaciones que van mucho más allá de la tecnología.
¿Qué temas puede responder?
¿Qué temas debe escalar?
¿Qué políticas están actualizadas?
¿Quién revisa sus respuestas?
¿Qué pasa si contradice una política pública de la empresa?
¿Qué evidencia conserva la compañía de lo que le dijo al cliente?
¿Quién tiene autoridad para apagarlo o limitarlo si empieza a responder mal?
Si esas preguntas no están resueltas, la empresa no tiene una estrategia de automatización.
Tiene una ruleta operativa.
El problema no es el chatbot
Sería un error concluir que los chatbots son malos.
No lo son.
Pueden ser extraordinariamente útiles.
Pueden resolver preguntas frecuentes.
Reducir tiempos de espera.
Guiar procesos simples.
Mejorar accesibilidad.
Liberar a los equipos humanos para atender casos más complejos.
Pero su valor depende del gobierno que los rodea.
Un chatbot no debería ser visto como un reemplazo barato de atención al cliente.
Debería ser una extensión controlada de la promesa de servicio de la empresa.
Y eso cambia la conversación.
No basta con preguntarse:
¿Cuánto nos vamos a ahorrar?
También hay que preguntarse:
¿Qué riesgo estamos asumiendo si responde mal?
¿Qué experiencia estamos diseñando para el cliente?
¿Qué temas son demasiado sensibles para dejarlos sin supervisión?
¿Qué tan rápido podemos corregir un error?
La automatización sin gobierno puede parecer eficiencia.
Pero muchas veces es simplemente irresponsabilidad operativa con una interfaz moderna.
El cliente no distingue entre canal y compañía
Este es uno de los grandes aprendizajes de la transformación digital.
Las empresas siguen pensando por canales.
El cliente no.
Para la organización hay página web, aplicación, call center, WhatsApp, chatbot, correo, sucursal, asesor y redes sociales.
Para el cliente hay una sola relación.
Si el chatbot dice una cosa y el call center dice otra, el cliente no piensa que hubo un problema de integración.
Piensa que la empresa no sabe lo que está haciendo.
Si la aplicación promete algo y la oficina lo niega, el cliente no piensa en arquitectura tecnológica.
Piensa que le incumplieron.
Si la IA responde con seguridad una política equivocada, el cliente no dice “falló el modelo”.
Dice “me engañaron”.
Y esa diferencia es fundamental.
La transformación digital no puede diseñarse desde la comodidad del organigrama.
Tiene que diseñarse desde la experiencia real del cliente.
Las implicaciones para otras industrias
El caso Air Canada parece pequeño, pero aplica a muchas industrias.
Banca
Un chatbot que informa mal una tasa, una comisión, un plazo o una condición de crédito puede generar reclamos, sanciones y pérdida de confianza.
En banca, una respuesta automática no es solo atención.
Puede ser información financiera relevante.
Seguros
Una IA que explica mal una cobertura puede crear expectativas que luego la compañía no está dispuesta a cumplir.
Y cuando ocurre el siniestro, el problema deja de ser técnico.
Se vuelve reputacional y legal.
Salud
Un asistente virtual que orienta mal a un paciente puede tener consecuencias mucho más delicadas.
Acá la pregunta no es solo eficiencia.
Es seguridad, responsabilidad y criterio clínico.
Educación
Una universidad que automatiza admisiones, requisitos, homologaciones o pagos puede terminar entregando información contradictoria a estudiantes.
Y para un estudiante, un error de ese tipo puede costar tiempo, dinero y confianza.
Retail
Un bot que promete disponibilidad, precios, devoluciones o garantías que luego no se cumplen convierte una mala respuesta en una mala experiencia de marca.
En todas estas industrias, la pregunta no es si debemos automatizar.
La pregunta es:
¿Qué tipo de responsabilidad estamos preparados para asumir cuando automatizamos?
La lección para los líderes
Creo que hay cinco aprendizajes claros.
El primero:
La IA no terceriza la responsabilidad.
Si está en tu canal, con tu marca y atendiendo a tus clientes, habla por vos.
El segundo:
No todo debe automatizarse al mismo nivel.
Hay preguntas simples y repetitivas.
Y hay casos sensibles, emocionales, legales o financieros que requieren escalamiento humano.
El tercero:
La base de conocimiento es tan importante como el modelo.
Un chatbot no puede responder correctamente si las políticas internas están desactualizadas, dispersas o mal gobernadas.
El cuarto:
La experiencia debe diseñarse como una sola conversación.
No puede haber una verdad en la web, otra en el bot y otra en el call center.
El quinto:
La eficiencia sin confianza no es transformación.
Es solo reducción de costos con riesgo acumulado.
La reflexión que me queda
La inteligencia artificial va a cambiar profundamente la atención al cliente.
Eso es evidente.
Pero quizá el mayor riesgo no está en que las máquinas se equivoquen.
El mayor riesgo está en que las empresas crean que, porque respondió una máquina, la responsabilidad también se volvió automática, difusa o discutible.
No funciona así.
Para el cliente, la voz del chatbot es la voz de la empresa.
Y por eso la pregunta de fondo no es:
“¿Cuántas conversaciones puede atender nuestra IA?”
La pregunta real es:
“¿Estamos dispuestos a hacernos responsables por cada respuesta que nuestra IA entrega?”
Porque transformar digitalmente una empresa no consiste en poner tecnología entre la compañía y el cliente.
Consiste en usar la tecnología para responder mejor.
Y responder mejor, al final, también significa responder por lo que se dice.