El caso Air Canada: por qué tu chatbot tiene que saber decir «no lo sé»

Qué pasó con el chatbot de Air Canada

Un cliente preguntó al chatbot de la web de Air Canada por la tarifa reducida para quien viaja por el fallecimiento de un familiar. El chatbot le respondió que podía pedirla después de viajar, en los 90 días siguientes a la emisión del billete. El cliente compró el billete confiando en esa respuesta y, a la vuelta, pidió la reducción.

No era cierto. La política de la aerolínea no permitía pedirla después del viaje, y Air Canada se la negó. El cliente reclamó ante el Tribunal de Resolución Civil de la Columbia Británica.

Qué dijo el tribunal

Air Canada llegó a plantear que, en la práctica, el chatbot era responsable de sus propios actos. El tribunal no lo aceptó. Su razonamiento fue sencillo: la empresa responde de toda la información que hay en su web, y da igual que esa información venga de una página o de un chatbot.

La aerolínea tuvo que pagar al cliente la diferencia de precio, más intereses y las tasas del tribunal: 812,02 dólares canadienses en total. Conviene precisarlo: el tribunal no la obligó a aplicar la condición inventada, sino que la condenó por dar información engañosa de forma negligente.

Por qué importa aunque la cantidad sea pequeña

Poco más de 800 dólares no hunden a una aerolínea. Lo que de verdad pesa es lo demás: un cliente que se fía de una respuesta que nadie de la empresa ha dado, una reclamación que no tenía por qué existir y el nombre de la marca en las noticias.

En un negocio pequeño, la proporción cambia. Un chatbot que promete un plazo imposible, un precio que no es o una devolución que no toca genera exactamente el mismo problema, y lo tiene que resolver la misma persona que atiende todo lo demás.

Por qué un chatbot se inventa una respuesta

Un chatbot hecho con un modelo de lenguaje no consulta una ficha para contestar: escribe la respuesta más probable. Si la información no está a su alcance, rellena el hueco con algo que suena razonable, con la misma seguridad que un dato cierto. Lo explicamos con más detalle en por qué la IA se inventa datos.

Por eso el problema no se arregla con un chatbot «más listo». Se arregla decidiendo de dónde saca las respuestas y qué hace cuando no las tiene.

Las tres cosas que debe hacer un buen chatbot

1. Responder solo con la información real del negocio: la web, el catálogo, las condiciones. Si no está ahí, no lo dice.
2. Reconocer lo que no sabe, y decirlo con claridad en vez de rellenar el hueco.
3. Pasar a una persona lo que compromete al negocio: precios cerrados, plazos, devoluciones y excepciones.

La tercera es la que más se olvida. Un chatbot puede conocer al detalle la política de devoluciones y, aun así, no debería aprobar una devolución fuera de plazo: eso es una excepción, y las excepciones las decide el negocio. Lo correcto es que recoja el caso, explique qué pasa ahora y lo pase a una persona con todo el contexto, para que el cliente no tenga que contarlo otra vez.

Un buen chatbot no es el que lo sabe todo. Es el que sabe dónde termina lo que sabe.

Cómo lo hacemos en el asistente de nuestra web

Es el criterio con el que hemos montado el asistente de chat de infinyai.com. Solo puede afirmar lo que está en nuestra web; si le preguntan algo que no está ahí, dice que no lo sabe en vez de inventarlo. Tampoco da precios ni plazos de los proyectos a medida, porque se cierran con una persona antes de empezar.

Es el mismo criterio que proponemos para un chatbot en cualquier negocio: primero, qué información puede usar; después, qué debe hacer cuando le falta.

La prueba que puedes hacer hoy

Si ya tienes un chatbot en tu web, hazle una pregunta cuya respuesta no esté en tu web y mira qué contesta. Por ejemplo, el plazo de entrega a un sitio al que no envías, o un descuento que no existe.

Si responde con un dato concreto, se lo está inventando, y conviene revisarlo antes de que lo haga delante de un cliente. Si dice que no lo sabe y te ofrece hablar con alguien, va por buen camino.