Cuidado si no enseñas bien a la IA de tu Chatbot

La irrupción de la inteligencia artificial en más campos de nuestras vidas puede ser que conlleve una reducción del trabajo de los abogados… pero de momento yo creo que va a generar un pico de mayor actividad para los profesionales del derecho.

El otro día estaba leyendo una noticia sobre los problemas judiciales que un chatbot basado en IA había generado para su empresa Air Canadá. Un cliente de dicha aerolínea quiso conocer las opciones de descuento que la empresa ofrecía para vuelos motivados por el fallecimiento de un familiar (en esta caso su abuela). El chatbot le explicó como hacerlo y el descuento que le iban a ofrecer. Menos mal que el cliente tomó una captura de la pantalla con lo que el chatbot le había dicho.

Adquirió el billete y siguió las instrucciones que le indicaba la IA para reclamar la bonificación de su billete. Entonces le contestaron desde Air Canadá diciéndole que no podían darle ese descuento porque lo estaba pidiendo mal y fuera de plazo. Por más que el cliente les indicó que su sistema de IA le había indicado las instrucciones, pasos y el importe del descuento… para los humanos del Servicio al Cliente de la compañía eso no era relevante. Más tarde le dijeron que había un error de la IA a la hora de gestionar los descuentos. Como el cliente no quedó contento recurrió a la vía judicial (aquí podemos ver la sentencia).

Al leerla es interesante el punto donde el juez indica que la información que proporciona el Chatbot se considera información de la propia Air Canadá. Es decir la equipara a un texto que estuviese en al Web. No lo veo desencaminado. El Chatbot está en su web e imagino que ha sido entrenado, programado y gestionado por Air Canadá o por alguna empresa contratada al efecto. Por otro lado la defensa de Air Canadá se apoya en que el Chatbot es una entidad separada (no acabo de entenderlo) y que en el propio Chatbot había un enlace a un vínculo donde se explicaba mejor la política de descuentos en estos casos. Pero como dice el juez, el cliente no tiene por qué saber que lo que decía el Chatbot de Air Canadá no coincidía con la normativa de Air Canadá.

Esto abre la puerta a más reclamaciones por acciones de chatbots y sistemas de información automática con IA cuando los datos que proporcionen a los clientes no coincidan con la realidad comercial de la empresa a la que “representan”. Será interesante seguir este tipo de litigios.

Pero aquí no hay nada nuevo bajo el sol, salvo que tenemos un sistema de respuesta automática. Pero yo recuerdo hace muchos años en mi empresa de por las mañanas. Para ahorrar costes contrataron a una consultora externa para mejorar la comercialización de productos en la web. En un momento dado del proceso alguien de la dirección pensó que podía ser buena idea que empleados que conociesen esos productos a fondo usaran una versión beta de las herramientas webs (no dejaban de ser simples simuladores, bastantes tontos para lo que hoy en día se lleva, pero en aquellos días llamaban mucho la atención). La mayoría de ellas no estaban bien hechas. Teníamos casos donde no seguían las políticas comerciales de precios del Banco, otros donde no se seguían las políticas de riesgos y en otros casos no cumplía con mucha de la abundante legislación a la que un banco debe atenerse para vender sus productos. Al final tras una gran labor de mejora se publicó algo en la red.