{"id":33310,"date":"2024-02-20T15:19:21","date_gmt":"2024-02-20T13:19:21","guid":{"rendered":"https:\/\/changlonet.com\/blog\/?p=33310"},"modified":"2024-02-20T15:21:52","modified_gmt":"2024-02-20T13:21:52","slug":"cuidado-si-no-ensenas-bien-a-la-ia-de-tu-chatbot","status":"publish","type":"post","link":"https:\/\/changlonet.com\/blog\/cuidado-si-no-ensenas-bien-a-la-ia-de-tu-chatbot\/","title":{"rendered":"Cuidado si no ense\u00f1as bien a la IA de tu Chatbot"},"content":{"rendered":"<p>La irrupci\u00f3n de la inteligencia artificial en m\u00e1s campos de nuestras vidas puede ser que conlleve una reducci\u00f3n del trabajo de los abogados\u2026 pero de momento yo creo que va a generar un pico de mayor actividad para los profesionales del derecho.<\/p>\n<p style=\"text-align: center;\"><img decoding=\"async\" src=\"https:\/\/changlonet.com\/blog\/wp-content\/uploads\/2024\/02\/022024_1319_Cuidadosino1.png\" alt=\"\" title=\"\"><\/p>\n<p>El otro d\u00eda estaba <a href=\"https:\/\/arstechnica.com\/tech-policy\/2024\/02\/air-canada-must-honor-refund-policy-invented-by-airlines-chatbot\/\" target=\"_blank\" rel=\"noopener\">leyendo una noticia sobre los problemas judiciales que un chatbot<\/a> basado en IA hab\u00eda generado para su empresa Air Canad\u00e1. Un cliente de dicha aerol\u00ednea quiso conocer las opciones de descuento que la empresa ofrec\u00eda para vuelos motivados por el fallecimiento de un familiar (en esta caso su abuela). El chatbot le explic\u00f3 como hacerlo y el descuento que le iban a ofrecer. Menos mal que el cliente tom\u00f3 una captura de la pantalla con lo que el chatbot le hab\u00eda dicho.<\/p>\n<p>Adquiri\u00f3 el billete y sigui\u00f3 las instrucciones que le indicaba la IA para reclamar la bonificaci\u00f3n de su billete. Entonces le contestaron desde Air Canad\u00e1 dici\u00e9ndole que no pod\u00edan darle ese descuento porque lo estaba pidiendo mal y fuera de plazo. Por m\u00e1s que el cliente les indic\u00f3 que su sistema de IA le hab\u00eda indicado las instrucciones, pasos y el importe del descuento\u2026 para los humanos del Servicio al Cliente de la compa\u00f1\u00eda eso no era relevante. M\u00e1s tarde le dijeron que hab\u00eda un error de la IA a la hora de gestionar los descuentos. Como el cliente no qued\u00f3 contento recurri\u00f3 a la v\u00eda judicial (<a href=\"https:\/\/www.canlii.org\/en\/bc\/bccrt\/doc\/2024\/2024bccrt149\/2024bccrt149.html\" target=\"_blank\" rel=\"noopener\">aqu\u00ed podemos ver la sentencia<\/a>).<\/p>\n<p>Al leerla es interesante el punto donde el juez indica que la informaci\u00f3n que proporciona el Chatbot se considera informaci\u00f3n de la propia Air Canad\u00e1. Es decir la equipara a un texto que estuviese en al Web. No lo veo desencaminado. El Chatbot est\u00e1 en su web e imagino que ha sido entrenado, programado y gestionado por Air Canad\u00e1 o por alguna empresa contratada al efecto. Por otro lado la defensa de Air Canad\u00e1 se apoya en que el Chatbot es una entidad separada (no acabo de entenderlo) y que en el propio Chatbot hab\u00eda un enlace a un v\u00ednculo donde se explicaba mejor la pol\u00edtica de descuentos en estos casos. Pero como dice el juez, el cliente no tiene por qu\u00e9 saber que lo que dec\u00eda el Chatbot de Air Canad\u00e1 no coincid\u00eda con la normativa de Air Canad\u00e1.<\/p>\n<p>Esto abre la puerta a m\u00e1s reclamaciones por acciones de chatbots y sistemas de informaci\u00f3n autom\u00e1tica con IA cuando los datos que proporcionen a los clientes no coincidan con la realidad comercial de la empresa a la que &#8220;representan&#8221;. Ser\u00e1 interesante seguir este tipo de litigios.<\/p>\n<p>Pero aqu\u00ed no hay nada nuevo bajo el sol, salvo que tenemos un sistema de respuesta autom\u00e1tica. Pero yo recuerdo hace muchos a\u00f1os en mi empresa de por las ma\u00f1anas. Para ahorrar costes contrataron a una consultora externa para mejorar la comercializaci\u00f3n de productos en la web. En un momento dado del proceso alguien de la direcci\u00f3n pens\u00f3 que pod\u00eda ser buena idea que empleados que conociesen esos productos a fondo usaran una versi\u00f3n beta de las herramientas webs (no dejaban de ser simples simuladores, bastantes tontos para lo que hoy en d\u00eda se lleva, pero en aquellos d\u00edas llamaban mucho la atenci\u00f3n). La mayor\u00eda de ellas no estaban bien hechas. Ten\u00edamos casos donde no segu\u00edan las pol\u00edticas comerciales de precios del Banco, otros donde no se segu\u00edan las pol\u00edticas de riesgos y en otros casos no cumpl\u00eda con mucha de la abundante legislaci\u00f3n a la que un banco debe atenerse para vender sus productos. Al final tras una gran labor de mejora se public\u00f3 algo en la red.<\/p>\n","protected":false},"excerpt":{"rendered":"<p>La irrupci\u00f3n de la inteligencia artificial en m\u00e1s campos de nuestras vidas puede ser que conlleve una reducci\u00f3n del trabajo de los abogados\u2026 pero de momento yo creo que va a generar un pico de mayor actividad para los profesionales del derecho. El otro d\u00eda estaba leyendo una noticia sobre los problemas judiciales que un [&hellip;]<\/p>\n","protected":false},"author":1,"featured_media":33312,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_exactmetrics_skip_tracking":false,"_exactmetrics_sitenote_active":false,"_exactmetrics_sitenote_note":"","_exactmetrics_sitenote_category":0,"footnotes":""},"categories":[10,13],"tags":[5066,5067,788,1616,4329],"class_list":["post-33310","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-otras-cosas","category-software","tag-chatbot","tag-informacion-pertinente","tag-derecho","tag-legislacion","tag-ia"],"_links":{"self":[{"href":"https:\/\/changlonet.com\/blog\/wp-json\/wp\/v2\/posts\/33310","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/changlonet.com\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/changlonet.com\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/changlonet.com\/blog\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/changlonet.com\/blog\/wp-json\/wp\/v2\/comments?post=33310"}],"version-history":[{"count":0,"href":"https:\/\/changlonet.com\/blog\/wp-json\/wp\/v2\/posts\/33310\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/changlonet.com\/blog\/wp-json\/wp\/v2\/media\/33312"}],"wp:attachment":[{"href":"https:\/\/changlonet.com\/blog\/wp-json\/wp\/v2\/media?parent=33310"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/changlonet.com\/blog\/wp-json\/wp\/v2\/categories?post=33310"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/changlonet.com\/blog\/wp-json\/wp\/v2\/tags?post=33310"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}