Caso de estudio
Por qué su asistente de IA inventa un botón de carga que no existe
Un cliente le preguntó a nuestro propio asistente de chat cómo enviarnos dos diseños de página. Lo mandó a un botón de carga y a una dirección de correo que no existían. Cambiamos el portal, la vista del equipo y las instrucciones del asistente, y agregamos una revisión antes de que salgan las respuestas.
Puntos clave
- Un asistente sin un dato para una tarea describirá un proceso verosímil, así que hay que escribirle el real.
- Vale la pena probar desde el lado del cliente cada dirección o número que un asistente pueda dar.
- Los archivos deben llegar adjuntos al trabajo al que pertenecen, no por un chat ni como enlace a la computadora de alguien.
- Una revisión de las respuestas atrapa el dato de contacto inventado que las instrucciones por sí solas dejan pasar.
- Una conversación fallida es un mapa de los huecos: léala desde la primera pregunta hasta el último rebote.
Cuando un asistente de IA que inventa respuestas suena seguro, el cliente sigue la respuesta y no llega a ningún lado. Uno de nuestros clientes le preguntó a nuestro propio asistente de chat cómo enviarnos dos diseños de página. Lo mandó a un botón de carga en nuestro portal de clientes y luego a una dirección de correo de soporte. Ninguno de los dos existía.
Una respuesta segura que no lleva al cliente a ningún lado
La primera respuesta apuntaba a un botón que no estaba ahí, y la segunda a una dirección que no funcionaba. El cliente no encontró el botón, así que el asistente le dio una dirección de correo de soporte y le dijo que enviara los archivos ahí. También prometió revisar que el correo hubiera llegado. Esa dirección tampoco existía; el correo del cliente regresó sin entregarse.
Al final el trabajo quedó registrado con enlaces a los archivos. Los enlaces apuntaban a la propia computadora del cliente, así que nadie de nuestro lado podía abrirlos. La persona que hacía el trabajo no pudo obtener los diseños, y el trabajo quedó esperando. Para cualquier negocio, el segundo costo es peor que el primero: un cliente al que no se le indica ningún camino real decide que el servicio no conoce sus propias herramientas.
Por qué un asistente de IA que inventa respuestas suena tan seguro
Un asistente al que se le pregunta algo que sus instrucciones no cubren normalmente describirá lo que un servicio como el suyo debería tener, en lugar de decir que no lo sabe. Los archivos son el punto de partida de buena parte del trabajo que pide un cliente: un diseño, un documento, una captura de pantalla de lo que está mal. Si el asistente no tiene un dato sobre cómo llegan los archivos a usted, recurre a la imagen habitual: un botón en un portal y una dirección de soporte.
Una promesa de revisar algo que el asistente no puede ver es una promesa que nadie cumple, y el cliente espera una respuesta que nunca llega. Crear una carga de archivos en la app pero no en el sitio web deja al cliente en una computadora sin forma de entrar. El asistente entonces llena ese hueco con una suposición, porque nada en sus instrucciones le da la ruta real.
Lo que encontró nuestro ingeniero
Leer el chat desde la primera pregunta hasta el correo devuelto mostró dos respuestas inventadas seguidas, y ninguna forma real de enviar un archivo por el portal. Nuestras dos apps móviles ya podían adjuntar fotos a una solicitud, el trabajo que registramos para la labor, y los archivos se guardaban con ella. El portal web no podía adjuntar nada, y ni siquiera mostraba los archivos que ya se habían guardado para una solicitud. La pantalla desde la que trabaja nuestro equipo mostraba solo el nombre del archivo, no una forma de abrirlo.
Las instrucciones del asistente no decían nada sobre archivos. Ante una pregunta para la que no tenía datos, describió lo que un portal como el nuestro normalmente tendría: un botón de carga y un buzón de soporte. Ambos sonaban bien; ninguno era real. Los enlaces a la propia computadora del cliente fueron la última pieza. Parecían enlaces, pero solo se abren en la máquina que los creó.
Lo que cambiamos
Le dimos a los archivos una sola forma real de entrar, le dijimos esa forma al asistente con palabras claras y pusimos una revisión en sus respuestas. En el portal, cada solicitud ahora tiene un panel "Sus archivos". Un cliente puede adjuntar varios archivos a la vez, en una solicitud nueva o en una existente, y ve cada uno listado con una imagen pequeña y un enlace para abrirlo. El panel acepta imágenes, PDF, archivos de diseño, documentos de Word, Excel y PowerPoint, texto, exportaciones de hojas de cálculo y archivos zip. Un archivo de más de 12 MB se nombra y se rechaza antes de enviar nada, y un archivo que falla nunca cancela la solicitud; se le dice al cliente cuál debe adjuntar de nuevo. Cuando la descripción de una solicitud contiene un enlace a un archivo en la propia computadora del cliente, el portal lo indica y pide el archivo en su lugar.
De nuestro lado, el equipo abre lo que envió el cliente directamente desde la solicitud, en lugar de ver solo su nombre. Las instrucciones del asistente ahora dicen cómo llega un archivo al trabajo: en su solicitud, en el portal o como fotos en la app, y nunca por el chat, las apps de mensajería o el correo electrónico. También dicen que nunca dé una dirección, un número o una cuenta nuestros que no vengan de una herramienta, y que nunca prometa revisar algo que no puede ver.
Las instrucciones por sí solas no son una promesa, así que también hay una red de seguridad. Antes de que salga una respuesta, cualquier dirección de correo que parezca una de las nuestras pero no esté en nuestra lista real se reemplaza con nuestra dirección de oficina real. La dirección del propio cliente, o la de cualquier otra persona, se deja como está. Las nuevas palabras del portal están en los seis idiomas.
Cómo está ahora
Las respuestas equivocadas salieron durante dos días; la corrección en el portal, la pantalla del equipo y el asistente entró en funcionamiento al tercero. Un cliente ahora puede adjuntar archivos a cualquier solicitud desde el portal, las apps siguen enviando fotos como antes, y el equipo abre cada archivo desde la solicitud. El asistente ahora indica la forma real. Una dirección nuestra inventada se reemplaza antes de que salga una respuesta, así que no puede llegar a un cliente aunque el asistente escriba una.
Lo que usted puede revisar por su cuenta
- Pregúntele a su propio asistente de IA cómo le envía un archivo un cliente y siga su respuesta paso a paso. Si un paso termina en un botón o una página que usted no encuentra, encontró el hueco.
- Pídale su correo electrónico de soporte y su número de teléfono, y luego revise cada uno enviando un mensaje o haciendo una llamada. Una dirección que rebota o un número que no suena en ningún lado necesita corrección.
- Envíe un archivo de prueba como lo haría un cliente y luego pídale a la persona que hace el trabajo que lo abra. Si no puede verlo en su pantalla, no llegó.
- Revise los chats recientes en busca de promesas como "lo revisaré" o "lo confirmaré". Pregunte quién las cumple; si nadie puede, el asistente no debería hacerlas.
- Si un cliente envía un enlace a un archivo en su propia computadora, ábralo en otro dispositivo. Si no se abre, pídale que adjunte el archivo en su lugar.
Qué hacer ahora
Empiece por la pregunta que hace un cliente cuando necesita enviarle algo. Siga usted mismo la respuesta de su asistente, corrija los datos que le faltan y agregue una revisión antes de que salgan sus respuestas. Este es el tipo de trabajo que hacen nuestros ingenieros: mostrarle a un asistente la forma real en que funciona un negocio y revisar lo que dice antes de que lo vea un cliente. Si no puede probarlo con seguridad, pídale a quien se encarga de su sitio web o de su chat que lo haga con usted.
Preguntas frecuentes
¿Por qué mi asistente de IA da respuestas que suenan bien pero son incorrectas?
Porque llena los huecos en sus datos con detalles verosímiles. Si no se le ha dicho cómo le envía un archivo un cliente, describe un botón o una dirección que un negocio como el suyo podría tener. La respuesta es fluida porque el asistente es bueno con el lenguaje, no porque haya revisado sus herramientas. La solución es darle los pasos reales y probarlos.
¿Cómo evito que un chatbot dé una dirección de correo que no existe?
Anote las direcciones y los números que puede dar, y dígale que nunca dé uno que no haya salido de una herramienta. Luego revise las respuestas al salir: una dirección con su propio nombre de web que no esté en su lista se puede reemplazar por una real. Las instrucciones ayudan, pero una revisión antes de que salga la respuesta es lo que atrapa el resto.
¿Cuál es la forma más sencilla de que los clientes me envíen archivos?
Dele un solo lugar, adjunto al trabajo al que pertenece, en lugar de elegir entre chat, app de mensajería y correo. Deberían ver el archivo listado después de adjuntarlo, y la persona que hace el trabajo debería poder abrirlo desde ahí. Las fotos de una app pueden usar el mismo registro del trabajo.
¿Por qué no se me abren los enlaces a archivos en la computadora de un cliente?
Un enlace puede apuntar a un lugar en la propia máquina del cliente. Parece un enlace normal, pero solo funciona en esa computadora. Pídale al cliente que adjunte el archivo a la solicitud; eso también le da a la persona que hace el trabajo una copia que puede abrir.
¿Con qué frecuencia debo leer los chats de mi asistente?
No hay un intervalo fijo que sirva a todos los negocios. Lea algunas conversaciones después de cambiar sus servicios, sus precios o la forma en que los clientes le envían cosas, y lea cualquier conversación en la que un cliente diga que no encuentra algo. Busque las promesas que hizo el asistente y revise que alguien las cumpla.