La herramienta Explicador de IA te ayuda a comprender cómo cada palabra de un mensaje contribuye a activar una intención específica. Proporciona información sobre el modelo de IA subyacente y su proceso de toma de decisiones.
Descripción general
Probabilidades de predicción
La IA del chatbot de ViaSay no devuelve una única intención, sino una distribución de probabilidades para cada intención posible. El Explicador muestra las 5 intenciones principales con sus probabilidades de predicción de esta distribución.
Centrarse en las 2 intenciones principales
El Explicador se centra en las dos intenciones más probables mediante dos gráficos de barras verticales. Estos gráficos muestran cuánto contribuye cada palabra de la frase a la probabilidad asignada a la intención.
Por ejemplo, la palabra «Flights» podría tener un fuerte impacto en la intención Book a Flight pero no mucho en la intención Flight Status. Esta discrepancia podría indicar un error en el entrenamiento de la intención Flight Status.
Una palabra puede influir significativamente en distintas intenciones. Por ejemplo, la palabra «pizza» podría afectar considerablemente a la intención Meal Onboard pero no tener ningún impacto en Flight Information.
Descripción general de la intención activada
El Explicador proporciona una descripción general de cómo cada palabra contribuye a la intención activada para un mensaje determinado.
Limitaciones actuales
El Explicador tiene algunas limitaciones y no tiene en cuenta las siguientes reglas:
Ejemplos negativos y umbrales de confianza
Intenciones basadas en reglas
Prioridades
Reglas del nodo de usuario principal frente a las del nodo de usuario actual
Entidades obligatorias
Sin embargo, estas reglas siempre se tienen en cuenta en la ruta estándar de NLP dentro del widget.
Referencias
Nuestra herramienta Explicador utiliza una biblioteca de código abierto llamada LIME (Local Interpretable Model-agnostic Explanations). Estimamos los pesos mediante interpolación lineal local. Suponemos que, para frases similares, el modelo de IA del chatbot de ViaSay suma el peso de cada palabra y calculamos dichos pesos en consecuencia.
💭 Los modelos de NLP se ejecutan de forma independiente entre los modos Borrador y Producción. Esto puede dar lugar a resultados diferentes, así que asegúrate de utilizar el Explicador en el modo correcto.