L'outil AI Explainer vous aide à comprendre comment chaque mot d'un message contribue au déclenchement d'un Intent donné. Il éclaire le fonctionnement du modèle d'IA sous-jacent et sa façon de prendre ses décisions.
Présentation
Probabilités de prédiction
L'IA du bot ViaSay ne renvoie pas un Intent unique : elle renvoie une distribution de probabilités pour chaque Intent possible. L'Explainer affiche les 5 Intents les plus probables de cette distribution, avec leurs probabilités de prédiction.
Zoom sur les 2 Intents principaux
L'Explainer se concentre sur les deux Intents les plus probables, à l'aide de deux graphiques en barres verticales. Ces graphiques montrent dans quelle mesure chaque mot de la phrase contribue à la probabilité attribuée à l'Intent.
Par exemple, le mot « Flights » peut avoir un fort impact sur l'Intent Book a Flight mais peu sur l'Intent Flight Status. Cet écart peut révéler une erreur dans l'entraînement de l'Intent Flight Status.
Un même mot peut peser fortement sur différents Intents. Par exemple, le mot « pizza » peut influencer fortement l'Intent Meal Onboard sans avoir d'effet sur Flight Information.
Vue d'ensemble de l'Intent déclenché
L'Explainer donne une vue d'ensemble de la contribution de chaque mot à l'Intent déclenché pour un message donné.
Limites actuelles
L'Explainer présente certaines limites et ne tient pas compte des règles suivantes :
Exemples négatifs et seuils de confiance
Intents fondés sur des règles
Priorités
Règles du nœud utilisateur principal et du nœud utilisateur courant
Entities obligatoires
Ces règles sont toutefois toujours prises en compte dans le traitement NLP standard du widget.
Références
Notre outil Explainer s'appuie sur une bibliothèque open source appelée LIME (Local Interpretable Model-agnostic Explanations). Nous estimons les poids par interpolation linéaire locale. Nous partons du principe que, pour des phrases similaires, le modèle d'IA du bot ViaSay additionne le poids de chaque mot, et nous calculons ces poids en conséquence.
💭 Les modèles NLP fonctionnent indépendamment en mode Draft et en mode Production. Les résultats peuvent donc différer : veillez à utiliser l'Explainer dans le bon mode.