A ferramenta Explicador de IA ajuda você a entender como cada palavra em uma mensagem contribui para acionar uma intenção específica. Ela fornece insights sobre o modelo de IA subjacente e seu processo de tomada de decisão.
Visão geral
Probabilidades de previsão
A IA do ViaSay Chatbot não retorna uma única intenção; em vez disso, retorna uma distribuição de probabilidades para cada intenção possível. O Explicador exibe as 5 principais intenções com suas probabilidades de previsão dessa distribuição.
Foco nas 2 principais intenções
O Explicador concentra-se nas duas intenções mais prováveis usando dois gráficos de barras verticais. Esses gráficos mostram quanto cada palavra na frase contribui para a probabilidade atribuída à intenção.
Por exemplo, a palavra "Voos" pode ter um forte impacto na intenção Reservar um voo mas pouco impacto na intenção Status do voo. Essa discrepância pode indicar um erro no treinamento da intenção Status do voo.
Uma palavra pode afetar significativamente diferentes intenções. Por exemplo, a palavra "pizza" poderia afetar fortemente a intenção Refeição a bordo mas não ter impacto algum em Informações sobre o voo.
Visão geral da intenção acionada
O Explicador fornece uma visão geral de como cada palavra contribui para a intenção acionada por uma determinada mensagem.
Limitações atuais
O Explicador tem algumas limitações e não considera as seguintes regras:
Exemplos negativos e limites de confiança
Intenções baseadas em regras
Prioridades
Regras do nó do usuário principal versus do nó do usuário atual
Entidades obrigatórias
No entanto, essas regras são sempre consideradas no caminho padrão de PLN dentro do widget.
Referências
Nossa ferramenta Explicador utiliza uma biblioteca de código aberto chamada LIME (Explicações Locais Interpretáveis e Agnósticas ao Modelo). Estimamos os pesos usando interpolação linear local. Pressupomos que, para frases semelhantes, o modelo de IA do ViaSay Chatbot adiciona o peso de cada palavra e calculamos esses pesos de acordo.
💭 Os modelos de PLN são executados de forma independente entre os modos Rascunho e Produção. Isso pode levar a resultados diferentes; portanto, certifique-se de usar o Explicador no modo correto.