Объяснитель извести показывает вероятности предсказания, отличные от предсказания классификатора - анализ настроений

Question

Я использую Lime, чтобы проследить поведение, почему модель принимает свое решение, чтобы предсказать, является ли это предложение (NEG, POS или NEUTRAL), и в большинстве случаев Lime объясняет правильно, но в этом случае, почему я ввел предложение NEG, модель предсказать это как НЕЙТРАЛЬНО, но Lime визуализировать его с наибольшим процентом NEG, так почему я получил такую ​​логическую ошибку, как это?

Предсказание модели против предсказания Лайма

Answer 1

Вы не предоставляете много деталей, поэтому мой ответ будет примерно таким же общим: ваша исходная модель делает неверный прогноз. Тогда известь делает линейное приближение модели. Из-за приближенного характера линейной модели это не совсем так, как в исходной модели, и отличается от исходной модели. В вашем случае исходная модель дает неверный прогноз, и отклонение линейного приближения - случайно - в направлении правильного ответа, так что вы случайно получаете правильный ответ из аппроксимации, хотя исходная модель была неправильной,