Получение очень плохих результатов F1 при тренировке SQUAD v2.0 с robertadistil-base

Question

Вот мой блокнот

https://github.com/manishiitg/ML_Experiments/blob/master/squad_huggingface_experiment_with_Trainer_TPU.ipynb

У меня очень плохие результаты на f1.

Любая помощь в том, что я делаю неправильно?