我们进一步展示了微调标记嵌入和注意力层可以导致更平滑的决策边界。然而，仅微调线性预测头并不能改善平滑度。