2. 通过更低层的初始化，普通的知识蒸馏甚至可以胜过所有其他中间层的蒸馏目标！
3. 在不同初始化设置下，注意力传递在特定任务和通用任务设置下表现一致良好。