热门
最新
红包
立Flag
投票
同城
我的
发布
《量化激活值分层校准实战》
挑战:原模型量化后mAP从56.7%降至48.2%(全局校准)。方案为卷积层(12层)和检测头(2层)分别校准。采用KL散度优化,校准数据集仅用2000张图像(原需5000张)。结果:mAP回升至55.3%,推理速度提升2.1倍(INT8),精度损失<2%。图2:分层校准(Layer-wise)与全局校准(Global)在目标检测任务中的mAP对比。
——来自博客 https://blog.csdn.net/jie_kou/article/details/156882510
分层校准将精度损失压缩至1-2%。(单选)
0 人已经参与 已结束
正确
0人
错误
0人
CSDN App 扫码分享
评论
点赞
- 复制链接
- 举报