轻量级姿态估计技巧总结
发布于 2023-10-04
参考资料 轻量级姿态估计技巧总结（2023.3.22更新） – 知乎 (zhihu.com) 代码实践 1. 轻量姿态估计模型设计 ̷
Fast Human Pose Estimation
发布于 2023-09-30
论文介绍 这篇文章的标题是“Fast Human Pose Estimation”，作者是Feng Zhang, Xiatian …
[论文阅读]IMPROVE OBJECT DETECTION WITH FEATURE-BASEDKNOWLEDGE DISTILLATION:TOWARDS ACCURATEAND EFFICIENT DETECTORS
发布于 2023-04-12
论文原文 ABSTRACT 知识蒸馏是一种有效的模型压缩技术，通过训练学生模型模拟教师模型来提高模型的精度。然而，大多数用于图像分 …
[论文阅读]Regularizing Class-wise Predictions via Self-knowledge Distillation
发布于 2023-04-11
Abstract 具有数百万个参数的深度神经网络可能由于过拟合而泛化能力较差。为了缓解这个问题，我们提出了一种新的正则化方法来惩罚 …
[论文阅读]Is Label Smoothing Truly Incompatible with Knowledge Distillation: An Empirical Study
发布于 2023-04-07
导读 这是一篇非常特别的文章，其中一个审稿人评价这篇文章是标签平滑和知识蒸馏领域有突破性的一篇文章，并给出了 8 分的高分。为什么 …
[论文阅读]When Does Label Smoothing Help?
发布于 2023-04-02
Abstract 将软目标作为硬目标的加权平均和标签上的均匀分布，通常可以显著提高多类神经网络的泛化和学习速度。用这种方法平滑标签 …
[论文阅读] Revisiting Knowledge Distillation via Label Smoothing Regularization
发布于 2023-03-22
前导知识 (一)、为什么有标签平滑正则化（Label Smoothing Regularization, LSR）的方法? 在深度 …
[论文阅读] Knowledge Distillation via the Target-aware Transformer
发布于 2023-03-13
参考资料： CVPR2022 | 通过目标感知Transformer进行知识蒸馏 – 掘金 (juejin.cn) (53条消息) ̷
[论文阅读] Revisiting Knowledge Distillation: An Inheritance and Exploration Framework
发布于 2023-03-08
原文 Abstract 知识蒸馏（KD）是一种流行的技术，以转移知识从教师模型或集合到学生模型。它的成功通常归因于关于教师模型和学 …