論文の概要: GaitKD: A Universal Decoupled Distillation Framework for Efficient Gait Recognition
- arxiv url: http://arxiv.org/abs/2604.26255v1
- Date: Wed, 29 Apr 2026 03:24:38 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-30 15:59:36.238698
- Title: GaitKD: A Universal Decoupled Distillation Framework for Efficient Gait Recognition
- Title(参考訳): GaitKD: 効率的な歩行認識のためのユニバーサル脱カップリング蒸留フレームワーク
- Authors: Yuqi Li, Qian Zhou, Huiran Duan, Jingjie Wang, Shunli Zhang, Chuanguang Yang, Guoying Zhao, Yingli Tian,
- Abstract要約: 歩行認識は、長距離および接触のない識別のための魅力的な生体計測モダリティである。
知識蒸留は、強力な教師から効率的な学生に知識を伝達する自然な方法を提供する。
本稿では,ゲート知識伝達を2つの相補成分に分解する蒸留フレームワークであるGaitKDを提案する。
- 参考スコア(独自算出の注目度): 51.75783918486982
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Gait recognition is an attractive biometric modality for long-range and contact-free identification, but high-performing gait models often rely on deep and computationally expensive architectures that are difficult to deploy in practice. Knowledge distillation (KD) offers a natural way to transfer knowledge from a powerful teacher to an efficient student; however, standard KD is often less effective for part-structured gait models, where supervision is formed from both part-wise classification logits and part-wise retrieval embeddings. In this paper, we propose GaitKD, a distillation framework that decouples gait knowledge transfer into two complementary components: decision-level distillation and boundary-level distillation. Specifically, GaitKD aligns the teacher and student through part-calibrated logit distillation to transfer inter-class decision relations, while preserving the teacher-induced partitioning of the embedding space through an activation-boundary objective instead of direct feature regression. With a simple aligned part-wise design, GaitKD supports heterogeneous teacher-student gait models without introducing additional inference cost. Experimental results across multiple gait recognition benchmarks and teacher-student configurations show consistent improvements over strong gait baselines. Our study demonstrates that the two transfer components are complementary, and boundary-preserving distillation provides more stable performance than direct feature regression. Source code is available at https://github.com/liyiersan/GaitKD/
- Abstract(参考訳): 歩行認識は、長距離および接触のない識別のための魅力的な生体情報モダリティであるが、ハイパフォーマンスな歩行モデルは、実際展開が困難である深層・計算的に高価なアーキテクチャに依存していることが多い。
知識蒸留(KD)は、強力な教師から効率的な学生に知識を伝達する自然な方法を提供するが、標準的なKDは、部分的な分類ロジットと部分的な検索埋め込みの両方から監督される、部分的な歩行モデルでは効果が低いことが多い。
本稿では,ゲート知識伝達を2つの相補的構成要素である意思決定レベルの蒸留と境界レベルの蒸留に分解する蒸留フレームワークであるGaitKDを提案する。
特に、GaitKDは、直接特徴回帰ではなく、アクティベーション・バウンダリの目的を通じて、教師が誘導する埋め込み空間の分割を保ちながら、クラス間の決定関係を伝達するために、部分的に校正されたロジット蒸留を通して教師と生徒を調整する。
GaitKDは、単純な整合部分設計で、追加の推論コストを導入することなく、異種教師学生の歩行モデルをサポートする。
複数の歩行認識ベンチマークと教師学生構成による実験結果から,強歩行ベースラインよりも一貫した改善が得られた。
本研究は, 2つの伝達成分が相補的であることを示し, 境界保存蒸留により, 直接的特性回帰よりも安定した性能が得られることを示した。
ソースコードはhttps://github.com/liyiersan/GaitKD/で入手できる。
関連論文リスト
- Generalizable Knowledge Distillation from Vision Foundation Models for Semantic Segmentation [73.32435804067883]
Generalizable Knowledge Distillation (GKD)は、一般化を明示的に強化する多段階フレームワークである。
5つの領域一般化ベンチマークの実験は、GKDが既存のKD法を一貫して上回ることを示した。
論文 参考訳(メタデータ) (2026-03-03T03:18:12Z) - Rethinking Decoupled Knowledge Distillation: A Predictive Distribution Perspective [9.10299144143817]
Decoupled Knowledge Distillation (DKD)は、高度なデカップリングと戦略を通じて、ロジット知識の重要性を再強調する。
汎用デカップリング型知識蒸留(GDKD)の損失を低減した拡張版を導入する。
従来のDKDおよび他の先進的知識蒸留法と比較して,GDKDの優れた性能を示す。
論文 参考訳(メタデータ) (2025-12-04T09:56:25Z) - Intra-class Patch Swap for Self-Distillation [3.282914142012984]
単一学生ネットワークに基づく無教師蒸留フレームワークを提案する。
我々のアプローチは、クラス内パッチスワップスワップスワップスワップスワップスワップスワップスワップスワップスワップスワップスワップスワップスワップスワップスワップスワップスワップスワップスワップスワップスワップスワップスワップスワ
提案手法は,既存の自己蒸留ベースラインと従来の教師ベースのKDアプローチを一貫して上回る。
論文 参考訳(メタデータ) (2025-05-20T09:30:19Z) - Cross-View Consistency Regularisation for Knowledge Distillation [13.918476599394603]
この研究は、半教師付き学習のような分野におけるクロスビュー学習の成功に触発されている。
標準ロジット蒸留フレームワークにインテリアビューおよびクロスビューレギュラー化を導入する。
また,教師の蒸留信号の品質向上のために,信頼性に基づくソフトラベルマイニングを実施している。
論文 参考訳(メタデータ) (2024-12-21T05:41:47Z) - Fuse Before Transfer: Knowledge Fusion for Heterogeneous Distillation [52.0297393822012]
異質な教師と学生間の機能的知識の伝達を容易にするために,橋梁としてアシスタントモデルを導入する。
提案した設計原理の中では, クロスアーキテクチャ帰納バイアスとモジュール関数の利点を組み合わせたアシスタントモデルが提案されている。
提案手法は, CNN, ViT, 空間KDの同種モデルペアと任意の異種組み合わせを用いて評価する。
論文 参考訳(メタデータ) (2024-10-16T08:02:49Z) - One-for-All: Bridge the Gap Between Heterogeneous Architectures in
Knowledge Distillation [69.65734716679925]
知識蒸留は,教師が指導する学習手法を通じて,モデル性能を向上させる上で,極めて効果的な手法であることが証明されている。
既存の蒸留法のほとんどは、教師と生徒のモデルが同じモデルファミリーに属するという前提で設計されている。
我々は, ヘテロジニアスアーキテクチャ間の蒸留性能を大幅に向上させる, OFA-KDという, 単純で効果的な一元一元一元一元一元一元一元一元一元一元一元一元一元一元一元一元一元一元一元一元一元一元一元一元一元一元一元一元一元一元一元一元一元一元一元一元一元一元一元一元一元一元
論文 参考訳(メタデータ) (2023-10-30T11:13:02Z) - CORSD: Class-Oriented Relational Self Distillation [16.11986532440837]
知識蒸留は、いくつかの制限を保ちながら効果的なモデル圧縮方法を実行する。
制約に対処するために,クラス指向自己蒸留(CORSD)という新しいトレーニングフレームワークを提案する。
論文 参考訳(メタデータ) (2023-04-28T16:00:31Z) - Weakly Supervised Semantic Segmentation via Alternative Self-Dual
Teaching [82.71578668091914]
本稿では,分類とマスク・リファインメント・コンポーネントを統合された深層モデルに組み込む,コンパクトな学習フレームワークを確立する。
本稿では,高品質な知識相互作用を促進するために,新たな自己双対学習(ASDT)機構を提案する。
論文 参考訳(メタデータ) (2021-12-17T11:56:56Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。