論文の概要: Cross-Modal Knowledge Distillation for Acoustic Pedestrian Detection
- arxiv url: http://arxiv.org/abs/2609.31785v1
- Date: Thu, 24 Sep 2026 21:46:25 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-08 12:51:47.597951
- Title: Cross-Modal Knowledge Distillation for Acoustic Pedestrian Detection
- Title(参考訳): 音響ペデストリアン検出のためのクロスモーダル知識蒸留法
- Abstract要約: トラストフィルター蒸留は、歩行者サンプルに対する教師の監督を選択的に抑制する。
主な効果は、歩行者のリコールのコストが低い場合、歩行者以外の精度が高いことである。
ロジット蒸留にTFDを加えると、平均PR-AUCを改善することなくこのトレードオフが強化される。
- 参考スコア(独自算出の注目度): 41.2665841907733
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Audio-only pedestrian detection is attractive for urban sensing but limited by weak acoustic cues. An appealing strategy is cross-modal knowledge distillation, in which a video teacher supervises the audio student during training so that the deployed model runs on audio alone. Under this task's severe class imbalance and wide video-audio modality gap, however, what such distillation contributes is unclear. We introduce Trust-Filtered Distillation (TFD), which selectively suppresses teacher supervision on pedestrian samples, and interpret its logit formulation as conditional label smoothing under a shared temperature. Across ten distillation configurations under five-fold cross-session validation on ASPED, most methods yield modest gains in macro accuracy accompanied by small changes in PR-AUC. The main effect is higher no-pedestrian accuracy at the cost of lower pedestrian recall. Adding TFD to logit distillation strengthens this trade-off without improving mean PR-AUC. These findings clarify the benefits and limitations of selective cross-modal supervision by distinguishing operating-point shifts from discrimination gains in imbalanced acoustic detection.
- Abstract(参考訳): 音声のみの歩行者検出は都市感に魅力があるが、弱い音響的手がかりによって制限される。
魅力的な戦略はクロスモーダルな知識蒸留であり、ビデオ教師が訓練中にオーディオ学生を監督し、デプロイされたモデルがオーディオのみで動作するようにする。
しかし、この作業の厳しい階級不均衡と広いビデオ・オーディオ・モダリティのギャップの下では、そのような蒸留が何に寄与するかは不明である。
本稿では,歩行者検体における教師の指導を選択的に抑制するTrust-Filtered Distillation (TFD)を導入し,そのロジット定式化を条件付きラベルの平滑化と解釈する。
ASPED上での5倍のクロスセッション検証条件下での10回の蒸留処理では,PR-AUCの小さな変化とともに,ほとんどの手法がマクロ精度でモデストゲインを得る。
主な効果は、歩行者のリコールのコストが低い場合、歩行者以外の精度が高いことである。
ロジット蒸留にTFDを加えると、平均PR-AUCを改善することなくこのトレードオフが強化される。
これらの結果から,非平衡音響検出における動作点シフトと識別利得を区別することにより,選択的相互監視の利点と限界を明らかにした。
関連論文リスト
- Reward-Tilted On-Policy Distillation for Acoustic Grounding in Audio-Language Models [14.758953449150262]
音声言語モデル(ALM)は、音声の理解を弱めながら、テキストのショートカットを利用して質問に答える。
音響接地性を高めるために, RT-OPD (Reward-Tilted On-Policy Distillation) を提案する。
我々の3BモデルはMMAUで72.72%の精度を達成し、MMAUは比較された3Bモデルの中で最高であり、いくつかの7Bモデルと8Bモデルと競合する。
論文 参考訳(メタデータ) (2026-09-23T20:43:32Z) - Distillation Traps and Guards: A Calibration Knob for LLM Distillability [54.90137955363471]
そこで本研究では,教師の蒸留性を制御するためのポストホック校正法を提案する。
我々の目標は、タスクユーティリティ、KLアンカー、およびクロストケナイザーキャリブレーション報酬を組み合わせることである。
実験により、蒸留可能な教師から蒸留した学生は、SFTおよびKDベースラインを上回っていることが示された。
論文 参考訳(メタデータ) (2026-04-21T01:22:35Z) - Knowledge Distillation with Refined Logits [31.205248790623703]
本稿では,現在のロジット蒸留法の限界に対処するため,Refined Logit Distillation (RLD)を導入する。
我々のアプローチは、高性能な教師モデルでさえ誤った予測をすることができるという観察に動機づけられている。
本手法は,教師からの誤解を招く情報を,重要なクラス相関を保ちながら効果的に排除することができる。
論文 参考訳(メタデータ) (2024-08-14T17:59:32Z) - Knowledge Diffusion for Distillation [53.908314960324915]
知識蒸留(KD)における教師と学生の表現ギャップ
これらの手法の本質は、ノイズ情報を捨て、その特徴の貴重な情報を蒸留することである。
DiffKDと呼ばれる新しいKD手法を提案し、拡散モデルを用いて特徴を明示的に識別し一致させる。
論文 参考訳(メタデータ) (2023-05-25T04:49:34Z) - StereoDistill: Pick the Cream from LiDAR for Distilling Stereo-based 3D
Object Detection [93.10989714186788]
ステレオ法とLiDAR法とのギャップを狭めるため,StereoDistillというクロスモーダル蒸留法を提案する。
StereoDistillの主な設計は、回帰のためのX-component Guided Distillation(XGD)と分類のためのCLD(Cross-anchor Logit Distillation)である。
論文 参考訳(メタデータ) (2023-01-04T13:38:48Z) - Unbiased Knowledge Distillation for Recommendation [66.82575287129728]
知識蒸留(KD)は推論遅延を低減するためにレコメンダシステム(RS)に応用されている。
従来のソリューションは、まずトレーニングデータから完全な教師モデルを訓練し、その後、その知識を変換して、コンパクトな学生モデルの学習を監督する。
このような標準的な蒸留パラダイムは深刻なバイアス問題を引き起こし、蒸留後に人気アイテムがより強く推奨されることになる。
論文 参考訳(メタデータ) (2022-11-27T05:14:03Z) - Deep Semi-supervised Knowledge Distillation for Overlapping Cervical
Cell Instance Segmentation [54.49894381464853]
本稿では, ラベル付きデータとラベルなしデータの両方を, 知識蒸留による精度向上に活用することを提案する。
摂動に敏感なサンプルマイニングを用いたマスク誘導型平均教師フレームワークを提案する。
実験の結果,ラベル付きデータのみから学習した教師付き手法と比較して,提案手法は性能を著しく向上することがわかった。
論文 参考訳(メタデータ) (2020-07-21T13:27:09Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。