論文の概要: Codebook-Guided Cross-Modal Knowledge Distillation for Structurally Heterogeneous Features

• arxiv url: http://arxiv.org/abs/2609.37243v2
• Date: Thu, 01 Oct 2026 02:07:28 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-03 01:19:23.523664
• Title: Codebook-Guided Cross-Modal Knowledge Distillation for Structurally Heterogeneous Features
• Title（参考訳）: 構造的不均一な特徴に対するコードブックガイドを用いたクロスモーダル知識蒸留
• Abstract要約: クロスモーダルな知識蒸留は、教師のモダリティから学生のモダリティへ知識を伝達する。 既存の特徴レベルのアライメント手法では、教師と生徒の機能は構造的に整合性のある表現空間にあると仮定する。 本稿では,ベクトル量子化されたコードブックを用いて,構造的に不均一な特徴空間間の効果的な知識伝達を可能にするクロスモーダル蒸留フレームワークを提案する。
• 参考スコア（独自算出の注目度）: 15.673475138306818
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Cross-modal knowledge distillation transfers knowledge from a teacher modality to a student modality. Existing feature-level alignment methods typically assume that teacher and student features reside in structurally alignable representation spaces. However, this assumption does not hold when cross-modal features are structurally heterogeneous and lack clear unit-level correspondence, such as 2D spatial visual grids and 1D temporal audio sequences, thereby limiting the applicability of feature-level alignment. To address this challenge, we propose a cross-modal distillation framework that enables effective knowledge transfer across structurally heterogeneous feature spaces via a vector-quantized codebook. Specifically, teacher features are abstracted into a set of vector-form codes regardless of their original feature structure, and the selected codes serve as concept-level anchors for student learning. Code selection is guided by both task relevance and student compatibility, allowing the student to receive transferable teacher knowledge without requiring direct unit-level feature alignment. Experimental results across diverse cross-modal distillation scenarios demonstrate the effectiveness of the proposed framework on classification and semantic segmentation tasks.
• Abstract（参考訳）: クロスモーダルな知識蒸留は、教師のモダリティから学生のモダリティへ知識を伝達する。 既存の特徴レベルのアライメント手法は、教師と生徒の特徴が構造的に整合可能な表現空間にあると仮定するのが一般的である。 しかし、この仮定は、クロスモーダル特徴が構造的に不均一であり、2次元空間的視覚グリッドや1次元時間的オーディオシーケンスのような明確な単位レベルの対応が欠如している場合には成り立たないため、特徴レベルのアライメントの適用性が制限される。 この課題に対処するために、ベクトル量子化されたコードブックを介して構造的に不均一な特徴空間間で効果的な知識伝達を可能にするクロスモーダル蒸留フレームワークを提案する。 具体的には、教師の特徴は、元の特徴構造に関係なく、ベクトル形式の一連のコードに抽象化され、選択されたコードは、学生の学習のための概念レベルのアンカーとして機能する。 コード選択は、タスク関連性と生徒の互換性の両方によってガイドされ、生徒は直接単位レベルの特徴アライメントを必要とせずに、トランスファー可能な教師の知識を受け取ることができる。 種々のクロスモーダル蒸留シナリオに対する実験結果から, 分類とセマンティックセグメンテーションにおけるフレームワークの有効性が示された。

関連論文リスト

• SWARD: Stochastic Window-Attention-Based Relational Distillation for Cross-Architectural Semantic Segmentation [1.1617094867403568]
  大規模視覚基盤モデルは、セマンティックセグメンテーションのような密集した予測タスクに大きな利益をもたらした。 現代の基礎教師は、主にグローバルコンテキストを符号化するトランスフォーマーベースであるのに対し、効率的な学生は、通常、局所的に偏った受容場を持つ畳み込みネットワークである。 既存の蒸留法は主に構造的均質性を前提としており、直接的特徴模倣に依存しており、この表現的ギャップを埋めることができない。 本稿では,このギャップを2つの相補的なメカニズムで解決する知識蒸留フレームワークSWARDを提案する。
  論文  参考訳（メタデータ） (2026-05-31T04:29:31Z)
• Self-Supervised Learning as Discrete Communication [3.33876524834826]
  ほとんどの自己教師付き学習(SSL)メソッドは、同じ入力の異なるビューを整列させることで、連続的な視覚表現を学習する。 我々は,教師と学生ネットワーク間の個別のコミュニケーションプロセスとして,視覚的自己教師型学習の枠組みを定めている。 プロジェクションヘッドの周期的再起動は、予測的のままの埋め込みを促進することによって、この効果を高めることを示す。
  論文  参考訳（メタデータ） (2026-02-10T13:24:06Z)
• Heterogeneous Complementary Distillation [16.315256873831064]
  Heterogeneous Complementary Distillation (HCD)は、相補的な教師と学生の特徴を統合し、共有ロジットにおける表現の整合を図る。 CIFAR-100、細粒度(例えばCUB200)およびImageNet-1Kデータセットの実験は、HCDが最先端のKD法より優れていることを示した。
  論文  参考訳（メタデータ） (2025-11-14T04:06:33Z)
• Learning Task-Agnostic Representations through Multi-Teacher Distillation [59.488314181423284]
  本稿では,「多数決」目的関数に基づくタスク非依存フレームワークを提案する。 この機能は,学生と教師の埋め込みの相互情報に縛られていることを実証する。 提案手法は,教師の多様性を効果的に活用し,多様な下流タスクのパフォーマンス向上を実現する。
  論文  参考訳（メタデータ） (2025-10-21T14:36:33Z)
• CKAA: Cross-subspace Knowledge Alignment and Aggregation for Robust Continual Learning [80.18781219542016]
  継続的学習(CL)は、シーケンシャルなタスクストリームから継続的に学習するAIモデルに権限を与える。 近年,パラメータ効率のよい微調整(PEFT)によるCL法が注目されている。 ミスリード型タスクIDに対するロバスト性を高めるために,クロスサブスペース・ナレッジアライメント・アグリゲーション(CKAA)を提案する。
  論文  参考訳（メタデータ） (2025-07-13T03:11:35Z)
• Bidirectional Logits Tree: Pursuing Granularity Reconcilement in Fine-Grained Classification [89.20477310885731]
  本稿では,粒度分類タスクにおけるグラニュラリティコンペティションの課題について述べる。 既存のアプローチは通常、共通のベースエンコーダから抽出された共有特徴に基づいて、独立した階層認識モデルを開発する。 グラニュラリティ再構成のための双方向ロジットツリー(BiLT)と呼ばれる新しいフレームワークを提案する。
  論文  参考訳（メタデータ） (2024-12-17T10:42:19Z)
• GSSF: Generalized Structural Sparse Function for Deep Cross-modal Metric Learning [51.677086019209554]
  ペアワイド類似性学習のためのモダリティ間の強力な関係を捕捉する汎用構造スパースを提案する。 距離メートル法は、対角線とブロック対角線の2つの形式を微妙にカプセル化する。 クロスモーダルと2つの余分なユニモーダル検索タスクの実験は、その優位性と柔軟性を検証した。
  論文  参考訳（メタデータ） (2024-10-20T03:45:50Z)
• How a student becomes a teacher: learning and forgetting through Spectral methods [1.1470070927586018]
  理論MLでは、教師パラダイムは実生活の授業の効果的なメタファーとしてしばしば用いられる。 本研究では、根本的に異なる最適化スキームを提案することにより、飛躍的に前進する。 このフレームワークで作業することで、教師の真の複雑さを反映した安定した学生のサブ構造を分離できる。
  論文  参考訳（メタデータ） (2023-10-19T09:40:30Z)
• Cross Architecture Distillation for Face Recognition [49.55061794917994]
  本研究では,教師にプロンプトを組み込むことで,蒸留専門知識の管理を可能にする適応型プロンプト教師ネットワーク(APT)を開発した。 一般的な顔のベンチマークと2つの大規模な検証セットによる実験は,本手法の優位性を実証している。
  論文  参考訳（メタデータ） (2023-06-26T12:54:28Z)
• Weakly Supervised Semantic Segmentation via Alternative Self-Dual Teaching [82.71578668091914]
  本稿では,分類とマスク・リファインメント・コンポーネントを統合された深層モデルに組み込む,コンパクトな学習フレームワークを確立する。 本稿では,高品質な知識相互作用を促進するために,新たな自己双対学習(ASDT)機構を提案する。
  論文  参考訳（メタデータ） (2021-12-17T11:56:56Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。