論文の概要: Gromov-Wasserstein Distillation for Inductive Multi-View Embedding
- arxiv url: http://arxiv.org/abs/2609.40047v1
- Date: Wed, 30 Sep 2026 16:14:13 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-01 18:57:28.030066
- Title: Gromov-Wasserstein Distillation for Inductive Multi-View Embedding
- Title(参考訳): 誘導型多視点埋め込みのためのグロモフ・ワッサースタイン蒸留法
- Abstract要約: バリ中心蒸留に基づく誘導型枠組みを導入する。
GW-MDS教師は、トレーニングデータから潜伏支援と最適な輸送計画を学ぶ。
神経学生は、明示的なサンプル外マッピングを学ぶ。
- 参考スコア(独自算出の注目度): 7.216399430290167
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Gromov-Wasserstein multidimensional scaling (GW-MDS) learns low-dimensional representations from relational data but remains transductive, providing no explicit mapping for unseen samples. We introduce an inductive framework based on barycentric distillation. A GW-MDS teacher learns a latent support and an optimal transport plan from the training data, and barycentric projection converts the resulting coupling into sample-aligned targets. A neural student then learns an explicit out-of-sample mapping, avoiding additional relational-matrix construction and GW optimization at inference. We formulate the approach for single-view data and extend it to Mean-GWMDS and Multi-GWMDS teachers through consensus and selected-projection targets learned by a multi-view student with view-specific encoders. We also investigate a direct neural baseline trained solely with a GW objective. Experiments on synthetic and real-world data using Euclidean, geodesic, and cosine relations show that the distilled models preserve the teacher geometry on unseen samples and consistently outperform direct neural GW training in sample-indexed relational preservation. These results establish barycentric projection as an effective bridge between transductive GW embeddings and inductive neural mappings.
- Abstract(参考訳): グロモフ・ワッサーシュタイン多次元スケーリング(Gromov-Wasserstein multidimensional scaling, GW-MDS)は、関係データから低次元の表現を学習するが、導出性は保たず、目に見えないサンプルの明示的なマッピングは提供しない。
バリ中心蒸留に基づく誘導型枠組みを導入する。
GW-MDS教師は、トレーニングデータから潜伏支援と最適な輸送計画を学び、バリ中心投影により、その結果の結合をサンプル整列目標に変換する。
その後、神経学生は明示的なサンプル外マッピングを学び、推論時に追加のリレーショナル行列構築とGW最適化を避ける。
我々は,単一視点データに対するアプローチを定式化し,ビュー固有エンコーダを持つ多視点学生が学習したコンセンサスと選択投影目標を用いて,Mean-GWMDSとMulti-GWMDSの教師に拡張する。
また,GW目的のみで訓練したニューラルベースラインについても検討した。
ユークリッド・ジオデシック・コサイン関係を用いた実世界の合成・実世界のデータ実験は、蒸留されたモデルが教師の幾何学を未知のサンプルで保存し、サンプルインデックス付きリレーショナル保存におけるニューラルGWトレーニングを一貫して上回っていることを示している。
これらの結果は、トランスダクティブGW埋め込みとインダクティブニューラルマッピングの効果的なブリッジとしてバリセントリックプロジェクションを確立する。
関連論文リスト
- Gromov-Wasserstein Methods for Multi-View Relational Embedding and Clustering [7.216399430290167]
本稿では,Gromov-WassersteinをベースとしたBary-GWMDSを提案する。
また,クラスタリング指向の定式化であるMean-GWMDS-Cを導入する。
合成および実世界のデータセットの実験により、提案したフレームワークは安定で幾何学的に意味のある埋め込みをもたらすことが示された。
論文 参考訳(メタデータ) (2026-04-26T23:23:12Z) - VTAE: Variational Transformer Autoencoder with Manifolds Learning [144.0546653941249]
深層生成モデルは、多くの潜伏変数を通して非線形データ分布の学習に成功している。
ジェネレータの非線形性は、潜在空間がデータ空間の不満足な射影を示し、表現学習が不十分になることを意味する。
本研究では、測地学と正確な計算により、深部生成モデルの性能を大幅に向上させることができることを示す。
論文 参考訳(メタデータ) (2023-04-03T13:13:19Z) - Linking data separation, visual separation, and classifier performance
using pseudo-labeling by contrastive learning [125.99533416395765]
最終分類器の性能は、潜在空間に存在するデータ分離と、射影に存在する視覚的分離に依存すると論じる。
本研究は,ヒト腸管寄生虫の5つの現実的課題の画像データセットを1%の教師付きサンプルで分類し,その結果を実証する。
論文 参考訳(メタデータ) (2023-02-06T10:01:38Z) - EmbedDistill: A Geometric Knowledge Distillation for Information
Retrieval [83.79667141681418]
大規模なニューラルモデル(トランスフォーマーなど)は、情報検索(IR)のための最先端のパフォーマンスを達成する
本研究では,大規模教師モデルで学習したクエリとドキュメント間の相対的幾何を利用した新しい蒸留手法を提案する。
提案手法は, 両エンコーダ (DE) とクロスエンコーダ (CE) の2種類の教師モデルから, 95~97%の教師性能を維持できる1/10の非対称な学生への蒸留に成功した。
論文 参考訳(メタデータ) (2023-01-27T22:04:37Z) - Guided Hybrid Quantization for Object detection in Multimodal Remote
Sensing Imagery via One-to-one Self-teaching [35.316067181895264]
本稿では,1対1の自己学習(GHOST)フレームワークを用いたハイブリッド量子化手法を提案する。
まず, 導電性量子化自己蒸留(GQSD)と呼ばれる構造を設計する。
第3に、情報変換を改善するために、学生ネットワークに自己判断能力を与える1対1の自己学習モジュールを提案する。
論文 参考訳(メタデータ) (2022-12-31T06:14:59Z) - The Manifold Hypothesis for Gradient-Based Explanations [55.01671263121624]
勾配に基づく説明アルゴリズムは知覚的に整合した説明を提供する。
特徴属性がデータの接する空間と一致しているほど、知覚的に一致している傾向にあることを示す。
説明アルゴリズムは、その説明をデータ多様体と整合させるよう積極的に努力すべきである。
論文 参考訳(メタデータ) (2022-06-15T08:49:24Z) - Aligning Logits Generatively for Principled Black-Box Knowledge Distillation [49.43567344782207]
Black-Box Knowledge Distillation (B2KD)は、クラウドからエッジへのモデル圧縮において、サーバ上にホストされる見えないデータとモデルによって定式化された問題である。
民営化と蒸留による2段階のワークフローを形式化する。
そこで本研究では,ブラックボックスの煩雑なモデルを軽量に蒸留するKD (MEKD) を新たに提案する。
論文 参考訳(メタデータ) (2022-05-21T02:38:16Z) - Mixed Effects Neural ODE: A Variational Approximation for Analyzing the
Dynamics of Panel Data [50.23363975709122]
パネルデータ解析に(固定・ランダムな)混合効果を取り入れたME-NODEという確率モデルを提案する。
我々は、Wong-Zakai定理によって提供されるSDEの滑らかな近似を用いて、我々のモデルを導出できることを示す。
次に、ME-NODEのためのエビデンスに基づく下界を導出し、(効率的な)トレーニングアルゴリズムを開発する。
論文 参考訳(メタデータ) (2022-02-18T22:41:51Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。