論文の概要: Supervised Distributional Reduction via Optimal Transport and Dependence Maximization
- arxiv url: http://arxiv.org/abs/2605.27619v1
- Date: Tue, 26 May 2026 19:38:20 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-28 17:38:55.484468
- Title: Supervised Distributional Reduction via Optimal Transport and Dependence Maximization
- Title(参考訳): 最適輸送と依存性の最大化による配電率削減
- Authors: Sai-Aakash Ramesh, Archit Sood, Andrew Corbett, Tim Dodwell,
- Abstract要約: ターゲット認識表現を学習するアルゴリズムであるSupervised Distribution Reduction (SDR)を提案する。
SDRはFused Gromov-Wasserstein (FGW) の目的に基づいて構築され、入力分布のリレーショナル構造を代表点の集合と整列する。
SDRはデータ依存の非定常幾何学を自然に誘導し、ガウス過程(GP)モデリングのような設定に利用することができる。
- 参考スコア(独自算出の注目度): 1.0499611180329804
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Learning representations that capture both intrinsic data geometry and target-relevant structure remains a fundamental challenge, particularly in settings where data reduction must balance compression with predictive fidelity. While distributional reduction-encompassing joint clustering and dimensionality reduction-offers a principled way to summarize data, its supervised variants remain relatively under-explored, despite the importance of retaining task-relevant signal for downstream prediction and decision-making. We propose Supervised Distributional Reduction (SDR), an algorithm for learning target-aware representations by combining optimal transport with explicit dependence maximization. SDR builds on the Fused Gromov-Wasserstein (FGW) objective to align the relational structure of the input distribution with a set of representative points, while augmenting it with a direct dependence term that encourages the learned embeddings to capture predictive signal more explicitly. This results in compact representations that reflect both geometric structure and supervision. Beyond representation learning, SDR naturally induces a data-dependent, non-stationary geometry that can be leveraged for settings such as Gaussian Process (GP) modelling. By redefining distances through target-aware distributional alignment, SDR enables the construction of adaptive kernels that respond to local variations in both data geometry and supervision, offering an optimal transport-based perspective on non-stationary kernel design.
- Abstract(参考訳): 固有データ幾何とターゲット関連構造の両方をキャプチャする学習表現は、特にデータ削減が圧縮と予測忠実さのバランスを取る必要がある環境では、依然として根本的な課題である。
分散還元結合クラスタリングと次元還元オフはデータを要約する原則的な方法であるが、下流予測や意思決定においてタスク関連信号を保持することの重要性にもかかわらず、その教師付き変種は比較的未探索のままである。
本稿では、最適輸送と明示的依存の最大化を組み合わせた目標認識表現の学習アルゴリズムであるSupervised Distributional Reduction (SDR)を提案する。
SDR はFused Gromov-Wasserstein (FGW) の目的に基づいて構築され、入力分布のリレーショナル構造を一連の代表点と整合させ、学習された埋め込みが予測信号をより明示的に捉えることを奨励する直接的な依存項で拡張する。
これにより、幾何学的構造と監督の両方を反映したコンパクトな表現が得られる。
表現学習以外にも、SDRはデータに依存しない非定常幾何学を自然に誘導し、ガウス過程(GP)モデリングのような設定に利用することができる。
ターゲットを意識した分布アライメントを通して距離を再定義することにより、SDRはデータジオメトリと監督の両方の局所的なバリエーションに対応する適応型カーネルの構築を可能にし、非定常カーネル設計における最適なトランスポートベース視点を提供する。
関連論文リスト
- Beyond Point-Wise Matching: Structural Representation Alignment for Accelerating Diffusion Transformers [93.3976834364707]
本稿では,特徴写像のリレーショナル幾何における整合性を実現する構造的RePresentation AlignmentフレームワークであるsREPAを提案する。
モデルが事前訓練された特徴から全体的空間配置と構造的相関を内包するように促すことにより、sREPAはより高速でより安定した収束を達成する。
論文 参考訳(メタデータ) (2026-05-16T12:01:04Z) - SEED: Targeted Data Selection by Weighted Independent Set [76.68391670109433]
我々はSEEDと呼ばれる堅牢でスケーラブルなデータ選択パイプラインを開発した。
SEEDは、命令チューニング、視覚的命令チューニング、セマンティックセグメンテーションにおける最先端の手法を一貫して上回っている。
論文 参考訳(メタデータ) (2026-05-15T07:26:54Z) - Geometric Characterisation and Structured Trajectory Surrogates for Clinical Dataset Condensation [1.6261700844888172]
トラジェクトリマッチング(TM)は、実データ上でのトレーニング中に観測されたモデルパラメータの変化を用いて合成データを監督する、広く使われている凝縮法である。
固定された合成データセットは、そのような訓練によって引き起こされるパラメータの変化の限られた範囲しか再現できないことを示す。
本稿では,SGDトラジェクトリを2次ベジエトラジェクトリサロゲートに置き換えるBezier Trajectory Matching (BTM)を提案する。
論文 参考訳(メタデータ) (2026-04-23T12:53:46Z) - Curvature-Aware PCA with Geodesic Tangent Space Aggregation for Semi-Supervised Learning [52.452902154360565]
GTSA-PCAは主成分分析の幾何学的拡張である。
曲率認識と測地的整合性を統合されたスペクトルフレームワークに統合する。
以上の結果から,GTSA-PCAは次元減少に対する統計的および幾何学的アプローチの原則的ブリッジとして位置づけられた。
論文 参考訳(メタデータ) (2026-04-20T20:36:36Z) - Invariance on Manifolds: Understanding Robust Visual Representations for Place Recognition [19.200074425090595]
本稿では,2次幾何統計フレームワークを提案する。
提案手法では、固定されたトレーニング済みのバックボーン上に構築されたトレーニング不要のフレームワークを導入し、パラメータ更新なしで強力なゼロショット一般化を実現する。
論文 参考訳(メタデータ) (2026-01-31T18:12:29Z) - Designing Ambiguity Sets for Distributionally Robust Optimization Using Structural Causal Optimal Transport [21.387312729118364]
本稿では,因果グラフ情報を含む構造方程式を取り入れ,あいまいさの集合を強化することを提案する。
本研究では, 最適輸送問題における次元性の呪いを克服し, 無秩序で高速な縮小を実現する方法を示す。
論文 参考訳(メタデータ) (2025-10-01T07:26:47Z) - Representation-Aware Distributionally Robust Optimization: A Knowledge Transfer Framework [6.529107536201152]
本稿では,分散シフトに対処する際の予測表現を考慮に入れた,分散的ロバスト学習のための新しいフレームワークを提案する。
我々は,READが輸送コストに多次元アライメントパラメータを埋め込むことで,情報表現に関連する方向に沿った摂動を差分的に回避できることを示した。
我々は、広範囲なシミュレーションと実世界の研究を通して、我々のフレームワークの有効性を実証することで結論付ける。
論文 参考訳(メタデータ) (2025-09-11T11:42:17Z) - Compressed Regression over Adaptive Networks [58.79251288443156]
分散エージェントのネットワークによって達成可能な性能を導出し,通信制約や回帰問題を解消し,適応的に解決する。
エージェントによって最適化に必要なパラメータをオンラインで学習できる最適化アロケーション戦略を考案する。
論文 参考訳(メタデータ) (2023-04-07T13:41:08Z) - Which Invariance Should We Transfer? A Causal Minimax Learning Approach [18.71316951734806]
本稿では、因果的観点からの包括的ミニマックス分析について述べる。
最小の最悪のリスクを持つサブセットを探索する効率的なアルゴリズムを提案する。
本手法の有効性と有効性は, 合成データとアルツハイマー病の診断で実証された。
論文 参考訳(メタデータ) (2021-07-05T09:07:29Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。