論文の概要: GeoERM: Geometry-Aware Multi-Task Representation Learning on Riemannian Manifolds
- arxiv url: http://arxiv.org/abs/2505.02972v1
- Date: Mon, 05 May 2025 18:56:16 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-05-07 18:50:11.106774
- Title: GeoERM: Geometry-Aware Multi-Task Representation Learning on Riemannian Manifolds
- Title(参考訳): GeoERM:リーマン多様体上の幾何学的マルチタスク表現学習
- Authors: Aoran Chen, Yang Feng,
- Abstract要約: マルチタスク学習(MTL)は、関連するタスク間で共有される構造を発見し、統計力と学習効率を高めることを目的としている。
我々は、その自然なリーマン多様体上に共有表現を埋め込んだ幾何学的MTLフレームワークGeoERMを提案する。
また,GeoERMは評価精度を一定に向上し,負の伝達を低減し,逆ラベル雑音下では安定であることを示す。
- 参考スコア(独自算出の注目度): 14.251447722365661
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Multi-Task Learning (MTL) seeks to boost statistical power and learning efficiency by discovering structure shared across related tasks. State-of-the-art MTL representation methods, however, usually treat the latent representation matrix as a point in ordinary Euclidean space, ignoring its often non-Euclidean geometry, thus sacrificing robustness when tasks are heterogeneous or even adversarial. We propose GeoERM, a geometry-aware MTL framework that embeds the shared representation on its natural Riemannian manifold and optimizes it via explicit manifold operations. Each training cycle performs (i) a Riemannian gradient step that respects the intrinsic curvature of the search space, followed by (ii) an efficient polar retraction to remain on the manifold, guaranteeing geometric fidelity at every iteration. The procedure applies to a broad class of matrix-factorized MTL models and retains the same per-iteration cost as Euclidean baselines. Across a set of synthetic experiments with task heterogeneity and on a wearable-sensor activity-recognition benchmark, GeoERM consistently improves estimation accuracy, reduces negative transfer, and remains stable under adversarial label noise, outperforming leading MTL and single-task alternatives.
- Abstract(参考訳): マルチタスク学習(MTL)は、関連するタスク間で共有される構造を発見し、統計力と学習効率を高めることを目的としている。
しかし、最先端の MTL 表現法は、通常、潜在表現行列を通常のユークリッド空間の点として扱い、しばしば非ユークリッド幾何学を無視し、従ってタスクが不均一あるいは逆数であるときの堅牢性を犠牲にする。
幾何対応のMTLフレームワークであるGeoERMを提案する。これは、その自然なリーマン多様体上に共有表現を埋め込んで、明示的な多様体演算によってそれを最適化する。
各トレーニングサイクルが実行します
i) 探索空間の内在曲率を尊重するリーマン勾配ステップ
(ii) 任意の反復において幾何的忠実性を保証するために、多様体上に留まる効率的な極引き取り法。
この手順は、行列分解型MTLモデルの幅広いクラスに適用され、ユークリッド基底線と同じ点当たりコストを保持する。
タスクの不均一性とウェアラブル・センサのアクティビティ認識ベンチマークを用いた一連の合成実験において、GeoERMは推定精度を一貫して改善し、負の転送を低減し、逆ラベルノイズの下で安定し、主要なMTLやシングルタスクの代替よりも優れた性能を保っている。
関連論文リスト
- Riemannian Optimization on Relaxed Indicator Matrix Manifold [83.13494760649874]
インジケータ行列は機械学習において重要な役割を果たすが、最適化はNPハード問題である。
我々は、指標行列の新たな緩和を提案し、この緩和が多様体を形成することを証明し、それをRelaxed Indicator Matrix Manifold (RIM manifold) と呼ぶ。
測地学を得るための高速な測地法を含む,いくつかのリトラクション法を提案する。
論文 参考訳(メタデータ) (2025-03-26T12:45:52Z) - Riemann$^2$: Learning Riemannian Submanifolds from Riemannian Data [12.424539896723603]
潜在変数モデルは、高次元データから低次元多様体を学習するための強力なツールである。
本稿では,ロボットの動作合成や脳コネクトームの解析など,さまざまな領域における複雑なタスクの処理を可能にする。
論文 参考訳(メタデータ) (2025-03-07T16:08:53Z) - Interpetable Target-Feature Aggregation for Multi-Task Learning based on Bias-Variance Analysis [53.38518232934096]
マルチタスク学習(MTL)は、タスク間の共有知識を活用し、一般化とパフォーマンスを改善するために設計された強力な機械学習パラダイムである。
本稿では,タスククラスタリングと特徴変換の交点におけるMTL手法を提案する。
両段階において、鍵となる側面は減った目標と特徴の解釈可能性を維持することである。
論文 参考訳(メタデータ) (2024-06-12T08:30:16Z) - Low-Rank Multitask Learning based on Tensorized SVMs and LSSVMs [65.42104819071444]
マルチタスク学習(MTL)はタスク関連性を活用して性能を向上させる。
タスクインデックスに対応する各モードを持つ高次テンソルを用いて、複数のインデックスが参照するタスクを自然に表現する。
テンソル化サポートベクターマシン(SVM)と最小2乗サポートベクターマシン(LSSVM)を併用した低ランクMTL手法の汎用フレームワークを提案する。
論文 参考訳(メタデータ) (2023-08-30T14:28:26Z) - Curvature-Independent Last-Iterate Convergence for Games on Riemannian
Manifolds [77.4346324549323]
本研究では, 多様体の曲率に依存しないステップサイズが, 曲率非依存かつ直線的最終点収束率を達成することを示す。
我々の知る限りでは、曲率非依存率や/または最終点収束の可能性はこれまでに検討されていない。
論文 参考訳(メタデータ) (2023-06-29T01:20:44Z) - The Dynamics of Riemannian Robbins-Monro Algorithms [101.29301565229265]
本稿では,Robins と Monro のセミナル近似フレームワークを一般化し拡張するリーマンアルゴリズムの族を提案する。
ユークリッドのそれと比較すると、リーマンのアルゴリズムは多様体上の大域線型構造が欠如しているため、はるかに理解されていない。
ユークリッド・ロビンス=モンロスキームの既存の理論を反映し拡張するほぼ確実な収束結果の一般的なテンプレートを提供する。
論文 参考訳(メタデータ) (2022-06-14T12:30:11Z) - Robust Geometric Metric Learning [17.855338784378]
本稿では,計量学習問題に対する新しいアルゴリズムを提案する。
その後、Robust Geometric Metric Learning (RGML)と呼ばれる一般的な手法が研究される。
RGMLのパフォーマンスは、実際のデータセット上で保証される。
論文 参考訳(メタデータ) (2022-02-23T14:55:08Z) - Deep Efficient Continuous Manifold Learning for Time Series Modeling [11.876985348588477]
対称正定値行列はコンピュータビジョン、信号処理、医療画像解析において研究されている。
本稿では,リーマン多様体とコレスキー空間の間の微分同相写像を利用する枠組みを提案する。
時系列データの動的モデリングのために,多様体常微分方程式とゲートリカレントニューラルネットワークを体系的に統合した連続多様体学習法を提案する。
論文 参考訳(メタデータ) (2021-12-03T01:38:38Z) - Learning Flat Latent Manifolds with VAEs [16.725880610265378]
本稿では、ユークリッド計量がデータポイント間の類似性のプロキシとなる変分自動エンコーダのフレームワークの拡張を提案する。
我々は、変分オートエンコーダで一般的に使用されるコンパクトな以前のものを、最近発表されたより表現力のある階層型に置き換える。
提案手法は,ビデオ追跡ベンチマークを含む,さまざまなデータセットを用いて評価する。
論文 参考訳(メタデータ) (2020-02-12T09:54:52Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。