論文の概要: Learning Pareto manifolds in high dimensions: How can regularization help?

• arxiv url: http://arxiv.org/abs/2503.08849v1
• Date: Tue, 11 Mar 2025 19:38:06 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-03-13 15:40:24.523206
• Title: Learning Pareto manifolds in high dimensions: How can regularization help?
• Title（参考訳）: 高次元パレート多様体の学習 : 正規化はどのように役立つのか?
• Authors: Tobias Wegel, Filip Kovačević, Alexandru Ţifrea, Fanny Yang,
• Abstract要約: 我々は,バニラ正規化手法の適用がいかに失敗するかを論じ,低次元構造をうまく活用できる2段階のMOLフレームワークを提案する。 マルチディストリビューション学習とフェアネスリスクトレードオフに対して,その効果を実験的に実証した。
• 参考スコア（独自算出の注目度）: 48.23440259626247
• License:
• Abstract: Simultaneously addressing multiple objectives is becoming increasingly important in modern machine learning. At the same time, data is often high-dimensional and costly to label. For a single objective such as prediction risk, conventional regularization techniques are known to improve generalization when the data exhibits low-dimensional structure like sparsity. However, it is largely unexplored how to leverage this structure in the context of multi-objective learning (MOL) with multiple competing objectives. In this work, we discuss how the application of vanilla regularization approaches can fail, and propose a two-stage MOL framework that can successfully leverage low-dimensional structure. We demonstrate its effectiveness experimentally for multi-distribution learning and fairness-risk trade-offs.
• Abstract（参考訳）: 現代の機械学習では、複数の目的に同時に対処することがますます重要になっている。 同時に、データは高次元でラベル付けにコストがかかることが多い。 予測リスクのような単一目的のために、従来の正規化手法は、データが空間のような低次元構造を示すときに一般化を改善することが知られている。 しかし、多目的学習(MOL)の文脈において、この構造をどのように活用するかは、主に未解明である。 本稿では,バニラ正規化手法の適用がいかに失敗するかを論じ,低次元構造をうまく活用できる2段階MOLフレームワークを提案する。 マルチディストリビューション学習とフェアネスリスクトレードオフに対して,その効果を実験的に実証した。

関連論文リスト

• Rethinking Multi-Objective Learning through Goal-Conditioned Supervised Learning [8.593384839118658]
  多目的学習は、1つのモデルで複数の目的を同時に最適化することを目的としている。 正確な学習プロセスを形式化し実行することの難しさに悩まされる。 本稿では,既存のシーケンシャルデータに基づいて,複数の目的を自動学習する汎用フレームワークを提案する。
  論文  参考訳（メタデータ） (2024-12-12T03:47:40Z)
• Beyond Unimodal Learning: The Importance of Integrating Multiple Modalities for Lifelong Learning [23.035725779568587]
  ディープニューラルネットワーク(DNN)におけるマルチモーダル性の役割と相互作用について検討する。 以上の結果から,複数のビューと相補的な情報を複数のモーダルから活用することで,より正確かつ堅牢な表現を学習できることが示唆された。 本稿では,各モーダルにおけるデータ点間の関係構造的類似性を利用して,異なるモーダルからの情報の統合と整合化を行う手法を提案する。
  論文  参考訳（メタデータ） (2024-05-04T22:02:58Z)
• Recognizing Unseen Objects via Multimodal Intensive Knowledge Graph Propagation [68.13453771001522]
  画像の領域と対応するセマンティック埋め込みとをマッチングする多モード集中型ZSLフレームワークを提案する。 我々は、大規模な実世界のデータに基づいて、広範囲な実験を行い、そのモデルを評価する。
  論文  参考訳（メタデータ） (2023-06-14T13:07:48Z)
• Generalization In Multi-Objective Machine Learning [27.806085423595334]
  マルチオブジェクト学習は、早期のトレードオフにコミットすることなく、このような問題に対処するための自然なフレームワークを提供する。 統計的学習理論は、これまでのところ、多目的学習の一般化特性についてはほとんど洞察を提供していない。
  論文  参考訳（メタデータ） (2022-08-29T11:06:39Z)
• Variational Distillation for Multi-View Learning [104.17551354374821]
  我々は,多視点表現学習における2つの重要な特徴を利用するために,様々な情報ボトルネックを設計する。 厳密な理論的保証の下で,本手法は,観察とセマンティックラベルの内在的相関の把握を可能にする。
  論文  参考訳（メタデータ） (2022-06-20T03:09:46Z)
• Guided Deep Metric Learning [0.9786690381850356]
  我々は、ガイドドディープメトリックラーニングと呼ばれる新しいDML手法を提案する。 提案手法は、最大40%の改善まで、より優れた多様体の一般化と表現が可能である。
  論文  参考訳（メタデータ） (2022-06-04T17:34:11Z)
• Understanding the World Through Action [91.3755431537592]
  ラベルのないデータを利用するための汎用的で原則的で強力なフレームワークは、強化学習から導き出すことができると私は主張する。 このような手順が、下流の潜在的なタスクとどのように密接に一致しているかについて論じます。
  論文  参考訳（メタデータ） (2021-10-24T22:33:52Z)
• Provable Multi-Objective Reinforcement Learning with Generative Models [98.19879408649848]
  目的の選好から最適な政策を学習する単一政策 MORL の問題について検討する。 既存の方法は、多目的決定プロセスの正確な知識のような強い仮定を必要とする。 モデルベースエンベロップ値 (EVI) と呼ばれる新しいアルゴリズムを提案し, 包含された多目的$Q$学習アルゴリズムを一般化する。
  論文  参考訳（メタデータ） (2020-11-19T22:35:31Z)
• Learning From Multiple Experts: Self-paced Knowledge Distillation for Long-tailed Classification [106.08067870620218]
  我々は,LFME(Learning From Multiple Experts)と呼ばれる自己評価型知識蒸留フレームワークを提案する。 提案するLFMEフレームワークは,複数の'Experts'からの知識を集約して,統一された学生モデルを学ぶ。 提案手法は,最先端の手法に比べて優れた性能が得られることを示す。
  論文  参考訳（メタデータ） (2020-01-06T12:57:36Z)
• Multi-Objective Genetic Programming for Manifold Learning: Balancing Quality and Dimensionality [4.4181317696554325]
  最先端の多様体学習アルゴリズムはこの変換の実行方法において不透明である。 多様体の品質と次元の競合する目的を自動的にバランスさせる多目的アプローチを導入する。 提案手法は,基礎および最先端の多様体学習手法と競合する。
  論文  参考訳（メタデータ） (2020-01-05T23:24:33Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。