論文の概要: Robust Generalization despite Distribution Shift via Minimum Discriminating Information

• arxiv url: http://arxiv.org/abs/2106.04443v1
• Date: Tue, 8 Jun 2021 15:25:35 GMT
• ステータス: 処理完了
• システム内更新日: 2021-06-09 21:45:36.361549
• Title: Robust Generalization despite Distribution Shift via Minimum Discriminating Information
• Title（参考訳）: 最小識別情報による分布シフトにもかかわらずロバスト一般化
• Authors: Tobias Sutter, Andreas Krause, Daniel Kuhn
• Abstract要約: 我々は、トレーニングデータに加えて、シフトしたテスト分布に関する部分的な構造的知識を持つモデリングフレームワークを導入する。 我々は、利用可能な事前知識を埋め込むために、最小限の識別情報の原則を用いる。 未知のシフト分布に関する明示的な一般化境界を得る。
• 参考スコア（独自算出の注目度）: 46.164498176119665
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Training models that perform well under distribution shifts is a central challenge in machine learning. In this paper, we introduce a modeling framework where, in addition to training data, we have partial structural knowledge of the shifted test distribution. We employ the principle of minimum discriminating information to embed the available prior knowledge, and use distributionally robust optimization to account for uncertainty due to the limited samples. By leveraging large deviation results, we obtain explicit generalization bounds with respect to the unknown shifted distribution. Lastly, we demonstrate the versatility of our framework by demonstrating it on two rather distinct applications: (1) training classifiers on systematically biased data and (2) off-policy evaluation in Markov Decision Processes.
• Abstract（参考訳）: 分散シフト下でうまく機能するトレーニングモデルは、マシンラーニングの中心的な課題である。 本稿では、トレーニングデータに加えて、シフトしたテスト分布に関する部分的構造的知識を持つモデリングフレームワークを提案する。 利用可能な事前知識を埋め込むために最小識別情報の原則を採用し、限定されたサンプルによる不確実性を考慮するために分布的ロバストな最適化を用いる。 大きな偏差結果を利用することで、未知のシフト分布に対する明示的な一般化境界が得られる。 最後に,(1)体系的偏りのあるデータに対する分類器の訓練と,(2)マルコフ決定過程におけるオフポリシー評価という2つの異なる応用により,フレームワークの汎用性を示す。

関連論文リスト

• SimPro: A Simple Probabilistic Framework Towards Realistic Long-Tailed Semi-Supervised Learning [49.94607673097326]
  ラベルなしデータの分散に関する前提を前提としない、高度に適応可能なフレームワークをSimProとして提案する。 我々のフレームワークは確率モデルに基づいており、期待最大化アルゴリズムを革新的に洗練する。 本手法は,様々なベンチマークやデータ分散シナリオにまたがる一貫した最先端性能を示す。
  論文  参考訳（メタデータ） (2024-02-21T03:39:04Z)
• A Distributional Analogue to the Successor Representation [54.99439648059807]
  本稿では,分散強化学習のための新しい手法を提案する。 学習プロセスにおける遷移構造と報酬のクリーンな分離を解明する。 実例として,ゼロショットリスクに敏感な政策評価が可能であることを示す。
  論文  参考訳（メタデータ） (2024-02-13T15:35:24Z)
• Class Distribution Shifts in Zero-Shot Learning: Learning Robust Representations [3.8980564330208662]
  シフトの原因となる属性が事前に不明であると仮定するモデルを提案する。 提案手法は,シミュレーションと実世界のデータセットの両方において,多様なクラス分布の一般化を改善する。
  論文  参考訳（メタデータ） (2023-11-30T14:14:31Z)
• Dr. FERMI: A Stochastic Distributionally Robust Fair Empirical Risk Minimization Framework [12.734559823650887]
  分散シフトが存在する場合、公正な機械学習モデルはテストデータに対して不公平に振る舞うことがある。 既存のアルゴリズムはデータへの完全なアクセスを必要とし、小さなバッチを使用する場合には使用できない。 本稿では,因果グラフの知識を必要としない収束保証付き分布安定度フレームワークを提案する。
  論文  参考訳（メタデータ） (2023-09-20T23:25:28Z)
• Learning Against Distributional Uncertainty: On the Trade-off Between Robustness and Specificity [24.874664446700272]
  本稿では,3つのアプローチを統一し,上記の2つの課題に対処する新たな枠組みについて検討する。 提案したモデルのモンテカルロ法に基づく解法(例えば、一貫性と正規性)、非漸近性(例えば、非バイアス性や誤差境界)について検討した。
  論文  参考訳（メタデータ） (2023-01-31T11:33:18Z)
• Certifying Some Distributional Fairness with Subpopulation Decomposition [20.009388617013986]
  まず、最適化問題として、与えられたデータ分布に基づいて訓練されたMLモデルの正当性を定式化する。 次に、一般的な公平性認定フレームワークを提案し、センシティブなシフトと一般的なシフトの両方のシナリオでインスタンス化する。 我々のフレームワークは、追加の非スキューネス制約を統合する柔軟性があり、異なる実世界のシナリオ下でさらに厳密な認証を提供することを示す。
  論文  参考訳（メタデータ） (2022-05-31T01:17:50Z)
• Beyond Discriminant Patterns: On the Robustness of Decision Rule Ensembles [22.57678894050416]
  局所的な決定規則は、関連するパターンの局所的な性質のため、より説明しやすいと一般的に理解されている。 トレーニング環境とデプロイメント環境の両方において堅牢なローカルな意思決定ルールを学習し,アンサンブルするための新しい手法を提案する。
  論文  参考訳（メタデータ） (2021-09-21T20:50:10Z)
• Learning Invariant Representations and Risks for Semi-supervised Domain Adaptation [109.73983088432364]
  半教師付きドメイン適応(Semi-DA)の設定の下で不変表現とリスクを同時に学習することを目的とした最初の手法を提案する。 共同で textbfLearning textbfInvariant textbfRepresentations と textbfRisks の LIRR アルゴリズムを導入する。
  論文  参考訳（メタデータ） (2020-10-09T15:42:35Z)
• Estimating Generalization under Distribution Shifts via Domain-Invariant Representations [75.74928159249225]
  未知の真のターゲットラベルのプロキシとして、ドメイン不変の予測器のセットを使用します。 結果として生じるリスク見積の誤差は、プロキシモデルのターゲットリスクに依存する。
  論文  参考訳（メタデータ） (2020-07-06T17:21:24Z)
• Learning Diverse Representations for Fast Adaptation to Distribution Shift [78.83747601814669]
  本稿では,複数のモデルを学習する手法を提案する。 分散シフトへの迅速な適応を促進するフレームワークの能力を実証する。
  論文  参考訳（メタデータ） (2020-06-12T12:23:50Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。