論文の概要: Learning the Robustness Mechanism with Bilevel Optimization
- arxiv url: http://arxiv.org/abs/2609.35541v1
- Date: Mon, 28 Sep 2026 16:20:09 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-01 21:00:04.321207
- Title: Learning the Robustness Mechanism with Bilevel Optimization
- Title(参考訳): 2レベル最適化によるロバストネスメカニズムの学習
- Abstract要約: 本研究では、広範囲に調整されるのではなく、保持データからロバスト性メカニズムを定義するパラメータを学習する分散ロバスト学習フレームワークを提案する。
本稿では,より計算効率が良く,網羅的なグリッド探索に匹敵する一般化保証を実現していることを示す。
- 参考スコア(独自算出の注目度): 17.00730401656666
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We propose a distributionally robust learning framework where parameters defining the robustness mechanism are learned from held-out data instead of extensively tuned. Using bilevel optimization with both upper and lower level minimax problems, we create two instances of our framework to tackle setups with and without group labels in the training set. Theoretically, we provide sample complexity analysis for our robustness mechanism learning paradigm, showing that it achieves generalization guarantees comparable to exhaustive grid search while being more computationally efficient. Empirically, we evaluate our framework under a challenging setup when both intra-group and inter-group test distribution shifts occur at the same time, thereby demonstrating the efficacy and scalability of our method.
- Abstract(参考訳): 本研究では、広範囲に調整されるのではなく、保持データからロバスト性メカニズムを定義するパラメータを学習する分散ロバスト学習フレームワークを提案する。
上層と下層の両方のミニマックス問題による双レベル最適化を用いて、トレーニングセット内のグループラベルなしでセットアップに取り組むためのフレームワークの2つのインスタンスを作成します。
理論的には、ロバストネスメカニズム学習パラダイムのサンプル複雑性解析を行い、より計算効率が高く、網羅的なグリッド探索に匹敵する一般化保証を実現することを示す。
実験により,グループ内およびグループ間テスト分布のシフトが同時に発生すると,本手法の有効性と拡張性を示す上で,我々のフレームワークを困難な状況下で評価する。
関連論文リスト
- Fairness-informed Pareto Optimization : An Efficient Bilevel Framework [9.47506642944168]
フェアネス指標の最適モデルを復元するフレームワークであるBADRを提案する。
BADRには、BADR-GDとBADR-SGDという2つの新しい大規模シングルループアルゴリズムが備わっている。
BadrはオープンソースのPythonツールボックスで、さまざまな学習タスクと公正度メトリクスのためのフレームワークを実装しています。
論文 参考訳(メタデータ) (2026-01-19T23:05:07Z) - Multi-Level Aware Preference Learning: Enhancing RLHF for Complex Multi-Instruction Tasks [81.44256822500257]
RLHFは、人工知能システムと人間の好みを結びつける主要なアプローチとして登場した。
RLHFは、複雑なマルチインストラクションタスクに直面すると、不十分なコンプライアンス機能を示す。
本稿では,マルチインストラクション能力を向上させる新しいMAPL(Multi-level Aware Preference Learning)フレームワークを提案する。
論文 参考訳(メタデータ) (2025-05-19T08:33:11Z) - A Provably Convergent Plug-and-Play Framework for Stochastic Bilevel Optimization [4.703514158152835]
Bilevelは最近、幅広いアプリケーションと高度な階層最適化機能のために、機械学習に大きな注目を集めている。
本稿では,双方向最適化手法の開発と解析を行うためのBOというプラグイン・アンド・プレイフレームワークを提案する。
論文 参考訳(メタデータ) (2025-05-02T13:26:43Z) - Preference-Based Multi-Agent Reinforcement Learning: Data Coverage and Algorithmic Techniques [65.55451717632317]
PbMARL(Preference-based Multi-Agent Reinforcement Learning)について検討する。
一般ゲームにおける嗜好のみのオフラインデータセットからナッシュ平衡を同定する。
以上の結果から,PbMARLの多面的アプローチが示唆された。
論文 参考訳(メタデータ) (2024-09-01T13:14:41Z) - Structured Conformal Inference for Matrix Completion with Applications to Group Recommender Systems [16.519348575982004]
本手法は, わずかに観察された行列内において, 与えられた不足成分群に対する連立信頼領域を構築するための共形推論法を開発した。
提案手法はモデルに依存しないため,どのブラックボックスの行列補完アルゴリズムと組み合わせて,グループレベルの推薦に対して信頼性の高い不確実性推定を行うことができる。
論文 参考訳(メタデータ) (2024-04-26T17:42:29Z) - An Operational Perspective to Fairness Interventions: Where and How to
Intervene [9.833760837977222]
フェアネス介入の評価と文脈化のための包括的枠組みを提案する。
予測パリティに関するケーススタディで、我々のフレームワークを実証する。
グループデータを使わずに予測パリティを実現することは困難である。
論文 参考訳(メタデータ) (2023-02-03T07:04:33Z) - Learning Transferable Adversarial Robust Representations via Multi-view
Consistency [57.73073964318167]
デュアルエンコーダを用いたメタ逆多視点表現学習フレームワークを提案する。
未確認領域からの少数ショット学習タスクにおけるフレームワークの有効性を実証する。
論文 参考訳(メタデータ) (2022-10-19T11:48:01Z) - Rethinking Clustering-Based Pseudo-Labeling for Unsupervised
Meta-Learning [146.11600461034746]
教師なしメタラーニングのメソッドであるCACTUsは、擬似ラベル付きクラスタリングベースのアプローチである。
このアプローチはモデルに依存しないため、教師付きアルゴリズムと組み合わせてラベルのないデータから学習することができる。
このことの核となる理由は、埋め込み空間においてクラスタリングに優しい性質が欠如していることである。
論文 参考訳(メタデータ) (2022-09-27T19:04:36Z) - Towards Large Scale Automated Algorithm Design by Integrating Modular
Benchmarking Frameworks [0.9281671380673306]
本稿では,アルゴリズムフレームワークであるParadisEOと,自動アルゴリズム設定ツール irace と実験プラットフォーム IOHknownr の効率性を示す最初の概念実証例を提案する。
パイプラインの主な利点は、高速な評価時間、豊富なデータセットを生成する可能性、そしてサンプリングベースの最適化の非常に幅広いクラスをベンチマークするのに使用できる標準化されたインターフェースである。
論文 参考訳(メタデータ) (2021-02-12T10:47:00Z) - Neural Ensemble Search for Uncertainty Estimation and Dataset Shift [67.57720300323928]
ニューラルネットワークのアンサンブルは、データセットシフトに対する精度、不確実性キャリブレーション、堅牢性の観点から、スタンドアロンネットワークよりも優れたパフォーマンスを実現する。
本稿では,アンサンブルをアンサンブルで自動構築する2つの手法を提案する。
得られたアンサンブルは、精度だけでなく、不確実なキャリブレーションやデータセットシフトに対する堅牢性の観点からも、深いアンサンブルよりも優れていることを示す。
論文 参考訳(メタデータ) (2020-06-15T17:38:15Z) - Towards Model-Agnostic Post-Hoc Adjustment for Balancing Ranking
Fairness and Algorithm Utility [54.179859639868646]
Bipartiteランキングは、ラベル付きデータから正の個人よりも上位の個人をランク付けするスコアリング機能を学ぶことを目的としている。
学習したスコアリング機能が、異なる保護グループ間で体系的な格差を引き起こすのではないかという懸念が高まっている。
本稿では、二部構成のランキングシナリオにおいて、それらのバランスをとるためのモデル後処理フレームワークを提案する。
論文 参考訳(メタデータ) (2020-06-15T10:08:39Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。