論文の概要: Unification and Optimization of Robust Supervised Learning

• arxiv url: http://arxiv.org/abs/2605.28165v1
• Date: Wed, 27 May 2026 08:47:50 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-28 17:38:55.907016
• Title: Unification and Optimization of Robust Supervised Learning
• Title（参考訳）: ロバスト指導学習の統一と最適化
• Authors: Jonas Hanselle, Valentin Margraf, Clemens Damke, Eyke Hüllermeier,
• Abstract要約: 本研究では,頑健な学習を逐次的な段階に分解する学習手順を提案する。 これにより、統合された設計空間が作成され、手元にあるタスクに適した戦略を構成することができる。
• 参考スコア（独自算出の注目度）: 24.343315694527476
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: The literature has proposed various robust alternatives to empirical risk minimisation to address failure modes such as distribution shift, label noise and finite-sample degeneracies. Examples include distributionally robust optimization, label smoothing, vicinal risk minimization, and Mixup. However, such approaches are typically developed in isolation, forcing practitioners to commit a priori to a single failure mode even when the dominant mode for the task is unclear. To address this, we organize a broad class of existing methods along three common design axes and derive a tractable training procedure that decomposes robust learning into sequential stages (reference distribution enrichment, input-space perturbation, label-space perturbation, and sample-level aggregation), each with a choice of stance (pessimistic, neutral, or optimistic). This results in a unified design space in which joint hyperparameter optimization can compose and configure robustness strategies suited to the task at hand. Across tabular, image, and reward modeling benchmarks, joint hyperparameter optimization is competitive with the best single-method baseline in each setting, offering a reliable default for practitioners who do not know a priori which failure mode dominates their task.
• Abstract（参考訳）: この文献は、分散シフト、ラベルノイズ、有限サンプル退化といった障害モードに対処するために、経験的リスク最小化の様々な堅牢な代替案を提案している。 例えば、分布的に堅牢な最適化、ラベルの平滑化、リスク最小化、Mixupなどがある。 しかし、このようなアプローチは通常独立して開発され、タスクの優越的なモードが不明確であっても、実践者は単一障害モードの優先順位をコミットせざるを得ない。 そこで我々は,3つの共通設計軸に沿って既存の手法の幅広いクラスを編成し,頑健な学習を逐次段階(参照分布エンリッチメント,入力空間摂動,ラベル空間摂動,サンプルレベル集約)に分解し,それぞれにスタンス(悲観的,中立的,楽観的)を選択する。 これにより、共同パラメータ最適化が手作業に適したロバスト性戦略を構成し、構成できる統一設計空間が得られる。 タブ、イメージ、報酬モデリングベンチマーク全体にわたって、共同パラメータ最適化は、各設定において最高の単一メソッドベースラインと競合し、障害モードがタスクを支配している優先順位を知らない実践者に対して、信頼性の高いデフォルトを提供する。

関連論文リスト

• Mixture-Model Preference Learning for Many-Objective Bayesian Optimization [21.451177846149417]
  そこで本研究では,潜在性選好アーチタイプを学習するベイズ的枠組みを提案する。 モードアイデンティティやモード内トレードオフに関する情報をターゲットとしたハイブリッドクエリを設計する。 提案手法は, 合成および実世界の多目的ベンチマークにおいて, 標準ベースラインを上回っている。
  論文  参考訳（メタデータ） (2026-03-30T13:18:43Z)
• Not All Preferences Are Created Equal: Stability-Aware and Gradient-Efficient Alignment for Reasoning Models [52.48582333951919]
  ポリシー更新の信号対雑音比を最大化することにより、アライメントの信頼性を高めるために設計された動的フレームワークを提案する。 SAGE(Stability-Aware Gradient Efficiency)は、モデル能力に基づいて候補プールをリフレッシュする粗いきめ細かいカリキュラムメカニズムを統合する。 複数の数学的推論ベンチマークの実験により、SAGEは収束を著しく加速し、静的ベースラインを上回っていることが示された。
  論文  参考訳（メタデータ） (2026-02-01T12:56:10Z)
• Modest-Align: Data-Efficient Alignment for Vision-Language Models [67.48633659305592]
  クロスモーダルアライメントモデルは、リソース制約のある環境での運用において、過信と劣化したパフォーマンスに悩まされることが多い。 我々は,ロバスト性と効率性に配慮した軽量アライメントフレームワークであるModest-Alignを提案する。 本手法は,実世界の低リソースシナリオにおけるクロスモーダルアライメントを実現するための,実用的でスケーラブルなソリューションを提供する。
  論文  参考訳（メタデータ） (2025-10-24T16:11:10Z)
• Generalization Bounds of Surrogate Policies for Combinatorial Optimization Problems [53.03951222945921]
  我々はスムーズな(摂動された)ポリシーを解析し、線形オラクルが使用する方向に対して制御されたランダムな摂動を付加する。 我々の主な貢献は、過剰リスクを摂動バイアス、統計的推定誤差、最適化誤差に分解する一般化境界である。 車両のスケジューリングやスムーズ化がトラクタブルトレーニングと制御された一般化の両方を可能にしていることを示す。
  論文  参考訳（メタデータ） (2024-07-24T12:00:30Z)
• Bayesian Nonparametrics Meets Data-Driven Distributionally Robust Optimization [29.24821214671497]
  機械学習と統計モデルのトレーニングは、しばしばデータ駆動型リスク基準の最適化を伴う。 ベイズ的非パラメトリック(ディリクレ過程)理論と、スムーズなあいまいさ-逆選好の最近の決定論的モデルを組み合わせた、新しいロバストな基準を提案する。 実用的な実装として、よく知られたディリクレプロセスの表現に基づいて、評価基準の抽出可能な近似を提案し、研究する。
  論文  参考訳（メタデータ） (2024-01-28T21:19:15Z)
• Differentiable Multi-Target Causal Bayesian Experimental Design [43.76697029708785]
  本稿では,ベイズ最適設計問題に対する勾配に基づくアプローチを導入し,バッチ環境で因果モデルを学習する。 既存の手法は、一連の実験を構築するためにグリーディ近似に依存している。 そこで本稿では,最適介入対象ペアの集合を取得するための,概念的にシンプルな勾配に基づく最適化手法を提案する。
  論文  参考訳（メタデータ） (2023-02-21T11:32:59Z)
• A Prototype-Oriented Framework for Unsupervised Domain Adaptation [52.25537670028037]
  メモリと計算効率のよい確率的フレームワークを提供し、クラスプロトタイプを抽出し、ターゲットとなる特徴をそれらと整合させる。 本稿では,単一ソース,マルチソース,クラス不均衡,ソースプライベートドメイン適応など,幅広いシナリオにおいて,本手法の汎用性を実証する。
  論文  参考訳（メタデータ） (2021-10-22T19:23:22Z)
• Modeling the Second Player in Distributionally Robust Optimization [90.25995710696425]
  我々は、最悪のケース分布を特徴付けるために神経生成モデルを使うことを議論する。 このアプローチは多くの実装と最適化の課題をもたらします。 提案されたアプローチは、同等のベースラインよりも堅牢なモデルを生み出す。
  論文  参考訳（メタデータ） (2021-03-18T14:26:26Z)
• Learning while Respecting Privacy and Robustness to Distributional Uncertainties and Adversarial Data [66.78671826743884]
  分散ロバストな最適化フレームワークはパラメトリックモデルのトレーニングのために検討されている。 目的は、逆操作された入力データに対して頑健なトレーニングモデルを提供することである。 提案されたアルゴリズムは、オーバーヘッドがほとんどない堅牢性を提供する。
  論文  参考訳（メタデータ） (2020-07-07T18:25:25Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。