論文の概要: Learning Samples Importance: Parameterizing Dual Variables in Everywhere Learning

• arxiv url: http://arxiv.org/abs/2609.36310v1
• Date: Mon, 28 Sep 2026 21:43:20 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-30 21:28:47.035351
• Title: Learning Samples Importance: Parameterizing Dual Variables in Everywhere Learning
• Title（参考訳）: 学習サンプルの重要性: 任意の学習における2変数のパラメータ化
• Abstract要約: 学習は、データ分散全体にわたって保持しなければならない制約の下でAIモデルをトレーニングするための原則化されたフレームワークを提供する。 本研究では、これらの2変数を学習し、それらの値が根底にある制約問題に関する有用な情報をエンコードしているという事実から動機づける。
• 参考スコア（独自算出の注目度）: 75.1630499090927
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Everywhere learning provides a principled framework for training AI models under constraints that must hold throughout the data distribution. In the dual domain, these pointwise constraints give rise to functional dual variables. In this work, we propose to learn these dual variables, motivated by the fact that their values encode useful information about the underlying constrained problem. By representing the dual variable as a parametric function of each sample, we enable the learned multiplier to be evaluated on new, unseen samples. This contrasts with standard empirical dual formulations, which assign an independent multiplier to each training sample. We characterize the error in the recovered primal solution induced by restricting the dual variable to a parametric function class and show that it is controlled by how well this class approximates the optimal statistical multiplier. Moreover, we show that the learned parametric multiplier retains the sensitivity interpretation of the optimal statistical multiplier, yielding approximate sensitivity guarantees that extend beyond the samples used for training. We empirically validate our theory across a variety of everywhere learning tasks, showing that the resulting constrained problems can be solved efficiently and that the learned dual variables provide meaningful representations of sample-level sensitivity.
• Abstract（参考訳）: 学習は、データ分散全体にわたって保持しなければならない制約の下でAIモデルをトレーニングするための原則化されたフレームワークを提供する。 双対領域において、これらの点的制約は汎函数双対変数をもたらす。 本研究では、これらの2変数を学習し、それらの値が根底にある制約問題に関する有用な情報をエンコードしているという事実から動機づける。 各サンプルのパラメトリック関数として双対変数を表現することにより、学習した乗算器を新しい未知のサンプルで評価することができる。 これは標準的な経験的双対の定式化とは対照的であり、各トレーニングサンプルに独立乗算器を割り当てる。 本稿では,双対変数をパラメトリック関数クラスに制限することにより得られた原始解の誤差を特徴付けるとともに,このクラスが最適統計乗算器をいかにうまく近似するかによって制御されていることを示す。 さらに, 学習したパラメトリック乗算器は, 最適統計乗算器の感度解釈を保ち, トレーニングに使用するサンプルを超える近似感度保証が得られることを示した。 我々は,学習課題の至るところで理論を実証的に検証し,結果の制約問題を効率的に解けること,学習された2変数がサンプルレベルの感度の有意義な表現を提供することを示す。

関連論文リスト

• Disentanglement with Factor Quantized Variational Autoencoders [11.597012266516332]
  本稿では,生成因子に関する基礎的真理情報をモデルに提供しない離散変分オートエンコーダ(VAE)モデルを提案する。 本研究では, 離散表現を学習する上で, 連続表現を学習することの利点を実証する。 FactorQVAEと呼ばれる手法は、最適化に基づく不整合アプローチと離散表現学習を組み合わせる。
  論文  参考訳（メタデータ） (2024-09-23T09:33:53Z)
• Unveiling the Statistical Foundations of Chain-of-Thought Prompting Methods [59.779795063072655]
  CoT(Chain-of-Thought)の促進とその変種は、多段階推論問題を解決する効果的な方法として人気を集めている。 統計的推定の観点からCoTのプロンプトを解析し,その複雑さを包括的に評価する。
  論文  参考訳（メタデータ） (2024-08-25T04:07:18Z)
• Primal Dual Continual Learning: Balancing Stability and Plasticity through Adaptive Memory Allocation [86.8475564814154]
  制約付き最適化問題を直接実行することは可能かつ有益であることを示す。 メモリベースのメソッドでは、以前のタスクからのサンプルの小さなサブセットをリプレイバッファに格納できる。 両変数は,制約摂動に対する連続学習問題の最適値の感度を示す。
  論文  参考訳（メタデータ） (2023-09-29T21:23:27Z)
• Amortised Invariance Learning for Contrastive Self-Supervision [11.042648980854485]
  対照的な自己監督のために, 償却不変学習の概念を導入する。 我々のアモーテッド機能は、異なる不変条件で様々な下流タスクを学習する信頼性の高い方法を提供することを示す。 これは、汎用表現学習の分野での新しい地平を開くエキサイティングな視点を提供する。
  論文  参考訳（メタデータ） (2023-02-24T16:15:11Z)
• A Lagrangian Duality Approach to Active Learning [119.36233726867992]
  トレーニングデータのサブセットのみをラベル付けするバッチアクティブな学習問題を考察する。 制約付き最適化を用いて学習問題を定式化し、各制約はラベル付きサンプルにモデルの性能を拘束する。 数値実験により,提案手法は最先端の能動学習法と同等かそれ以上に機能することを示した。
  論文  参考訳（メタデータ） (2022-02-08T19:18:49Z)
• Double Control Variates for Gradient Estimation in Discrete Latent Variable Models [32.33171301923846]
  スコア関数推定器の分散化手法を提案する。 我々の推定器は、他の最先端推定器と比較してばらつきが低いことを示す。
  論文  参考訳（メタデータ） (2021-11-09T18:02:42Z)
• Learning Diverse Representations for Fast Adaptation to Distribution Shift [78.83747601814669]
  本稿では,複数のモデルを学習する手法を提案する。 分散シフトへの迅速な適応を促進するフレームワークの能力を実証する。
  論文  参考訳（メタデータ） (2020-06-12T12:23:50Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。