論文の概要: Decision-Focused Learning via Tangent-Space Projection of Prediction Error
- arxiv url: http://arxiv.org/abs/2605.01361v1
- Date: Sat, 02 May 2026 10:10:16 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-05 20:33:49.72819
- Title: Decision-Focused Learning via Tangent-Space Projection of Prediction Error
- Title(参考訳): 予測誤差のタンジェント空間投影による意思決定型学習
- Authors: Junhyeong Lee, Sangjin Jin, Yongjae Lee,
- Abstract要約: 決定焦点学習(DFL)は、下流の意思決定品質を改善するために予測器を訓練する。
局所的に安定な活性制約を持つ標準正則性の下では、後悔勾配は閉形式幾何学的特徴を持つことを示す。
そこで本研究では, 線形系を減らし, 残差勾配を計算するPEARを提案する。
- 参考スコア(独自算出の注目度): 32.655683009031804
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Decision-Focused Learning (DFL) trains predictors to improve downstream decision quality, but computing regret gradients typically requires differentiating through solvers or relying on surrogate losses, which can be computationally expensive or deviate from the true objective. We show that, under standard regularity with locally stable active constraints, the regret gradient admits a closed-form geometric characterization, equivalent to the prediction error projected onto the tangent space of active constraints, scaled by local curvature. This reveals that regret gradients can be obtained by filtering decision-irrelevant components from the MSE gradient, providing a simpler and more direct alternative to existing approaches. Based on this, we propose PEAR (Projected Error As Regret-gradient), which computes regret gradients via a reduced linear system over active constraints, avoiding differentiation through solver iterations or additional optimization solves. Experiments on LP benchmarks and a real-world QP task show that PEAR achieves the best decision quality among all baselines while being the most computationally efficient, with gains that persist under constraint shifts.
- Abstract(参考訳): DFL(Decision-Focused Learning)は、下流の意思決定品質を改善するために予測器を訓練するが、後悔の勾配を計算するには、典型的には、解法を通した微分や、代用損失に頼らなければならない。
局所的に安定な活性制約を持つ標準正則性の下では、後悔勾配は局所曲率によって拡張された活性制約の接空間に投影される予測誤差と等価な閉形式幾何学的特徴を持つことを示す。
このことは、MSE勾配から決定に無関係な成分をフィルタリングすることで、後悔の勾配を得ることができ、既存のアプローチに対するより単純で直接的な代替手段を提供することを示している。
そこで本論文では, 線形システムの線形化による遅延勾配を線形化することで, 解法反復や追加最適化による微分を回避できるPEAR(Projected Error As Regret-gradient)を提案する。
LPベンチマークと実世界のQPタスクの実験は、PEARが全てのベースラインの中で最高の意思決定品質を達成し、最も計算効率が良く、制約シフトの下でも利得が持続していることを示している。
関連論文リスト
- Minimizing Surrogate Losses for Decision-Focused Learning using Differentiable Optimization [7.597423277859608]
決定中心学習(DFL)は、最適化問題のパラメータを予測するために機械学習(ML)モデルを訓練する。
勾配に基づくDFLは、予測されたパラメータに対する最適化問題に対する解の微分を計算する必要がある。
線形プログラム(LP)のような多くの最適化問題に対して、予測されたパラメータに対する後悔の勾配はほぼどこでもゼロである。
論文 参考訳(メタデータ) (2025-08-15T09:59:56Z) - Online Decision-Focused Learning [74.3205104323777]
意思決定中心学習(DFL)は、意思決定タスクで予測出力が使用されるモデルのトレーニングパラダイムとして、ますます人気が高まっている。
本稿では,目的関数を規則化し,その相違を解消し,非最適関数を克服する方法を検討する。
また、クナップサック実験におけるアルゴリズムの有効性を示し、2つの標準ベンチマークを上回りました。
論文 参考訳(メタデータ) (2025-05-19T10:40:30Z) - Automatic Gradient Estimation for Calibrating Crowd Models with Discrete Decision Making [0.0]
候補解の選択を規定する勾配は, サンプルシミュレーショントラジェクトリから算出される。
一般的な社会力モデルに基づく集団避難モデルの校正について考察する。
論文 参考訳(メタデータ) (2024-04-06T16:48:12Z) - Decision-Focused Learning with Directional Gradients [1.2363103948638432]
そこで我々は,予測最適化フレームワークとして,摂動勾配損失(PG損失)と呼ばれる,決定を意識した新たなサロゲート損失のファミリーを提案する。
通常、断片的に一定かつ不連続な元の決定損失とは異なり、新しいPG損失はリプシッツ連続であり、凹函数の違いである。
我々は,PG損失が,基礎モデルが不明確である場合に,既存の提案よりも実質上優れていることを示す数値的な証拠を提供する。
論文 参考訳(メタデータ) (2024-02-05T18:14:28Z) - Scaling Forward Gradient With Local Losses [117.22685584919756]
フォワード学習は、ディープニューラルネットワークを学ぶためのバックプロップに代わる生物学的に妥当な代替手段である。
重みよりも活性化に摂動を適用することにより、前方勾配のばらつきを著しく低減できることを示す。
提案手法はMNIST と CIFAR-10 のバックプロップと一致し,ImageNet 上で提案したバックプロップフリーアルゴリズムよりも大幅に優れていた。
論文 参考訳(メタデータ) (2022-10-07T03:52:27Z) - Improving Generalization via Uncertainty Driven Perturbations [107.45752065285821]
トレーニングデータポイントの不確実性による摂動について考察する。
損失駆動摂動とは異なり、不確実性誘導摂動は決定境界を越えてはならない。
線形モデルにおいて,UDPがロバスト性マージン決定を達成することが保証されていることを示す。
論文 参考訳(メタデータ) (2022-02-11T16:22:08Z) - Improper Learning with Gradient-based Policy Optimization [62.50997487685586]
未知のマルコフ決定過程に対して学習者がmベースコントローラを与えられる不適切な強化学習設定を考える。
制御器の不適切な混合のクラス上で動作する勾配に基づくアプローチを提案する。
論文 参考訳(メタデータ) (2021-02-16T14:53:55Z) - Unbiased Risk Estimators Can Mislead: A Case Study of Learning with
Complementary Labels [92.98756432746482]
我々は,補完ラベルを用いた学習という,弱教師付き問題を研究する。
勾配推定の品質はリスク最小化においてより重要であることを示す。
本稿では,ゼロバイアスと分散の低減を両立させる新しい補助的相補的損失(SCL)フレームワークを提案する。
論文 参考訳(メタデータ) (2020-07-05T04:19:37Z) - Cogradient Descent for Bilinear Optimization [124.45816011848096]
双線形問題に対処するために、CoGDアルゴリズム(Cogradient Descent Algorithm)を導入する。
一方の変数は、他方の変数との結合関係を考慮し、同期勾配降下をもたらす。
本アルゴリズムは,空間的制約下での1変数の問題を解くために応用される。
論文 参考訳(メタデータ) (2020-06-16T13:41:54Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。