Fugu-MT 論文翻訳(概要): Jacobian Rank Collapse in Decision-Focused Learning

論文の概要: Jacobian Rank Collapse in Decision-Focused Learning

arxiv url: http://arxiv.org/abs/2609.39261v1
Date: Wed, 30 Sep 2026 08:21:32 GMT
ステータス: 翻訳完了
システム内更新日: 2026-10-01 18:57:27.434363
Title: Jacobian Rank Collapse in Decision-Focused Learning
Title（参考訳）: 決定型学習におけるヤコビアンランクの崩壊
Abstract要約: 決定中心学習(DFL)は、下流目標を通じて予測者を訓練するが、異なる損失は独立したパラメータ更新方向を提供する必要はない。我々は,この制約を予測者ヤコビアンによって特徴付け,スパースインデックストラッキングを用いて,予測者が読み取った共分散エントリと学習に利用できるパラメータ方向とを識別する。実験では、幾何がいつ決定品質に変換されるかを調べる。
参考スコア（独自算出の注目度）: 0.5097809301149341
License: http://creativecommons.org/licenses/by-nc-sa/4.0/
Abstract: Decision-focused learning (DFL) trains predictors through downstream objectives, but a different loss need not provide an independent parameter-update direction. We characterize this restriction through the predictor Jacobian, using sparse index tracking to distinguish the covariance entries read by the optimizer from the parameter directions available to learning. Rank-one Jacobians make nonzero per-example gradients collinear; a conditional spectral bound describes near-collinearity. A batch-subspace characterization and counterexamples show why these local statements imply neither common minimizers nor collinear batch updates. Experiments examine when geometry translates into decision quality. Across 38 one-parameter equity configurations, DFL gains over MSE remain below 1.8%; a 385-parameter conditional predictor also has pointwise rank one. In validation-tuned shortest-path and knapsack experiments, full-capacity SPO+ reduces mean regret by 11.6% and 10.6%, respectively; only knapsack survives correction across eight comparisons. The capacity contrast persists on fresh datasets across batch orders and training budgets. Holding expressivity fixed, invertible coordinate scaling lowers spectral effective rank and ordinary SGD gains; compensating for the scaling restores the original trajectories. Financial forward-target controls separate forecast accuracy from decision quality; a matched neural comparison finds no aggregate DFL advantage in the tested architecture. These findings distinguish local rank restrictions, coordinate-dependent optimization and predictive accuracy. Predictor geometry helps explain available learning directions, while held-out decision quality remains the test of practical benefit.
Abstract（参考訳）: 決定中心学習(DFL)は、下流目標を通じて予測者を訓練するが、異なる損失は独立したパラメータ更新方向を提供する必要はない。我々は,この制約を予測器ヤコビアンにより特徴付け,スパースインデックストラッキングを用いて,最適化器が読み取った共分散エントリと学習に利用できるパラメータ方向とを識別する。ランク1のヤコビアン(英語版)は非ゼロの指数勾配をコリニア(英語版)とし、条件スペクトル境界は近コリニア性を記述する。バッチサブスペースの特徴と逆例は、これらのローカルステートメントが一般的なミニマライザやコリニアバッチ更新を暗示しない理由を示している。実験では、幾何がいつ決定品質に変換されるかを調べる。 38の1パラメータの株式構成で、DFLはMSEよりも1.8%以下であり、385パラメータの条件付き予測器もポイントワイドのランク1である。検証調整されたショートパスとクナプサックの実験では、フル容量のSPO+は平均後悔を11.6%減らし、10.6%減らした。キャパシティのコントラストは、バッチオーダとトレーニング予算にわたる新鮮なデータセットに持続する。係数を固定し、非可逆座標スケーリングはスペクトル有効ランクと通常のSGDゲインを下げ、スケーリングの補償は元の軌道を復元する。ファイナンシャルフォワードターゲットは、決定品質から予測精度を分離する。一致したニューラル比較は、テストされたアーキテクチャにおいて総合的なDFLの利点を見出さない。これらの結果は、局所的なランク制限、座標依存最適化、予測精度を区別する。予測幾何学は、利用可能な学習の方向を説明するのに役立つが、決定の質は実用的利益のテストのままである。

関連論文リスト

Online Supervised Dimension Reduction with Random Features: Diagnostics and Computational Trade-offs [3.7044133020722954]
Online Kernel Supervised principal Component Analysis (OKSPCA)は、有限乱数係数座標における中心となるクロスモーメントと、確立された目的に対するAdamスタイルの正則基底更新を組み合わせたものである。有限乱数係数座標における中心的クロスモーメントと、確立された目的に対するAdamスタイルの正規直交基底更新を組み合わせたOKSPCAについて、これらの区別について検討する。
論文参考訳（メタデータ） (2026-09-17T14:19:29Z)
How Useful is Causal Invariance for Domain Adaptation in Finite-Sample Settings? [58.740078141879984]
機械学習モデルは、トレーニングされたソースディストリビューションとは異なるターゲットディストリビューションにデプロイされると、しばしば劣化する。因果関係に基づく領域一般化における最近の研究は、共用因果構造が不変な予測因子を誘導する方法を示している。本稿では,完全あるいは部分的な因果知識が,教師付きドメイン適応を確実に改善できるかどうかについて検討する。
論文参考訳（メタデータ） (2026-06-10T21:07:49Z)
Direct Bethe Free Energy Minimization for Bayesian Neural Network [0.0]
我々は,変分下界を最大化するのではなく,Bethe自由エネルギーを直接最小化してベイズニューラルネットワークを訓練することを提案する。木構造因子グラフ上では、Bethe自由エネルギーは正確であり、決定論的層は目的から外れ、標準のバックプロパゲーションによって訓練される。すべての変種は、アンサンブルやサンプリングベースの手法とは対照的に、MAP等価な推論コストで閉形式予測を許容する。
論文参考訳（メタデータ） (2026-05-08T20:12:48Z)
FACTOR: Counterfactual Training-Free Test-Time Adaptation for Open-Vocabulary Object Detection [63.91351553178842]
FACTORはオープン語彙オブジェクト検出のためのトレーニング不要なテスト時間適応である。属性依存性の予測を選択的に抑制するために、属性の感度、意味的関連性、予測のバリエーションを定量化する。 PASCAL-C, COCO-C, FoggyCityscapes の実験では、FACTOR が従来の TTA 法より一貫して優れていたことが示されている。
論文参考訳（メタデータ） (2026-05-05T02:31:18Z)
Query-Efficient Quantum Approximate Optimization via Graph-Conditioned Trust Regions [0.0]
グラフニューラルネットワークは、QAOA上のガウス分布N(mu Sigma)を予測する。学習された分布は、初期推定だけでなく、検索ポリシーを定義する。ランダム再起動と最強学習点予測基準に対して、回路評価の平均値は343と85から45+/-7に減少する。
論文参考訳（メタデータ） (2026-04-27T03:48:48Z)
Learning from Emptiness: De-biasing Listwise Rerankers with Content-Agnostic Probability Calibration [76.08899010904652]
CapCalは、ランキング決定から位置バイアスを機械的に分離する、トレーニング不要のフレームワークである。シングルパス効率を保ちながら、トレーニング不要の手法で優れた性能を発揮する。
論文参考訳（メタデータ） (2026-04-11T10:47:22Z)
Decentralized Nonconvex Composite Federated Learning with Gradient Tracking and Momentum [78.27945336558987]
分散サーバ(DFL)はクライアント・クライアント・アーキテクチャへの依存をなくす。非滑らかな正規化はしばしば機械学習タスクに組み込まれる。本稿では,これらの問題を解決する新しいDNCFLアルゴリズムを提案する。
論文参考訳（メタデータ） (2025-04-17T08:32:25Z)
C-Learner: Constrained Learning for Causal Inference [4.370964009390564]
本稿では,両世界の最適な重み付けを実現し,安定したプラグイン推定を実現する新しいデバイアス化手法を提案する。我々の制約学習フレームワークは、プラグイン量に対する一階誤差がゼロであるという制約の下で、最高のプラグイン推定器を解く。
論文参考訳（メタデータ） (2024-05-15T16:38:28Z)
Efficient and Differentiable Conformal Prediction with General Function Classes [96.74055810115456]
本稿では,複数の学習可能なパラメータに対する共形予測の一般化を提案する。本研究は, クラス内において, ほぼ有効な人口被覆率, ほぼ最適効率を実現していることを示す。実験の結果,提案アルゴリズムは有効な予測セットを学習し,効率を著しく向上できることがわかった。
論文参考訳（メタデータ） (2022-02-22T18:37:23Z)
Domain-Adjusted Regression or: ERM May Already Learn Features Sufficient for Out-of-Distribution Generalization [52.7137956951533]
既存の特徴から予測器を学習するためのよりシンプルな手法を考案することは、将来の研究にとって有望な方向である、と我々は主張する。本稿では,線形予測器を学習するための凸目標である領域調整回帰(DARE)を紹介する。自然モデルの下では、DARE解が制限されたテスト分布の集合に対する最小最適予測器であることを証明する。
論文参考訳（メタデータ） (2022-02-14T16:42:16Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。