論文の概要: Fisher8: Stabilizing Neural Heteroscedastic Regression via Output-Layer Fisher Geometry

• arxiv url: http://arxiv.org/abs/2608.10374v1
• Date: Tue, 11 Aug 2026 02:10:51 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-12 19:14:45.863646
• Title: Fisher8: Stabilizing Neural Heteroscedastic Regression via Output-Layer Fisher Geometry
• Title（参考訳）: Fisher8: Output-Layer Fisher Geometryによる神経異所性回帰の安定化
• Abstract要約: 平均と不確実性の推定を共同で予測するニューラルネットワークのトレーニングは不安定である。 我々は、ユークリッド幾何ではなくフィッシャー幾何を用いて更新を並べ替え、再スケールする出力層勾配補正であるFisher8を導出する。 多次元回帰および表現学習タスク全体で、Fisher8は優れた可能性エラートレードオフを取得し、キャリブレーションされた不確実性推定を予測し、豊富な不確実性を考慮した特徴空間を学習する。
• 参考スコア（独自算出の注目度）: 1.9336815376402718
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: Training neural networks to jointly predict mean and uncertainty estimates from noisy observations can be unstable, prompting a series of independent stabilization efforts. We argue that these interventions highlight a common underlying issue where gradient steps are poorly aligned with the geometry of the loss landscape. To better align updates with local curvature, we derive Fisher8, an output-layer gradient correction that reorients and rescales updates using Fisher geometry rather than Euclidean geometry. Unlike past stabilizers, Fisher8 introduces no data-dependent hyperparameters beyond learning rate and admits an approximate KL trust radius between successive predictive distributions. We show that prior stabilizers converge on overlapping components of this geometric correction. Across multidimensional regression and representation-learning tasks, Fisher8 obtains superior likelihood--error tradeoffs, predicts calibrated uncertainty estimates, and learns rich uncertainty-aware feature spaces.
• Abstract（参考訳）: ノイズの多い観測から平均と不確実性の推定を共同で予測するニューラルネットワークのトレーニングは不安定であり、一連の独立した安定化作業を引き起こす可能性がある。 これらの介入は、勾配ステップが損失ランドスケープの幾何と不整合であるような、共通の根本的な問題を浮き彫りにする。 局所曲率との整合性を改善するために、ユークリッド幾何ではなくフィッシャー幾何を用いて更新を並べ直し、再スケールする出力層勾配補正であるFisher8を導出した。 過去の安定化器とは異なり、Fisher8は学習速度を超えるデータ依存ハイパーパラメータを導入せず、連続する予測分布間の近似KL信頼半径を許容する。 この幾何補正の重なり合う成分に先行安定化器が収束することを示す。 多次元回帰および表現学習タスク全体で、Fisher8は優れた可能性エラートレードオフを取得し、キャリブレーションされた不確実性推定を予測し、豊富な不確実性を考慮した特徴空間を学習する。

関連論文リスト

• SPARC: Single-Pass Scaling for Motion Forecasting with Conformal Bayesian Last Layers [1.4452289368758382]
  シングルパス適応リスク(英: Single-Pass Adaptive Risk)は、人間の動き予測器に対する構造的、校正的、効率的な不確実性推定である。 決定論的バックボーンは将来の平均を予測し、共役ベイズ最後の層は時間領域の特徴レバレッジを解析的地平線スケールに変換する。 NLLと組み合わせたMPJPE+NLLの基準では、競争点の精度と効率的な校正管を維持している。
  論文  参考訳（メタデータ） (2026-08-21T07:20:22Z)
• Adaptive MPPI with Online Disturbance Covariance Estimation: Provable Stability Tightening via Spatial Smoothing [0.0]
  付加過程障害を有する非線形系のモデル予測経路積分(MPPI)制御について検討する。 不一致な外乱共分散は閉ループ安定性証明書に永続的なペナルティをもたらす。
  論文  参考訳（メタデータ） (2026-07-09T21:12:40Z)
• RBE-Flow: Recurrent Bayesian Estimation on Feature Manifolds for Cross-Modal Registration [14.194086645453767]
  画素間画像の登録は、重度の非線形ラジオメトリックと不確実性のために困難である。 本稿では,高密度モーダルフロー推定を再構成する新しい枠組みを提案する。
  論文  参考訳（メタデータ） (2026-06-29T15:58:25Z)
• Taming Curvature: Architecture Warm-Up for Stable Transformer Training [52.6838951211596]
  本稿では,Hessian-vector製品を用いた暖かくスタートした変種に基づく最大(プレコンディション付き)Hessian固有値(曲率)の高速オンライン推定手法を提案する。 トレーニングの不安定性は、事前条件付き曲率の急激な上昇と一致し、曲率の深さが増加する。 大規模変圧器の実験により,本手法が効率的な曲率追跡を可能にし,不安定性を低減できることを確認した。
  論文  参考訳（メタデータ） (2026-06-15T14:16:56Z)
• FEG-Pro: Forecast-Error Growth Profiling for Finite-Horizon Instability Analysis of Nonlinear Time Series [0.0]
  非線形スカラー時系列の予測エラー成長プロファイリングフレームワークであるFEG-Proを提案する。 本手法は, 自己相関誘導スパース履歴を構築し, 距離重み付きk-ネアレスト近傍のマルチホライゾン予測を行い, 幾何平均予測誤差の対数成長を解析する。 このパイプラインは、符号付き多重水平誤差から、形式的な適合選択規則、曲率、二次変形後の粗さ、単調性、予測エラー分布エントロピー(FEDE)も抽出する。
  論文  参考訳（メタデータ） (2026-05-17T06:38:37Z)
• Adaptive Smooth Tchebycheff Attention for Multi-Objective Policy Optimization [55.338784037660474]
  ドメインにおける多曲率強化学習は、矛盾する目的間の複雑な非脆弱な干渉トレードオフのバランスを必要とする。 本稿では,生態系をモニタリングするプロキシであるロボットビジュアルを用いた,新しいリアルタイムなリアルタイム最適化を提案する。
  論文  参考訳（メタデータ） (2026-05-12T21:32:57Z)
• FRInGe: Distribution-Space Integrated Gradients with Fisher--Rao Geometry [4.823870413661438]
  本稿では,予測分布空間における参照とスケジュールの両方を定義したFisher-Rao Integrated Gradients (FRInGe)を提案する。 FRInGe は入力基底線を最大エントロピー予測基準に置き換え、確率単純度上のフィッシャー・ラオ測地線に従う。
  論文  参考訳（メタデータ） (2026-05-07T15:12:15Z)
• DOC-GS: Dual-Domain Observation and Calibration for Reliable Sparse-View Gaussian Splatting [80.43237927269575]
  本稿では,新しい視点からスパースビュー3DGSの再構築について再考する。 我々は、ガウスの原始的信頼性の観測不能性として、コアチャレンジを識別する。 この観測を動機として、レンダリング画像フレームワークにおける統合されたデュアルドメイン観測と幾何学的手法を提案する。
  論文  参考訳（メタデータ） (2026-04-08T07:01:24Z)
• Fisher-Geometric Diffusion in Stochastic Gradient Descent: Optimal Rates, Oracle Complexity, and Information-Theoretic Limits [0.0]
  そこで我々は,ミニバッチノイズが本質的,損失誘起行列である勾配降下理論を開発した。 我々はフィッシャー双対ノルムにおけるエクシロン定常性に対するオラクル-複素性保証を証明した。
  論文  参考訳（メタデータ） (2026-03-02T21:57:09Z)
• VIKING: Deep variational inference with stochastic projections [48.946143517489496]
  変分平均場近似は、現代の過度にパラメータ化されたディープニューラルネットワークと競合する傾向がある。 パラメータ空間の2つの独立線型部分空間を考える単純な変分族を提案する。 これにより、オーバーパラメトリゼーションを反映した、完全に相関した近似後部を構築することができる。
  論文  参考訳（メタデータ） (2025-10-27T15:38:35Z)
• Multivariate root-n-consistent smoothing parameter free matching estimators and estimators of inverse density weighted expectations [51.000851088730684]
  我々は、パラメトリックな$sqrt n $-rateで収束する、最も近い隣人の新しい修正とマッチング推定器を開発する。 我々は,非パラメトリック関数推定器は含まないこと,特に標本サイズ依存パラメータの平滑化には依存していないことを強調する。
  論文  参考訳（メタデータ） (2024-07-11T13:28:34Z)
• Numerically Stable Sparse Gaussian Processes via Minimum Separation using Cover Trees [57.67528738886731]
  誘導点に基づくスケーラブルスパース近似の数値安定性について検討する。 地理空間モデリングなどの低次元タスクに対しては,これらの条件を満たす点を自動計算する手法を提案する。
  論文  参考訳（メタデータ） (2022-10-14T15:20:17Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。