論文の概要: Profile-aware diagnostics of discarded parameter-Hessian mass

• arxiv url: http://arxiv.org/abs/2611.01335v2
• Date: Wed, 04 Nov 2026 20:09:03 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-11-06 21:50:50.284895
• Title: Profile-aware diagnostics of discarded parameter-Hessian mass
• Title（参考訳）: 廃パラメータ・ヘッセン質量のプロファイル認識診断
• Abstract要約: パラメータHessianの2乗オフブロック分画を、グループサイズと観察されたグループ内曲率プロファイルの基準に対して測定する。 我々は、オフ群ヘッセン作用、残りのモデル残差およびそれらの組み合わせから形成された候補を、同じヘッセン不変写像を通して比較する。
• 参考スコア（独自算出の注目度）: 45.88028371034407
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: Evaluating block-diagonal curvature models involves two questions: how much curvature they omit, and what a specific correction changes at a finite step. We measure the squared off-block fraction of the parameter Hessian against references for group sizes and the observed within-group curvature profile. In CIFAR-100 ResNet-18 and a skip-free counterpart, similar initial discarded fractions accompany different profiles. At saved trained ResNet-18 weights, changing from stage to layer groups moves estimated off-block mass from below to above the profile envelope; an approximate conditional screen resolves this comparison in all six seed/input cells, while some skip free comparisons remain unresolved. Separately, in saved ResNet-50/Stanford Cars states, we compare candidates formed from off-group Hessian action, the remaining model residual and their combination through the same Hessian-informed map. At unit scale off-group input alone raises native minibatch loss relative to the base preconditioner candidate in 17 of 18 state/geometry comparisons, yet the combined candidate has lower loss than the remainder-only candidate in nine of those cases; preferences vary with scale and correction-norm matching. The profiles help assess block models and alternative groupings, while same-state candidate comparisons test a particular correction without equating structural mass with training gain.
• Abstract（参考訳）: ブロック対角曲率モデルの評価には、2つの疑問がある。 パラメータHessianの2乗オフブロック分画を、グループサイズと観察されたグループ内曲率プロファイルの基準に対して測定する。 CIFAR-100 ResNet-18とスキップフリー版では、同様の初期の破棄された分画が異なるプロファイルに付随する。 保存されたトレーニングされたResNet-18重量では、ステージから層群への変化は、推定されたオフブロック質量をプロファイルエンベロープの下から上へと移動させ、近似条件付きスクリーンはこの比較を6つのシード/インプット細胞すべてで解決するが、いくつかのスキップフリー比較は未解決のままである。 第二に、保存されたResNet-50/Stanford Cars状態において、オフ群ヘッセン作用、残りのモデル残差およびそれらの組み合わせから形成された候補を、同じヘッセン変換写像を通して比較する。 単位スケールオフグループ入力単独では、ベースプレコンディショナー候補に対して18の状態/幾何学比較17でネイティブなミニバッチ損失を生じさせるが、これらの9つのケースでは、組み合わせた候補の方が残りのみの候補よりも損失が小さく、好みはスケールと修正ノームマッチングによって異なる。 プロファイルはブロックモデルと代替グルーピングを評価するのに役立つが、同状態候補比較は、構造質量とトレーニングゲインとを同一にすることなく、特定の補正をテストする。

関連論文リスト

• Robust Local Optimization Done Right [0.7505549079433349]
  RANSACスコアリングと局所最適化(LO)は、異なる堅牢性要件を課している。 基本行列,基本行列,ホモグラフィー推定に対するロバストロス形状,不正確な不整合スケール,最適化戦略の影響を系統的に分離した。 我々のRANSACは、現在最先端のRANSACのPhotoTourismにおける正真正銘のポーズエラーを2.23度から1.58度に減らし、正確な不整合スケールで38度から6.2度に減らした(大きすぎる128倍)。
  論文  参考訳（メタデータ） (2026-10-05T03:48:25Z)
• Measuring Collapse and Correction in Homogeneous-Panel LLM Debate [51.03982042769297]
  マルチエージェント大言語モデル(LLM)の議論は、最終回答が改善するかどうかによってしばしば評価されるが、運動は必ずしも改善されない。 標準的な最終精度評価は、これらの反対のメカニズムを詳述する。 複数選択質問(MCQ)に関する同質な議論のための監査可能なプロトコルを導入し、各実行を、崩壊、修正、オンセット、署名された介入ユーティリティよりも、遷移台帳として記録する。
  論文  参考訳（メタデータ） (2026-09-28T14:31:19Z)
• GAUGE: Group-Wise View-Inconsistency Rectification for Feed-Forward 4D Tracking [48.91477882822122]
  本稿では,GAUGE(Group-wise Adaptive Unsupervised Gauge Estimation)について述べる。 方向整合性と空間接続性から運動群を復元し、フレーム単位のラジアルスケールとグループレベルの変換を推定する。 D4RT, 4RC, SM4RTを含む8つのトラッカーの動的クエリポイントでは, 訂正されていない予測に対して, 終端誤差を15.1%から62.6%削減する。
  論文  参考訳（メタデータ） (2026-09-26T13:14:53Z)
• Activation-Space Order-Swap Geometry: A Site-Asymmetry Audit [0.0]
  順序に依存したアクティベーション統計は、しばしば相互作用の証拠として解釈されるが、その解釈は介入がネットワークに入る場所によって構成される。 二重微分可能な読み出しの場合、オープンパスのオーダースワップは単一の介入によって測定された正準加法的応答に分解される。 6つのオープンウェイト言語モデルファミリの中で、シングルインターベンションベースラインはブラケット標準の84.3-97.7%を説明している。
  論文  参考訳（メタデータ） (2026-08-26T02:54:02Z)
• Feature Priming in Online Linear Regression: Sparse-Regret Lower Bounds and a Tight Univariate Rate [47.36630149538994]
  高次元のオンライン予測では、最良の予測子はいくつかの機能にのみ依存する可能性があるため、後悔は周囲の次元ではなく、疎らさでスケールすべきである。 WarmuthとAmidはCOLT 2023で、これらの3つのルールのいずれかが競合するオンライン後悔の保証を認めているかどうかを尋ねた。 安価なニュアンスは、リフィットが真の予測座標を過度に重くする原因となる。
  論文  参考訳（メタデータ） (2026-08-18T09:32:03Z)
• Geometry-Calibrated Closed-Form Shrinkage for SAR Despeckling [0.7782912896579166]
  合成開口レーダ(SAR: Synthetic Aperture radar)は、乗法的非ガウス雑音を抑えなければならない逆回復問題である。 我々は、ログ-ヨ-ジョンソン変換を適用した非局所スパース推定器を再検討し、類似したパッチをグループに積み重ね、各群をその左特異点ベースでコード化し、その結果の係数を縮小する。
  論文  参考訳（メタデータ） (2026-08-15T04:28:27Z)
• When Compression Scores Cannot Decide: Information Boundaries for Group-Robust LLM Pruning [2.8699714648237387]
  密度の高い調査では、分割半信頼パス四分法スコアは16.1%上昇し、選択されたエンドポイントは2つの制御よりも6.0-7.7%低下した。 我々は、最も供給の悪いグループがいつデプロイに気を配るのか、圧縮統計が正当化できるものは何なのかを尋ねる。
  論文  参考訳（メタデータ） (2026-08-03T23:07:29Z)
• CoCurve: Cross-Module Co-Pruning Curvature for Training-Free Structured LLM Pruning [47.406985340436925]
  CoCurveはキャリブレーションのみの、微調整なしの手法で、注意とFFNのユニットを共同で刺激する。 これは1つの予算付き二次プログラムに還元され、ラベル、微調整、リカバリを伴わず、共有された注目の下で1ショットで解決される。
  論文  参考訳（メタデータ） (2026-07-20T05:27:57Z)
• Unsupervised Deep Probabilistic Approach for Partial Point Cloud Registration [74.53755415380171]
  ディープポイントクラウド登録手法は、部分的に重複し、ラベル付きデータに依存するという課題に直面している。 部分的な重なりを持つ点雲に対する教師なしの深い確率的登録フレームワークであるUDPRegを提案する。 UDPRegは3DMatch/3DLoMatchとModelNet/ModelLoNetベンチマークの競合性能を実現しています。
  論文  参考訳（メタデータ） (2023-03-23T14:18:06Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。