論文の概要: Exact Higher-Order Derivatives for SE(3) via Analytical/AD Methods
- arxiv url: http://arxiv.org/abs/2605.02252v1
- Date: Mon, 04 May 2026 05:55:59 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-05 20:33:50.152015
- Title: Exact Higher-Order Derivatives for SE(3) via Analytical/AD Methods
- Title(参考訳): 分析/AD法によるSE(3)の厳密な高次誘導体
- Authors: Frank O. Kuehnel,
- Abstract要約: 本稿では,SE(3)陰性ログ類似度に対するハイブリッド分析/AD法を提案する。
代表6-DoF, 5-ランドマークSE(3) NLLでは、提唱されたシード-ヘッセン経路はAD勾配を有限差分するよりも約5倍高速である。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Fast prototyping of new SE(3) estimation objectives remains awkward in practice. Modern Lie-group frameworks -- GTSAM, manif, Sophus, SymForce, Ceres -- target first-order workloads through different code-generation and automatic-differentiation strategies, each optimized for a particular seam between hand-derived geometry and generic differentiation. The remaining gap is a compact, AD-safe path from these first-order primitives to exact Hessians, observed-information matrices, and higher-order derivative tensors: the quantities needed for exact Newton steps, observed-information covariance estimates, and covariance correction. This paper presents a hybrid analytical/AD recipe for SE(3) negative log-likelihoods. The practitioner writes the NLL gradient once, generic over a scalar type, and places the analytical/AD seam at the point-action interface y = Tx. Closed-form Lie-group Jacobians are used up to this interface; AD is applied only beyond it. The same source is then instantiated with ordinary floating-point scalars for gradients, vector-seeded dual numbers for exact Hessians in a single forward-mode pass, and nested dual numbers for higher-order derivative tensors. On a representative 6-DoF, 5-landmark SE(3) NLL, the advocated seeded-Hessian path is approximately 5x faster than finite-differencing the AD gradient on this benchmark while matching a nested-AD oracle to machine precision. The implementation adds roughly 70 lines of analytical-Jacobian code over an AD-only baseline. We also identify and fix a removable singularity in the standard SO(3)/SE(3) scalar basis that would otherwise produce NaNs at the origin under seeded AD, and we audit which Lie-group derivative tensors require this stabilized basis. The result is a practical path from rapidly written SE(3) objectives to exact higher-order derivatives, with predictable runtime and no finite-difference tuning.
- Abstract(参考訳): 新しいSE(3)推定目標の高速なプロトタイピングは、実際はぎこちないままである。
現代的なLieグループフレームワーク -- GTSAM, manif, Sophus, SymForce, Ceres -- は、さまざまなコード生成と自動微分戦略を通じて、一階ワークロードをターゲットとしており、それぞれが手元の幾何学と一般的な微分の特定の領域に最適化されている。
残りのギャップは、これらの一階プリミティブから正確なヘッセン、観測情報行列、高階微分テンソルへのコンパクトでADセーフな経路である:正確なニュートンステップに必要な量、観測情報共分散推定、共分散補正。
本稿では,SE(3)陰性ログ類似度に対するハイブリッド分析/AD法を提案する。
実践者はNLL勾配を一度書き、スカラー型の上にジェネリックし、分析/ADシームをポイントアクションインターフェース y = Tx に配置する。
閉形式リー群ヤコビアンはこのインターフェースまで使われ、ADはそれを超えてのみ適用される。
同じソースは、勾配に対する通常の浮動小数点スカラー、単一のフォワードモードパスにおける正確なヘッセンに対するベクトルシード二重数、高階微分テンソルに対する入れ子付き双数でインスタンス化される。
代表6-DoF, 5-ランドマークSE(3) NLLでは、提唱されたシード・ヘッセンパスは、ネストされたADオラクルと機械の精度を一致させながら、このベンチマーク上のAD勾配を有限差分するよりも約5倍高速である。
この実装は、ADのみのベースラインに約70行の解析的-ヤコビアンコードを追加する。
また、標準SO(3)/SE(3)スカラー基底の可除特異点を同定して固定し、それ以外はシードADの下でNaNを生成し、リー群微分テンソルがこの安定化基底を必要とするかを検証する。
結果は、高速に記述されたSE(3)目標から正確に高階微分への実践的なパスであり、予測可能なランタイムと有限差分チューニングがない。
関連論文リスト
- Estimating the Hessian Matrix of Ranking Objectives for Stochastic Learning to Rank with Gradient Boosted Trees [63.18324983384337]
グラディエントブースト決定木(GBDT)のランク付け手法について紹介する。
我々の主な貢献は、二階微分、すなわちヘッセン行列に対する新しい推定器である。
推定器を既存のPL-Rankフレームワークに組み込む。
論文 参考訳(メタデータ) (2024-04-18T13:53:32Z) - Nonsmooth Implicit Differentiation: Deterministic and Stochastic Convergence Rates [34.81849268839475]
パラメトリックな非微分可縮写像の固定点の微分を効率的に計算する問題について検討する。
我々は、反復的分化(ITD)と近似的暗黙的分化(AID)の2つの一般的なアプローチを分析する。
我々はNSIDの収束率を確立し、スムーズな環境での最良の利用率を含む。
論文 参考訳(メタデータ) (2024-03-18T11:37:53Z) - Gathering and Exploiting Higher-Order Information when Training Large Structured Models [0.0]
最適化に関係のある well-chosen 部分空間上で、ヘッセン微分および高階微分の射影の正確かつ明示的な計算を示す。
これらのテンソルを次数2でどのように使い、ヘッセン語に含まれる情報を利用する最適化法を構築するかを示す。
トレーニングされたニューラルネットワークの層間の長距離インタラクションを考慮する。
論文 参考訳(メタデータ) (2023-12-06T20:24:05Z) - Correcting Momentum with Second-order Information [50.992629498861724]
最適積に$O(epsilon)$epsilon点を求める非臨界最適化のための新しいアルゴリズムを開発した。
我々は、さまざまな大規模ディープラーニングベンチマークとアーキテクチャで結果を検証する。
論文 参考訳(メタデータ) (2021-03-04T19:01:20Z) - DyCo3D: Robust Instance Segmentation of 3D Point Clouds through Dynamic
Convolution [136.7261709896713]
本稿では,インスタンスの性質に応じて適切な畳み込みカーネルを生成するデータ駆動型アプローチを提案する。
提案手法はScanetNetV2とS3DISの両方で有望な結果が得られる。
また、現在の最先端よりも推論速度を25%以上向上させる。
論文 参考訳(メタデータ) (2020-11-26T14:56:57Z) - Direction Matters: On the Implicit Bias of Stochastic Gradient Descent
with Moderate Learning Rate [105.62979485062756]
本稿では,中等度学習におけるSGDの特定の正規化効果を特徴付けることを試みる。
SGDはデータ行列の大きな固有値方向に沿って収束し、GDは小さな固有値方向に沿って収束することを示す。
論文 参考訳(メタデータ) (2020-11-04T21:07:52Z) - ADAHESSIAN: An Adaptive Second Order Optimizer for Machine Learning [91.13797346047984]
本稿では,2次最適化アルゴリズムであるADAHESSIANを紹介する。
ADAHESSIANは、他の適応最適化手法と比較して、新しい最先端の成果を大きなマージンで達成することを示す。
論文 参考訳(メタデータ) (2020-06-01T05:00:51Z) - Multi-Objective Matrix Normalization for Fine-grained Visual Recognition [153.49014114484424]
双線形プールは細粒度視覚認識(FGVC)において大きな成功を収める
近年,行列パワー正規化は双線形特徴量において2次情報を安定化させることができることが示されている。
両線形表現を同時に正規化できる効率的な多目的行列正規化法(MOMN)を提案する。
論文 参考訳(メタデータ) (2020-03-30T08:40:35Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。