論文の概要: Bayesian Optimization with Fisher Information Geometry: Gradient Bounds and Trust-Region Methods
- arxiv url: http://arxiv.org/abs/2609.31107v1
- Date: Fri, 25 Sep 2026 10:52:30 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-28 18:27:51.340469
- Title: Bayesian Optimization with Fisher Information Geometry: Gradient Bounds and Trust-Region Methods
- Title(参考訳): 漁業情報幾何学を用いたベイズ最適化:勾配境界と信頼回帰法
- Abstract要約: 情報幾何学のレンズによるベイズ最適化について検討する。
本稿では,FITRを提案する。FITRは,局所的なプルバック・フィッシャーBOによって,長さスケールのスケーリングを置き換える信頼領域ベースの手法である。
SEカーネルを持つGPベンチマークにおいて、FITRを用いた競合性能を示す実験を行った。
- 参考スコア(独自算出の注目度): 19.296118527939747
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We study Bayesian optimization (BO) through the lens of information geometry. Pulling back the Fisher information metric through the surrogate posterior map yields a local sensitivity tensor on the input space, which leads to an upper bound on the gradient of reparameterizable acquisition functions. This view explains vanishing-gradient behavior in high-dimensional BO and provides a common interpretation of heuristics such as RAASP and dimension-scaled lengthscales. Building on this analysis, we propose FITR, a trust-region-based BO method that replaces lengthscale-based scaling by local pullback-Fisher weights. FITR is not restricted to GP kernels with explicit lengthscales. On GP benchmarks with an SE kernel, experiments show competitive performance using FITR. The proposed method also easily generalizes to non-isotropic surrogates, although the gains are more task-dependent in that setting.
- Abstract(参考訳): 情報幾何学のレンズを用いてベイズ最適化(BO)について検討する。
フィッシャー情報計量を代理後写像を通して引き戻すと、入力空間上の局所感度テンソルが得られ、再パラメータ化可能な取得関数の勾配の上限となる。
この見解は、高次元BOにおける消失段階の挙動を説明し、RAASPや次元スケール長スケールのようなヒューリスティックスの共通解釈を提供する。
この分析に基づいて,局所的なプルバック・フィッシャー重みによる長さスケールのスケーリングを代替する信頼領域ベースのBO法であるFITRを提案する。
FITRは明示的な長さスケールを持つGPカーネルに制限されない。
SEカーネルを用いたGPベンチマークでは、FITRを用いた競合性能を示す。
提案手法は,非等方性サロゲートに対して容易に一般化できるが,その条件下での利得はタスク依存的である。
関連論文リスト
- Information-Geometric Forward Policy Training in GFlowNets [1.9480051045857554]
我々は, GFlowNetsにおける前方政策学習を, 誘導軌道検層の情報幾何学を用いて定式化する。
前方方針を誘導軌跡サンプリング器として扱うことにより,その内在的な一階幾何が軌道系のフィッシャー・ラオ計量によって与えられることを示す。
我々は、軌道フィッシャーをステップごとの条件付き第2モーメントに正確に分解する。
論文 参考訳(メタデータ) (2026-08-04T17:34:14Z) - Flow-Induced Diagonal Gaussian Processes [7.720921989821054]
フロー誘起対角ガウス過程(フロー誘起対角ガウス過程、FiD-GP)は、コンパクトな誘導重み行列を組み込んだ圧縮フレームワークである。
本稿では,FiD-GPがOoD(Out-of-Distribution)検出のための単一パスプロジェクションの設計にどのように役立つかを示す。
論文 参考訳(メタデータ) (2025-09-21T16:49:09Z) - Stable Nonconvex-Nonconcave Training via Linear Interpolation [51.668052890249726]
本稿では,ニューラルネットワークトレーニングを安定化(大規模)するための原理的手法として,線形アヘッドの理論解析を提案する。
最適化過程の不安定性は、しばしば損失ランドスケープの非単調性によって引き起こされるものであり、非拡張作用素の理論を活用することによって線型性がいかに役立つかを示す。
論文 参考訳(メタデータ) (2023-10-20T12:45:12Z) - RGB-based Category-level Object Pose Estimation via Decoupled Metric
Scale Recovery [72.13154206106259]
本研究では、6次元のポーズとサイズ推定を分離し、不完全なスケールが剛性変換に与える影響を緩和するパイプラインを提案する。
具体的には,事前学習した単分子推定器を用いて局所的な幾何学的情報を抽出する。
別個のブランチは、カテゴリレベルの統計に基づいてオブジェクトのメートル法スケールを直接復元するように設計されている。
論文 参考訳(メタデータ) (2023-09-19T02:20:26Z) - Neural Gradient Learning and Optimization for Oriented Point Normal
Estimation [53.611206368815125]
本研究では,3次元点雲から勾配ベクトルを一貫した向きで学習し,正規推定を行うためのディープラーニング手法を提案する。
局所平面幾何に基づいて角距離場を学習し、粗勾配ベクトルを洗練する。
本手法は,局所特徴記述の精度と能力の一般化を図りながら,グローバル勾配近似を効率的に行う。
論文 参考訳(メタデータ) (2023-09-17T08:35:11Z) - Interactive Segmentation as Gaussian Process Classification [58.44673380545409]
クリックベースのインタラクティブセグメンテーション(IS)は、ユーザインタラクション下で対象オブジェクトを抽出することを目的としている。
現在のディープラーニング(DL)ベースの手法のほとんどは、主にセマンティックセグメンテーションの一般的なパイプラインに従っている。
本稿では,各画像上でガウス過程(GP)に基づく画素単位のバイナリ分類モデルとしてISタスクを定式化することを提案する。
論文 参考訳(メタデータ) (2023-02-28T14:01:01Z) - DepthFormer: Exploiting Long-Range Correlation and Local Information for
Accurate Monocular Depth Estimation [50.08080424613603]
高精度な単分子深度推定には長距離相関が不可欠である。
我々は,このグローバルコンテキストを効果的な注意機構でモデル化するためにTransformerを活用することを提案する。
提案したモデルであるDepthFormerは、最先端のモノクル深度推定手法をはるかに超えている。
論文 参考訳(メタデータ) (2022-03-27T05:03:56Z) - Making Affine Correspondences Work in Camera Geometry Computation [62.7633180470428]
局所的な特徴は、ポイント・ツー・ポイント対応ではなく、リージョン・ツー・リージョンを提供する。
本稿では,全モデル推定パイプラインにおいて,地域間マッチングを効果的に活用するためのガイドラインを提案する。
実験により、アフィンソルバはより高速な実行時にポイントベースソルバに匹敵する精度を達成できることが示された。
論文 参考訳(メタデータ) (2020-07-20T12:07:48Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。