論文の概要: Improving Generalization with Flat Hilbert Bayesian Inference

• arxiv url: http://arxiv.org/abs/2410.04196v1
• Date: Sat, 5 Oct 2024 15:17:37 GMT
• ステータス: 処理完了
• システム内更新日: 2024-11-02 13:31:47.771397
• Title: Improving Generalization with Flat Hilbert Bayesian Inference
• Title（参考訳）: フラットヒルベルトベイズ推論による一般化の改善
• Authors: Tuan Truong, Quyen Tran, Quan Pham-Ngoc, Nhat Ho, Dinh Phung, Trung Le,
• Abstract要約: 本稿では,ベイズ推論の一般化を促進するアルゴリズムであるFlat Hilbert Bayesian Inference (FHBI)を紹介する。 理論解析により、有限次元ユークリッド空間から無限次元汎函数空間への一般化能力に関する以前の知見が拡張される。 実証的な結果は、FHBIが顕著なマージンで一貫してベースラインを上回っていることを示している。
• 参考スコア（独自算出の注目度）: 40.72807673275344
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: We introduce Flat Hilbert Bayesian Inference (FHBI), an algorithm designed to enhance generalization in Bayesian inference. Our approach involves an iterative two-step procedure with an adversarial functional perturbation step and a functional descent step within the reproducing kernel Hilbert spaces. This methodology is supported by a theoretical analysis that extends previous findings on generalization ability from finite-dimensional Euclidean spaces to infinite-dimensional functional spaces. To evaluate the effectiveness of FHBI, we conduct comprehensive comparisons against seven baseline methods on the VTAB-1K benchmark, which encompasses 19 diverse datasets across various domains with diverse semantics. Empirical results demonstrate that FHBI consistently outperforms the baselines by notable margins, highlighting its practical efficacy.
• Abstract（参考訳）: 本稿では,ベイズ推論の一般化を促進するアルゴリズムであるFlat Hilbert Bayesian Inference (FHBI)を紹介する。 提案手法は, 逆汎関数摂動ステップと再生カーネルヒルベルト空間内の汎関数降下ステップを併用した2段階反復手順を含む。 この方法論は、有限次元ユークリッド空間から無限次元汎函数空間への一般化能力に関する以前の知見を拡張した理論解析によって支持されている。 FHBIの有効性を評価するため,VTAB-1Kベンチマークの7つのベースライン手法を総合的に比較した。 実証実験の結果、FHBIは顕著なマージンでベースラインを一貫して上回り、実用性を強調している。

関連論文リスト

• Statistical Inference of Optimal Allocations I: Regularities and their Implications [3.904240476752459]
  まず、ソート作用素の一般性質の詳細な解析を通して、値関数のアダマール微分可能性(英語版)を導出する。 アダマール微分可能性の結果に基づいて、関数デルタ法を用いて値関数プロセスの特性を直接導出する方法を実証する。
  論文  参考訳（メタデータ） (2024-03-27T04:39:13Z)
• On the Convergence of Coordinate Ascent Variational Inference [11.166959724276337]
  平均場 (MF) VI を実装するための共通座標アセント変分推論 (CAVI) アルゴリズムについて検討する。 我々はCAVIの大域的あるいは局所的な指数収束を証明するための一般的な条件を提供する。 目的関数に影響を及ぼす構成ブロック間の相互作用を特徴付けるための一般化相関の新しい概念を紹介する。
  論文  参考訳（メタデータ） (2023-06-01T20:19:30Z)
• Linearization Algorithms for Fully Composite Optimization [61.20539085730636]
  本稿では,完全合成最適化問題を凸コンパクト集合で解くための一階アルゴリズムについて検討する。 微分可能および非微分可能を別々に扱い、滑らかな部分のみを線形化することで目的の構造を利用する。
  論文  参考訳（メタデータ） (2023-02-24T18:41:48Z)
• Generalized Variational Inference in Function Spaces: Gaussian Measures meet Bayesian Deep Learning [9.106412307976067]
  無限次元関数空間における一般化変分推論の枠組みを開発する。 我々はこれをガウス・ワッサーシュタイン推論(GWI)と呼ばれる方法を構築するために利用する。 GWIのエキサイティングな応用は、GWIの変分パラメトリションにおいてディープニューラルネットワークを使用する能力である。
  論文  参考訳（メタデータ） (2022-05-12T20:10:31Z)
• Reinforcement Learning from Partial Observation: Linear Function Approximation with Provable Sample Efficiency [111.83670279016599]
  部分観察決定過程(POMDP)の無限観測および状態空間を用いた強化学習について検討した。 線形構造をもつPOMDPのクラスに対する部分可観測性と関数近似の最初の試みを行う。
  論文  参考訳（メタデータ） (2022-04-20T21:15:38Z)
• Measuring dissimilarity with diffeomorphism invariance [94.02751799024684]
  DID(DID)は、幅広いデータ空間に適用可能なペアワイズな相似性尺度である。 我々は、DIDが理論的研究と実用に関係のある特性を享受していることを証明する。
  論文  参考訳（メタデータ） (2022-02-11T13:51:30Z)
• Efficient Semi-Implicit Variational Inference [65.07058307271329]
  効率的でスケーラブルな半単純外挿 (SIVI) を提案する。 本手法はSIVIの証拠を低勾配値の厳密な推測にマッピングする。
  論文  参考訳（メタデータ） (2021-01-15T11:39:09Z)
• Optimal oracle inequalities for solving projected fixed-point equations [53.31620399640334]
  ヒルベルト空間の既知の低次元部分空間を探索することにより、確率観測の集合を用いて近似解を計算する手法を検討する。 本稿では,線形関数近似を用いた政策評価問題に対する時間差分学習手法の誤差を正確に評価する方法について述べる。
  論文  参考訳（メタデータ） (2020-12-09T20:19:32Z)
• Misspecification-robust likelihood-free inference in high dimensions [13.934999364767918]
  本稿では,ベイズ最適化に基づく近似離散関数の確率的手法による拡張を提案する。 提案手法は,高次元パラメータ空間に対する計算スケーラビリティを,各パラメータの別個の取得関数と相違点を用いて達成する。 本手法は,100次元空間における標準例による計算効率のよい推論を成功させ,既存のモジュール化ABC法と比較した。
  論文  参考訳（メタデータ） (2020-02-21T16:06:11Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。