論文の概要: Compressed Active Subspaces for Scalable Bayesian Inference
- arxiv url: http://arxiv.org/abs/2609.19539v1
- Date: Thu, 17 Sep 2026 01:04:43 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-20 08:55:54.056978
- Title: Compressed Active Subspaces for Scalable Bayesian Inference
- Title(参考訳): スケーラブルベイズ推論のための圧縮アクティブ部分空間
- Abstract要約: 本稿では, モデルパラメータを構造的等尺埋め込みを用いて圧縮空間にマッピングし, この縮小されたパラメータ化の中でアクティブな部分空間を構築する, スケーラブルなアプローチを提案する。
予測性能とロバストな不確実性推定を維持しながら、サイズが大きくなるニューラルネットワーク上でのCASのスケーラビリティを実証する。
- 参考スコア(独自算出の注目度): 6.398929702678775
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Active subspace methods provide a framework for quantifying predictive uncertainty in high-dimensional models by identifying and performing inference along parameter directions that have the greatest influence on the model output. However, the construction of active subspaces requires storing many full-dimensional model gradients, which becomes prohibitive as model size increases. We address this limitation by proposing Compressed Active Subspaces (CAS), a scalable approach that first maps the model parameters to a compressed space using a structured isometric embedding and then constructs the active subspace within this reduced parameterization. Our approach substantially reduces the memory required for active subspace construction and enables Bayesian inference for large models where standard active subspace methods become impractical. We demonstrate the scalability of CAS on neural networks of increasing size while maintaining predictive performance and robust uncertainty estimates.
- Abstract(参考訳): アクティブな部分空間法は、モデル出力に最も影響を与えるパラメータ方向に沿って推論を行い、実行することにより、高次元モデルにおける予測の不確かさを定量化するフレームワークを提供する。
しかし、アクティブな部分空間の構築には多くのフル次元のモデル勾配を格納する必要があるが、モデルのサイズが大きくなるにつれて禁止される。
モデルパラメータを構造的等尺埋め込みを用いて圧縮空間にマッピングし,この縮小されたパラメータ化の中でアクティブな部分空間を構築する,スケーラブルなアプローチであるCompressed Active Subspaces (CAS)を提案することにより,この制限に対処する。
提案手法は, 活性部分空間構築に必要なメモリを大幅に削減し, 標準活性部分空間法が実用的でない大モデルに対するベイズ推定を可能にする。
予測性能とロバストな不確実性推定を維持しながら、サイズが大きくなるニューラルネットワーク上でのCASのスケーラビリティを実証する。
関連論文リスト
- Constrained Extreme Gradient Boosting for Adapting Reduced-Order Models [4.028552544912019]
計算流体力学や有限要素解析のような高忠実度シミュレーションは複雑な工学系のモデリングに不可欠である。
プロジェクションベースのリダクションオーダーモデル(ROM)は、低次元部分空間に制御力学を投影することにより、このコストを軽減する。
しかし、それらの性能はパラメータの変動によって劣化し、適応的なベース構築の必要性を動機付けている。
論文 参考訳(メタデータ) (2026-05-05T16:58:09Z) - Subspace-Distance-Enabled Active Learning for Efficient Data-Driven Model Reduction of Parametric Dynamical Systems [0.5735035463793009]
パラメトリックデータ駆動型リダクション・オーダー・モデル(ROM)を構築するための新しいアクティブ・ラーニング・アプローチを提案する。
ROM構築段階では、高忠実度解の数は原理的に動的に増加する。
論文 参考訳(メタデータ) (2025-05-01T11:28:18Z) - Modeling All Response Surfaces in One for Conditional Search Spaces [69.90317997694218]
本稿では,すべての部分空間の応答曲面をモデル化する新しい手法を提案する。
本稿では,様々な部分空間から異なる構造を持つ構成を統一された特徴空間に投影できる注目型深層特徴抽出器を提案する。
論文 参考訳(メタデータ) (2025-01-08T03:56:06Z) - Leveraging Active Subspaces to Capture Epistemic Model Uncertainty in Deep Generative Models for Molecular Design [2.0701439270461184]
生成分子設計モデルでは、多数のパラメータによって生じるベイズ推定の計算上の問題により、不確実性定量化(UQ)への取り組みが減っている。
本研究では、生成分子設計の一般的なモデルであるジャンクションツリー変分オートエンコーダ(JT-VAE)に着目し、低次元の活性部分空間を利用してモデルパラメータの不確かさを捉えることでこの問題に対処する。
論文 参考訳(メタデータ) (2024-04-30T21:10:51Z) - Parameter Efficient Fine-tuning via Cross Block Orchestration for Segment Anything Model [81.55141188169621]
PEFTにクロスブロックオーケストレーション機構を組み、SAM(Segment Anything Model)の様々な下流シナリオへの適応を可能にする。
本稿では,超複素層から重みが生じる線形射影ヘッドを導入するブロック内拡張モジュールを提案する。
提案手法は,約1Kのパラメータのみを付加した新規シナリオにおいて,セグメンテーション性能を大幅に向上させる。
論文 参考訳(メタデータ) (2023-11-28T11:23:34Z) - Generative Modeling with Phase Stochastic Bridges [49.4474628881673]
拡散モデル(DM)は、連続入力のための最先端の生成モデルを表す。
我々はtextbfphase space dynamics に基づく新しい生成モデリングフレームワークを提案する。
我々のフレームワークは、動的伝播の初期段階において、現実的なデータポイントを生成する能力を示す。
論文 参考訳(メタデータ) (2023-10-11T18:38:28Z) - Conditional Korhunen-Lo\'{e}ve regression model with Basis Adaptation
for high-dimensional problems: uncertainty quantification and inverse
modeling [62.997667081978825]
本稿では,物理系の観測可能な応答のサロゲートモデルの精度を向上させる手法を提案する。
本研究では,定常水理応答のBasis Adaptation (BA)法による代理モデル構築に提案手法を適用した。
論文 参考訳(メタデータ) (2023-07-05T18:14:38Z) - A local approach to parameter space reduction for regression and
classification tasks [0.0]
そこで本研究では, クラスタリング手法を用いて, アクティブ部分空間のシナジーを探索する, ローカルアクティブ部分空間 (LAS) と呼ばれる新しい手法を提案する。
LASは、サロゲートモデリングに取り組んでいるコミュニティにとって特に有用である。
論文 参考訳(メタデータ) (2021-07-22T18:06:04Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。