論文の概要: On Inverse Problems, Parameter Estimation, and Domain Generalization
- arxiv url: http://arxiv.org/abs/2506.06024v1
- Date: Fri, 06 Jun 2025 12:15:02 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-06-09 17:28:43.467304
- Title: On Inverse Problems, Parameter Estimation, and Domain Generalization
- Title(参考訳): 逆問題・パラメータ推定・領域一般化について
- Authors: Deborah Pereg,
- Abstract要約: 逆問題設定におけるパラメータ推定の一般的な問題を分析する。
まず、離散パラメータ推定分析と直接的に関連づけることで、ドメインシフト問題に対処する。
データ処理の前後で観測されたパラメータ推定の理論的解析を行う。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Signal restoration and inverse problems are key elements in most real-world data science applications. In the past decades, with the emergence of machine learning methods, inversion of measurements has become a popular step in almost all physical applications, which is normally executed prior to downstream tasks that often involve parameter estimation. In this work, we analyze the general problem of parameter estimation in an inverse problem setting. First, we address the domain-shift problem by re-formulating it in direct relation with the discrete parameter estimation analysis. We analyze a significant vulnerability in current attempts to enforce domain generalization, which we dubbed the Double Meaning Theorem. Our theoretical findings are experimentally illustrated for domain shift examples in image deblurring and speckle suppression in medical imaging. We then proceed to a theoretical analysis of parameter estimation given observed measurements before and after data processing involving an inversion of the observations. We compare this setting for invertible and non-invertible (degradation) processes. We distinguish between continuous and discrete parameter estimation, corresponding with regression and classification problems, respectively. Our theoretical findings align with the well-known information-theoretic data processing inequality, and to a certain degree question the common misconception that data-processing for inversion, based on modern generative models that may often produce outstanding perceptual quality, will necessarily improve the following parameter estimation objective. It is our hope that this paper will provide practitioners with deeper insights that may be leveraged in the future for the development of more efficient and informed strategic system planning, critical in safety-sensitive applications.
- Abstract(参考訳): 信号の復元と逆問題は、ほとんどの実世界のデータサイエンス応用において重要な要素である。
過去数十年間、機械学習の手法が出現し、ほぼすべての物理アプリケーションにおいて測定の反転は一般的なステップとなり、通常はパラメータ推定を伴う下流タスクの前に実行される。
本研究では,逆問題設定におけるパラメータ推定の一般的な問題を分析する。
まず、離散パラメータ推定分析と直接的に関連づけることで、ドメインシフト問題に対処する。
我々は、ドメインの一般化を強制しようとする現在の試みにおいて、重大な脆弱性を分析し、それをDouble Meaning Theoremと呼ぶ。
画像劣化における領域シフト例と医用画像におけるスペックル抑制例について実験的に考察した。
次に,観測結果の逆転を伴うデータ処理前後におけるパラメータ推定の理論的解析を行った。
この設定を、可逆および非可逆(分解)プロセスと比較する。
我々は回帰問題と分類問題に対応する連続的パラメータ推定と離散的パラメータ推定をそれぞれ区別する。
情報理論的なデータ処理の不等式はよく知られた情報理論データ処理の不等式と一致し、インバージョンのためのデータ処理は、しばしば優れた知覚的品質を生み出す現代の生成モデルに基づいて、次のパラメータ推定の目的を確実に改善する、という一般的な誤解をある程度疑問視する。
本論文は,安全に配慮したアプリケーションにおいて重要となる,より効率的かつインフォメーションな戦略的システム計画を開発する上で,将来活用されるであろう深い洞察を実践者に提供することを願っている。
関連論文リスト
- Beyond Progress Measures: Theoretical Insights into the Mechanism of Grokking [50.465604300990904]
グロキング(Grokking)とは、オーバーフィッティングの拡張後のテスト精度の急激な改善を指す。
本研究では、素数演算のタスクにおいて、Transformerの基盤となるグルーキング機構について検討する。
論文 参考訳(メタデータ) (2025-04-04T04:42:38Z) - Partial Transportability for Domain Generalization [56.37032680901525]
本稿では, 部分的同定と輸送可能性の理論に基づいて, 対象分布の関数値の有界化に関する新たな結果を紹介する。
我々の貢献は、輸送可能性問題に対する最初の一般的な評価手法を提供することである。
本稿では,スケーラブルな推論を実現するための勾配に基づく最適化手法を提案する。
論文 参考訳(メタデータ) (2025-03-30T22:06:37Z) - In-Context Parametric Inference: Point or Distribution Estimators? [66.22308335324239]
償却点推定器は一般に後部推論より優れているが、後者は低次元問題では競争力がある。
実験の結果, 償却点推定器は一般に後部推定より優れているが, 後者は低次元問題では競争力があることがわかった。
論文 参考訳(メタデータ) (2025-02-17T10:00:24Z) - General targeted machine learning for modern causal mediation analysis [3.813608775141218]
因果媒介分析は、その作用を引き起こすメカニズムを解明する。
媒介分析に対する6つの一般的な非パラメトリック手法の同定式は2つの統計的推定値から復元可能であることを示す。
我々は,任意の媒介研究において,機械学習と組み合わせることができる全目的の一段階推定アルゴリズムを提案する。
論文 参考訳(メタデータ) (2024-08-26T20:31:26Z) - Neural variational Data Assimilation with Uncertainty Quantification using SPDE priors [28.804041716140194]
ディープラーニングコミュニティの最近の進歩は、ニューラルネットワークと変分データ同化フレームワークを通じて、この問題に対処することができる。
本研究では、部分微分方程式(SPDE)とガウス過程(GP)の理論を用いて状態の空間的および時間的共分散を推定する。
論文 参考訳(メタデータ) (2024-02-02T19:18:12Z) - Quantifying predictive uncertainty of aphasia severity in stroke patients with sparse heteroscedastic Bayesian high-dimensional regression [47.1405366895538]
高次元データに対する疎線型回帰法は、通常、残留物が一定の分散を持つと仮定するが、これは実際には破ることができる。
本稿では,ヘテロセダスティック分割経験的ベイズ期待条件最大化アルゴリズムを用いて,高次元ヘテロセダスティック線形回帰モデルを推定する。
論文 参考訳(メタデータ) (2023-09-15T22:06:29Z) - Advancing Counterfactual Inference through Nonlinear Quantile Regression [77.28323341329461]
ニューラルネットワークで実装された効率的かつ効果的な対実的推論のためのフレームワークを提案する。
提案手法は、推定された反事実結果から見つからないデータまでを一般化する能力を高める。
複数のデータセットで実施した実証実験の結果は、我々の理論的な主張に対する説得力のある支持を提供する。
論文 参考訳(メタデータ) (2023-06-09T08:30:51Z) - Simulator-Based Inference with Waldo: Confidence Regions by Leveraging
Prediction Algorithms and Posterior Estimators for Inverse Problems [4.212344009251363]
WALDOは有限サンプル条件付き信頼領域を構築するための新しい手法である。
提案手法を最近の高エネルギー物理問題に適用し,より深いニューラルネットワークによる予測が予測バイアスによる推定を導いた。
論文 参考訳(メタデータ) (2022-05-31T10:43:18Z) - Towards Data-Algorithm Dependent Generalization: a Case Study on
Overparameterized Linear Regression [19.047997113063147]
本稿では,データ依存学習軌跡全体の一般化挙動を考察したデータ-アルゴリズム整合性の概念を提案する。
我々は、データ依存軌道解析を行い、そのような環境での互換性に十分な条件を導出する。
論文 参考訳(メタデータ) (2022-02-12T12:42:36Z) - Leveraging Global Parameters for Flow-based Neural Posterior Estimation [90.21090932619695]
実験観測に基づくモデルのパラメータを推定することは、科学的方法の中心である。
特に困難な設定は、モデルが強く不確定であるとき、すなわち、パラメータの異なるセットが同一の観測をもたらすときである。
本稿では,グローバルパラメータを共有する観測の補助的セットによって伝達される付加情報を利用して,その不確定性を破る手法を提案する。
論文 参考訳(メタデータ) (2021-02-12T12:23:13Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。