論文の概要: Information theory for model reduction in stochastic dynamical systems
- arxiv url: http://arxiv.org/abs/2312.06608v1
- Date: Mon, 11 Dec 2023 18:39:05 GMT
- ステータス: 処理完了
- システム内更新日: 2023-12-12 14:34:34.479745
- Title: Information theory for model reduction in stochastic dynamical systems
- Title(参考訳): 確率力学系におけるモデル還元のための情報理論
- Authors: Matthew S. Schmitt, Maciej Koch-Janusz, Michel Fruchart, Daniel S.
Seara, Vincenzo Vitelli
- Abstract要約: 我々は,関連変数を特定するために,情報ボトルネックに基づく体系的アプローチを開発する。
高圧縮の極限において、関連する変数は、最も遅い遅延固有関数によって直接決定されることを示す。
モデルリダクションを実行する解釈可能なディープラーニングツールを構築するための確固たる基盤を提供する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Model reduction is the construction of simple yet predictive descriptions of
the dynamics of many-body systems in terms of a few relevant variables. A
prerequisite to model reduction is the identification of these relevant
variables, a task for which no general method exists. Here, we develop a
systematic approach based on the information bottleneck to identify the
relevant variables, defined as those most predictive of the future. We
elucidate analytically the relation between these relevant variables and the
eigenfunctions of the transfer operator describing the dynamics. Further, we
show that in the limit of high compression, the relevant variables are directly
determined by the slowest-decaying eigenfunctions. Our information-based
approach indicates when to optimally stop increasing the complexity of the
reduced model. Further, it provides a firm foundation to construct
interpretable deep learning tools that perform model reduction. We illustrate
how these tools work on benchmark dynamical systems and deploy them on
uncurated datasets, such as satellite movies of atmospheric flows downloaded
directly from YouTube.
- Abstract(参考訳): モデル還元は、いくつかの関連する変数の観点から、多体系の力学の単純かつ予測的な記述の構築である。
モデル削減の前提条件は、これらの関連する変数の識別であり、一般的なメソッドは存在しないタスクである。
そこで我々は,情報ボトルネックに基づく系統的なアプローチを開発し,関連する変数を同定する。
これらの変数とダイナミクスを記述する伝達作用素の固有関数の関係を解析的に解明する。
さらに, 高圧縮の限界において, 関連する変数は, 最も遅い固有関数によって直接決定されることを示した。
情報ベースアプローチは,縮小モデルの複雑さの増大を最適に停止するタイミングを示す。
さらに、モデル削減を行う解釈可能なディープラーニングツールを構築するための強固な基盤を提供する。
これらのツールが動的システムのベンチマークにどのように機能するかを説明し、YouTubeから直接ダウンロードされた大気の流れの衛星映画など、未計算のデータセットにデプロイする。
関連論文リスト
- Neural Persistence Dynamics [8.197801260302642]
時間発展する点雲のトポロジにおける力学を学習する問題を考察する。
提案したモデル - $textitNeural Persistence Dynamics$ - は、パラメータ回帰タスクの多種多様なセットで最先端のパフォーマンスを大幅に上回る。
論文 参考訳(メタデータ) (2024-05-24T17:20:18Z) - REMEDI: Corrective Transformations for Improved Neural Entropy Estimation [0.7488108981865708]
我々は微分エントロピーの効率的かつ正確な推定のために$textttREMEDI$を紹介した。
提案手法は,幅広い推定課題にまたがる改善を実証する。
自然に情報理論による教師あり学習モデルに拡張することができる。
論文 参考訳(メタデータ) (2024-02-08T14:47:37Z) - Learning minimal representations of stochastic processes with
variational autoencoders [52.99137594502433]
プロセスを記述するのに必要なパラメータの最小セットを決定するために、教師なしの機械学習アプローチを導入する。
我々の手法はプロセスを記述する未知のパラメータの自律的な発見を可能にする。
論文 参考訳(メタデータ) (2023-07-21T14:25:06Z) - Dynamic Latent Separation for Deep Learning [67.62190501599176]
機械学習の中核的な問題は、複雑なデータに対するモデル予測のための表現力のある潜在変数を学習することである。
本稿では,表現性を向上し,部分的解釈を提供し,特定のアプリケーションに限定されないアプローチを開発する。
論文 参考訳(メタデータ) (2022-10-07T17:56:53Z) - On the Influence of Enforcing Model Identifiability on Learning dynamics
of Gaussian Mixture Models [14.759688428864159]
特異モデルからサブモデルを抽出する手法を提案する。
本手法はトレーニング中のモデルの識別性を強制する。
この手法がディープニューラルネットワークのようなより複雑なモデルにどのように適用できるかを示す。
論文 参考訳(メタデータ) (2022-06-17T07:50:22Z) - On the Generalization and Adaption Performance of Causal Models [99.64022680811281]
異なる因果発見は、データ生成プロセスを一連のモジュールに分解するために提案されている。
このようなモジュラニューラル因果モデルの一般化と適応性能について検討する。
我々の分析では、モジュラーニューラル因果モデルが、低データレギュレーションにおけるゼロおよび少数ショットの適応において、他のモデルよりも優れていることを示している。
論文 参考訳(メタデータ) (2022-06-09T17:12:32Z) - Learning Interacting Dynamical Systems with Latent Gaussian Process ODEs [13.436770170612295]
本研究では,対話対象の連続時間力学の不確実性を考慮したモデリングを初めて行った。
我々のモデルは、独立力学と信頼性のある不確実性推定との相互作用の両方を推測する。
論文 参考訳(メタデータ) (2022-05-24T08:36:25Z) - Towards Robust and Adaptive Motion Forecasting: A Causal Representation
Perspective [72.55093886515824]
本稿では,3つの潜伏変数群からなる動的過程として,運動予測の因果的形式化を導入する。
我々は、因果グラフを近似するために、不変なメカニズムやスタイルの共創者の表現を分解するモジュラーアーキテクチャを考案する。
合成および実データを用いた実験結果から,提案した3つの成分は,学習した動き表現の頑健性と再利用性を大幅に向上することが示された。
論文 参考訳(メタデータ) (2021-11-29T18:59:09Z) - Triplot: model agnostic measures and visualisations for variable
importance in predictive models that take into account the hierarchical
correlation structure [3.0036519884678894]
変数間の相関に関する情報を利用してモデル解析を支援する新しい手法を提案する。
ユーザが提案した変数群(アスペクト)と、自動的に決定される変数群(アスペクト)を解析する方法を紹介します。
また,可変グルーピングの階層構造を利用して高情報密度モデル可視化を行うtriplotという新しいタイプのモデル可視化手法を提案する。
論文 参考訳(メタデータ) (2021-04-07T21:29:03Z) - Beyond Trivial Counterfactual Explanations with Diverse Valuable
Explanations [64.85696493596821]
コンピュータビジョンの応用において、生成的対実法はモデルの入力を摂動させて予測を変更する方法を示す。
本稿では,多様性強化損失を用いて制約される不連続潜在空間における摂動を学習する反事実法を提案する。
このモデルは, 従来の最先端手法と比較して, 高品質な説明を生産する成功率を向上させる。
論文 参考訳(メタデータ) (2021-03-18T12:57:34Z) - Leveraging Global Parameters for Flow-based Neural Posterior Estimation [90.21090932619695]
実験観測に基づくモデルのパラメータを推定することは、科学的方法の中心である。
特に困難な設定は、モデルが強く不確定であるとき、すなわち、パラメータの異なるセットが同一の観測をもたらすときである。
本稿では,グローバルパラメータを共有する観測の補助的セットによって伝達される付加情報を利用して,その不確定性を破る手法を提案する。
論文 参考訳(メタデータ) (2021-02-12T12:23:13Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。