論文の概要: On the importance of structural identifiability for machine learning with partially observed dynamical systems
- arxiv url: http://arxiv.org/abs/2502.04131v1
- Date: Thu, 06 Feb 2025 15:06:52 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-02-07 14:31:53.861795
- Title: On the importance of structural identifiability for machine learning with partially observed dynamical systems
- Title(参考訳): 部分的に観察された力学系をもつ機械学習における構造的識別可能性の重要性について
- Authors: Janis Norden, Elisa Oostwal, Michael Chappell, Peter Tino, Kerstin Bunte,
- Abstract要約: 我々は、構造的識別可能性分析を用いて、同一のシステム出力に関連付けられたパラメータ構成を明示的に関連づける。
本研究は,機械学習コミュニティから比較的注目されているトピックである,構造的識別可能性の説明の重要性を実証するものである。
- 参考スコア(独自算出の注目度): 0.7864304771129751
- License:
- Abstract: The successful application of modern machine learning for time series classification is often hampered by limitations in quality and quantity of available training data. To overcome these limitations, available domain expert knowledge in the form of parametrised mechanistic dynamical models can be used whenever it is available and time series observations may be represented as an element from a given class of parametrised dynamical models. This makes the learning process interpretable and allows the modeller to deal with sparsely and irregularly sampled data in a natural way. However, the internal processes of a dynamical model are often only partially observed. This can lead to ambiguity regarding which particular model realization best explains a given time series observation. This problem is well-known in the literature, and a dynamical model with this issue is referred to as structurally unidentifiable. Training a classifier that incorporates knowledge about a structurally unidentifiable dynamical model can negatively influence classification performance. To address this issue, we employ structural identifiability analysis to explicitly relate parameter configurations that are associated with identical system outputs. Using the derived relations in classifier training, we demonstrate that this method significantly improves the classifier's ability to generalize to unseen data on a number of example models from the biomedical domain. This effect is especially pronounced when the number of training instances is limited. Our results demonstrate the importance of accounting for structural identifiability, a topic that has received relatively little attention from the machine learning community.
- Abstract(参考訳): 時系列分類における現代の機械学習の応用の成功は、利用可能なトレーニングデータの質と量に制限があるため、しばしば妨げられる。
これらの制限を克服するために、パラメータ力学力学モデルという形で利用可能なドメインエキスパート知識は、いつでも利用可能であり、時系列観測は、パラメータ力学モデルの与えられたクラスの要素として表すことができる。
これにより、学習プロセスは解釈可能となり、モデラーは自然にスパースで不規則にサンプリングされたデータを処理できる。
しかし、力学モデルの内部過程は、しばしば部分的にしか観察されない。
このことは、特定のモデルの実現が与えられた時系列観測を最もうまく説明しているかという曖昧さにつながる可能性がある。
この問題は文献でよく知られており、この問題に関する力学モデルは構造的に同定不可能である。
構造的に識別不能な力学モデルに関する知識を取り入れた分類器の訓練は、分類性能に悪影響を及ぼす可能性がある。
この問題に対処するために、構造的識別可能性分析を用いて、同一のシステム出力に関連付けられたパラメータ構成を明示的に関連づける。
本手法は, バイオメディカル領域から抽出した多くのサンプルモデルにおいて, 分類器の非表示データへの一般化能力を大幅に向上することを示す。
この効果は、トレーニングインスタンスの数が限られている場合に特に顕著である。
本研究は,機械学習コミュニティから比較的注目されているトピックである,構造的識別可能性の説明の重要性を実証するものである。
関連論文リスト
- Neural Koopman prior for data assimilation [7.875955593012905]
ニューラルネットワークアーキテクチャを使って、潜在空間に動的システムを埋め込む。
本研究では,このようなモデルを長期の継続的再構築のために訓練する手法を提案する。
また,変動データ同化手法の先行として,訓練された動的モデルの有望な利用を示すとともに,自己教師型学習の可能性も示された。
論文 参考訳(メタデータ) (2023-09-11T09:04:36Z) - Robust Graph Representation Learning via Predictive Coding [46.22695915912123]
予測符号化は、当初脳の情報処理をモデル化するために開発されたメッセージパッシングフレームワークである。
本研究では,予測符号化のメッセージパス規則に依存するモデルを構築する。
提案したモデルは,帰納的タスクと帰納的タスクの両方において,標準的なモデルに匹敵する性能を示す。
論文 参考訳(メタデータ) (2022-12-09T03:58:22Z) - Dynamic Latent Separation for Deep Learning [67.62190501599176]
機械学習の中核的な問題は、複雑なデータに対するモデル予測のための表現力のある潜在変数を学習することである。
本稿では,表現性を向上し,部分的解釈を提供し,特定のアプリケーションに限定されないアプローチを開発する。
論文 参考訳(メタデータ) (2022-10-07T17:56:53Z) - Generalization Properties of Retrieval-based Models [50.35325326050263]
検索ベースの機械学習手法は、幅広い問題で成功をおさめた。
これらのモデルの約束を示す文献が増えているにもかかわらず、そのようなモデルの理論的基盤はいまだに解明されていない。
本稿では,その一般化能力を特徴付けるために,検索ベースモデルの形式的処理を行う。
論文 参考訳(メタデータ) (2022-10-06T00:33:01Z) - CHALLENGER: Training with Attribution Maps [63.736435657236505]
ニューラルネットワークのトレーニングに属性マップを利用すると、モデルの正規化が向上し、性能が向上することを示す。
特に、我々の汎用的なドメインに依存しないアプローチは、ビジョン、自然言語処理、時系列タスクにおける最先端の結果をもたらすことを示す。
論文 参考訳(メタデータ) (2022-05-30T13:34:46Z) - Leveraging the structure of dynamical systems for data-driven modeling [111.45324708884813]
トレーニングセットとその構造が長期予測の品質に与える影響を考察する。
トレーニングセットのインフォームドデザインは,システムの不変性と基盤となるアトラクションの構造に基づいて,結果のモデルを大幅に改善することを示す。
論文 参考訳(メタデータ) (2021-12-15T20:09:20Z) - Model-agnostic multi-objective approach for the evolutionary discovery
of mathematical models [55.41644538483948]
現代のデータ科学では、どの部分がより良い結果を得るために置き換えられるかというモデルの性質を理解することがより興味深い。
合成データ駆動型モデル学習において,多目的進化最適化を用いてアルゴリズムの所望特性を求める。
論文 参考訳(メタデータ) (2021-07-07T11:17:09Z) - On the Dynamics of Training Attention Models [30.85940880569692]
勾配勾配勾配を用いた簡単な注意に基づく分類モデルの訓練の力学について検討する。
我々は、注意出力が線形分類器によって分類される場合、訓練は識別語への参加に収束しなければならないことを証明した。
論文 参考訳(メタデータ) (2020-11-19T18:55:30Z) - The Role of Isomorphism Classes in Multi-Relational Datasets [6.419762264544509]
アイソモーフィックリークは,マルチリレーショナル推論の性能を過大評価することを示す。
モデル評価のためのアイソモーフィック・アウェア・シンセサイティング・ベンチマークを提案する。
また、同型類は単純な優先順位付けスキームによって利用することができることを示した。
論文 参考訳(メタデータ) (2020-09-30T12:15:24Z) - Deducing neighborhoods of classes from a fitted model [68.8204255655161]
本稿では,新しいタイプの解釈可能な機械学習手法を提案する。
量子シフトを用いた分類モデルでは、特徴空間の予測クラスへの分割を理解するのに役立ちます。
基本的に、実際のデータポイント(または特定の関心点)を使用し、特定の特徴をわずかに引き上げたり減少させたりした後の予測の変化を観察する。
論文 参考訳(メタデータ) (2020-09-11T16:35:53Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。