論文の概要: Continuous-Time Machine Learning: A Unified Mathematical Perspective
- arxiv url: http://arxiv.org/abs/2609.16710v1
- Date: Tue, 15 Sep 2026 06:34:11 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-16 14:56:08.375611
- Title: Continuous-Time Machine Learning: A Unified Mathematical Perspective
- Title(参考訳): 連続時間機械学習:統一された数学的視点
- Abstract要約: 連続時間(CT)機械学習は、時間的ダイナミクスを継続的プロセスとしてモデル化するための原則的なフレームワークとして登場した。
我々は、基礎となる数学的定式化に従って家族を編成する分類学を通して、主要なCT機械学習分野の統一的で概念駆動的なビューを開発する。
- 参考スコア(独自算出の注目度): 2.0573301822495553
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Continuous-time (CT) machine learning has emerged as a principled framework for modeling temporal dynamics as a continuous process, particularly when observations are sampled at arbitrary time points or span long-range horizons. However, major branches of CT machine learning have matured in separate research communities, leaving their mathematical relationships and design trade-offs insufficiently characterized. In this survey, we develop a unified, concept-driven view of major CT machine learning branches through a taxonomy that organizes families according to their underlying base mathematical formulations. We present a canonical mathematical formulation that relates these families through different architectural choices of vector-field parameterization, stochasticity, memory mechanisms, and discretization. We compare training algorithms, optimization strategies, and failure modes, highlighting the trade-offs across families. We further provide a comparative analysis of theoretical computational complexity alongside an illustrative architecture-controlled benchmark analysis on representative architectures from each family. We also review software ecosystems supporting their implementation. Finally, we identify open challenges in approximation theory, training stability, hardware-efficient implementations, benchmarking, foundation models, and scientific machine learning, and discuss an agenda for future research.
- Abstract(参考訳): 連続時間(CT)機械学習は、時間的ダイナミクスを連続的なプロセスとしてモデル化するための原則的なフレームワークとして登場した。
しかし、CT機械学習の主要な分野は別の研究コミュニティで成熟しており、数学的関係や設計上のトレードオフが不十分である。
本研究では,その基礎となる数学的定式化に基づいて家族を編成する分類法を用いて,主要なCT機械学習分野の統一的概念駆動ビューを開発する。
本稿では、ベクトル場パラメータ化、確率性、メモリ機構、離散化の異なるアーキテクチャ選択を通じて、これらのファミリーを関連付ける標準的な数学的定式化を提案する。
トレーニングアルゴリズム、最適化戦略、障害モードを比較し、家族間のトレードオフを強調します。
さらに、各ファミリーの代表的アーキテクチャに関する実証的アーキテクチャ制御ベンチマーク分析とともに、理論的計算複雑性の比較分析を行う。
また、その実装をサポートするソフトウェアエコシステムについてもレビューします。
最後に、近似理論、トレーニング安定性、ハードウェア効率性の実装、ベンチマーク、基礎モデル、科学機械学習におけるオープンな課題を特定し、今後の研究課題について議論する。
関連論文リスト
- A Systematic Survey and Benchmark of Deep Learning for Molecular Property Prediction in the Foundation Model Era [57.5440098776759]
分子特性予測は、量子化学、化学情報学、深層学習を統合し、分子構造と生物学的挙動を結びつける。
この調査は、Quantum、Descriptor Machine Learning、Geometric Deep Learning、Foundation Modelsの4つの補完パラダイムをトレースする。
ベンチマーク分析は、広く使われているデータセットと業界的な視点を反映したデータセットの両方からエビデンスを統合する。
論文 参考訳(メタデータ) (2026-04-17T15:16:33Z) - From Pre-trained Models to Large Language Models: A Comprehensive Survey of AI-Driven Psychological Computing [45.96605393710063]
この調査では、アプリケーションドメインではなく、計算処理パターンによってAI駆動型心理学タスクを組織化する最初の系統分類を紹介した。
本稿では,タスク固有の特徴工学から伝達学習,少数ショット適応に至るまでの計算手法について検討する。
論文 参考訳(メタデータ) (2026-03-12T04:03:27Z) - Model Merging in the Era of Large Language Models: Methods, Applications, and Future Directions [19.95776080082138]
本調査は,モデル統合を進めるための構造的基盤を研究者や実践者に提供することを目的としている。
まず、損失ランドスケープ形状、モード接続性、線形モード接続性仮説など、マージの理論的基盤を確立する。
次に、アルゴリズムのランドスケープを体系的にレビューし、平均ウェイト、タスクベクトル算術、スパーシフィケーション強化手法、ミックス・オブ・エキスパートアーキテクチャ、進化的最適化アプローチについて述べる。
論文 参考訳(メタデータ) (2026-03-10T17:31:55Z) - Partial Differential Equations in the Age of Machine Learning: A Critical Synthesis of Classical, Machine Learning, and Hybrid Methods [0.0]
偏微分方程式は、科学スケールの全範囲にわたって物理現象を制御している。
本稿では,PDEソリューション,数値手法,機械学習アプローチの2つのパラダイムについて検討する。
論文 参考訳(メタデータ) (2026-03-08T14:38:04Z) - SymSeqBench: a unified framework for the generation and analysis of rule-based symbolic sequences and datasets [4.586552666797368]
シーケンス構造は、自然認識と行動の複数の領域の重要な特徴である。
それはまた、私たちが人工知能を適用したいタスクの中枢的な特性でもある。
SymSeq と SeqBench の2つの補完ソフトウェアツールを紹介します。
論文 参考訳(メタデータ) (2025-12-31T17:18:26Z) - Understanding the Implicit Biases of Design Choices for Time Series Foundation Models [90.894232610821]
時系列基礎モデル(TSFM)は、時系列予測と関連する時間的タスクのための潜在的に強力で汎用的なツールのクラスである。
彼らの行動はデザインの微妙な帰納的バイアスによって強く形作られています。
モデルやデータの性質によって、これらのバイアスが直感的であるか、非常に直感的であるかを示す。
論文 参考訳(メタデータ) (2025-10-22T04:42:35Z) - Quantifying Robustness: A Benchmarking Framework for Deep Learning Forecasting in Cyber-Physical Systems [44.61435605872856]
我々は,産業用CPSに合わせて,分散ロバスト性に基づく実用的ロバスト性定義を導入する。
本フレームワークは,センサドリフト,ノイズ,不規則サンプリングなどの現実的な乱れをシミュレートし,予測モデルの徹底的なロバスト性解析を可能にする。
論文 参考訳(メタデータ) (2025-04-04T14:50:48Z) - Will Pre-Training Ever End? A First Step Toward Next-Generation Foundation MLLMs via Self-Improving Systematic Cognition [89.50068130832635]
自己改善認知 (SIcog) は、マルチモーダル知識によって次世代のMLLMを構築するための自己学習フレームワークである。
ステップバイステップの視覚的理解のためのChain-of-Descriptionを提案し、詳細なマルチモーダル推論をサポートするために構造化されたChain-of-Thought(CoT)推論を統合する。
実験は、マルチモーダル認知を増強したMLLMの開発におけるSIcogの有効性を示す。
論文 参考訳(メタデータ) (2025-03-16T00:25:13Z) - Graph Neural Ordinary Differential Equations for Coarse-Grained Socioeconomic Dynamics [0.0]
時空間社会経済力学をモデル化するためのデータ駆動型機械学習手法を提案する。
我々の研究結果は、ボルチモアのケーススタディから、この機械学習で強化された粗い粒度モデルが強力な機器であることを示している。
論文 参考訳(メタデータ) (2024-07-25T15:12:46Z) - Relational Learning in Pre-Trained Models: A Theory from Hypergraph Recovery Perspective [60.64922606733441]
我々は,関係学習をハイパーグラフリカバリとして形式化する数学的モデルを導入し,基礎モデル(FM)の事前学習について検討する。
我々のフレームワークでは、世界はハイパーグラフとして表現され、データはハイパーエッジからランダムなサンプルとして抽象化される。我々は、このハイパーグラフを復元するための事前学習モデル(PTM)の有効性を理論的に検証し、ミニマックスに近い最適スタイルでデータ効率を解析する。
論文 参考訳(メタデータ) (2024-06-17T06:20:39Z) - Understanding the Language Model to Solve the Symbolic Multi-Step Reasoning Problem from the Perspective of Buffer Mechanism [68.05754701230039]
本研究では,トランスフォーマーモデルにおける情報伝達機構を解明するために,シンボル的多段階推論タスクを構築する。
モデルの推論能力を高めるために,ランダムな行列に基づくアルゴリズムを提案する。
論文 参考訳(メタデータ) (2024-05-24T07:41:26Z) - Generalizing Machine Learning Evaluation through the Integration of Shannon Entropy and Rough Set Theory [0.0]
我々は、粗集合論の粒度とシャノンエントロピーの不確かさの定量化を相乗化する包括的枠組みを導入する。
我々の手法は様々なデータセットで厳密にテストされており、予測性能を評価するだけでなく、基礎となるデータの複雑さとモデルロバスト性を照らす能力を示している。
論文 参考訳(メタデータ) (2024-04-18T21:22:42Z) - Discrete, compositional, and symbolic representations through attractor dynamics [51.20712945239422]
我々は,思考の確率的言語(PLoT)に似た認知過程をモデル化するために,アトラクタダイナミクスを記号表現と統合した新しいニューラルシステムモデルを導入する。
我々のモデルは、連続表現空間を、事前定義されたプリミティブに頼るのではなく、教師なし学習を通じて、記号系の意味性と構成性の特徴を反映する、記号列に対応する引き付け状態を持つ離散盆地に分割する。
このアプローチは、認知操作の複雑な双対性を反映したより包括的なモデルを提供する、AIにおける表現力の証明された神経弁別可能な基質であるニューラルダイナミクスを通じて、シンボル処理とサブシンボル処理の両方を統合する統一的なフレームワークを確立する。
論文 参考訳(メタデータ) (2023-10-03T05:40:56Z) - Distributed Bayesian Learning of Dynamic States [65.7870637855531]
提案アルゴリズムは有限状態隠れマルコフモデルに対する分散ベイズフィルタタスクである。
逐次状態推定や、動的環境下でのソーシャルネットワーク上での意見形成のモデル化に使用できる。
論文 参考訳(メタデータ) (2022-12-05T19:40:17Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。