論文の概要: Warm Starting State-Space Models with Automata Learning

• arxiv url: http://arxiv.org/abs/2603.05694v1
• Date: Thu, 05 Mar 2026 21:35:28 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-03-09 13:17:44.5783
• Title: Warm Starting State-Space Models with Automata Learning
• Title（参考訳）: 自動学習によるウォームスタート状態空間モデル
• Abstract要約: ムーアマシンは状態空間モデル(SSM)として正確に実現可能であることを証明した。 我々は,SSMの学習を受動的・能動的オートマトン学習と比較した。 我々は,SSMがシンボル法よりも桁違いに多くのデータを必要とし,状態構造を学習できないことを示す。
• 参考スコア（独自算出の注目度）: 0.7748670137746999
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: We prove that Moore machines can be exactly realized as state-space models (SSMs), establishing a formal correspondence between symbolic automata and these continuous machine learning architectures. These Moore-SSMs preserve both the complete symbolic structure and input-output behavior of the original Moore machine, but operate in Euclidean space. With this correspondence, we compare the training of SSMs with both passive and active automata learning. In recovering automata from the SYNTCOMP benchmark, we show that SSMs require orders of magnitude more data than symbolic methods and fail to learn state structure. This suggests that symbolic structure provides a strong inductive bias for learning these systems. We leverage this insight to combine the strengths of both automata learning and SSMs in order to learn complex systems efficiently. We learn an adaptive arbitration policy on a suite of arbiters from SYNTCOMP and show that initializing SSMs with symbolically-learned approximations learn both faster and better. We see 2-5 times faster convergence compared to randomly initialized models and better overall model accuracies on test data. Our work lifts automata learning out of purely discrete spaces, enabling principled exploitation of symbolic structure in continuous domains for efficiently learning in complex settings.
• Abstract（参考訳）: ムーアマシンは状態空間モデル(SSM)として正確に実現可能であることを証明し、シンボルオートマトンとこれらの連続機械学習アーキテクチャとの正式な対応を確立する。 これらのムーア-SSMは、元のムーアマシンの完全なシンボリック構造と入出力挙動の両方を保持するが、ユークリッド空間で作用する。 この対応により,SSMの学習と受動的・能動的オートマトン学習を比較した。 SynTCOMPベンチマークからオートマトンを復元する際、SSMはシンボリックな手法よりも桁違いに多くのデータを必要とし、状態構造を学習できないことを示す。 このことは、記号構造がこれらのシステムを学ぶための強い帰納バイアスをもたらすことを示唆している。 我々はこの知見を利用して、複雑なシステムを効率的に学習するために、自動学習とSSMの長所を組み合わせる。 我々は,SynTCOMP からアダプティブな調停ポリシーを学習し,シンボリックに学習した近似を用いた SSM の初期化がより速く,より良くなることを示す。 ランダムな初期化モデルと比較して2～5倍の収束が得られ、テストデータに対する全体的なモデル精度が向上する。 我々の研究は、純粋に離散的な空間から自動学習を持ち出し、複雑な環境で効率的に学習するための連続領域における記号構造を原則的に活用することを可能にする。

関連論文リスト

• Reward Machines for Signal Temporal Logic [17.49671322104596]
  信号時相論理(STL)は、実数値観測のリアルタイム特性を特定するための形式言語を提供する。 事前の作業では、強化学習(RL)の報酬としてSTLロバストネススコアを使用して、与えられた仕様を満たす制御ポリシーを取得する。 この研究は、RLフレームワークに適した効率的なメモリ機構と関連するマルコフ報酬を提供する、新しいオートマタベースのアプローチを導入している。
  論文  参考訳（メタデータ） (2026-08-13T04:25:07Z)
• Synthesizing Behavioural Models of CPS Using Automata Learning and Statistical Machine Learning [1.3917151217943946]
  システム実行から行動モデルを推定することは、サイバー物理システムの形式的検証と分析を支援するために不可欠である。 機械学習によって強化された受動的オートマトン学習手法であるMELAを,数値時系列データから振る舞いモデルを合成する。 我々は,産業パートナーのRabbitRun Technologiesが開発した商用ネットワーク侵入検知システムと,航空宇宙分野から利用可能な産業用自動操縦ベンチマークの2つのCPS上でMELAを評価した。
  論文  参考訳（メタデータ） (2026-08-08T16:21:26Z)
• QS4D: Quantization-aware training for efficient hardware deployment of structured state-space sequential models [0.8474310104568011]
  構造化状態空間モデル(Structured State Space Model, SSM)は、ディープラーニングモデルの新しいクラスとして登場した。 QATは、様々なパフォーマンス指標において、SSMの複雑さを最大2桁まで減少させることができる。 その結果,QATはアナログノイズに対する堅牢性を高め,構造的プルーニングを可能にすることがわかった。
  論文  参考訳（メタデータ） (2025-07-08T15:19:14Z)
• Bridging Expressivity and Scalability with Adaptive Unitary SSMs [15.244653633181303]
  本稿では,適応ユニタリ状態空間モデル(Adaptive Unitary State Space Model, AUSSM)を紹介する。 AUSSMとそのハイブリッド変種であるMambaoutperformが、パリティやモジュラー算術といった形式的なタスクでSSMに先立つことを示す。 この結果から,ユニタリ反復は記号的および連続的シーケンスモデリングの両方において,強力かつ効率的な帰納的バイアスを与えることが示された。
  論文  参考訳（メタデータ） (2025-07-07T17:47:16Z)
• Sequential-Parallel Duality in Prefix Scannable Models [68.39855814099997]
  近年では Gated Linear Attention (GLA) や Mamba など様々なモデルが開発されている。 ニアコンスタント時間並列評価と線形時間、定数空間シーケンシャル推論をサポートするニューラルネットワークモデルの全クラスを特徴付けることができるだろうか?
  論文  参考訳（メタデータ） (2025-06-12T17:32:02Z)
• Mamba-FSCIL: Dynamic Adaptation with Selective State Space Model for Few-Shot Class-Incremental Learning [115.79349923044663]
  FSCIL(Few-shot class-incremental Learning)は、限られた例から新しいクラスを段階的に学習することを目的としている。 静的アーキテクチャは固定パラメータ空間に依存して、逐次到着するデータから学習し、現在のセッションに過度に適合する傾向がある。 本研究では,FSCILにおける選択状態空間モデル(SSM)の可能性について検討する。
  論文  参考訳（メタデータ） (2024-07-08T17:09:39Z)
• Efficient infusion of self-supervised representations in Automatic Speech Recognition [1.2972104025246092]
  Wav2vecやHuBERTのような自己教師付き学習(SSL)モデルは、音声関連のタスクに対して最先端の結果をもたらす。 本稿では,SSLモデルからASRアーキテクチャへの表現を効率的に組み込むために,フレームワイズ付加と(2)クロスアテンション機構を用いる2つの簡単なアプローチを提案する。 提案手法により,Librispeech と Tedlium のデータセットにおいて,より高速なトレーニングが可能となり,大幅な性能向上が期待できる。
  論文  参考訳（メタデータ） (2024-04-19T05:01:12Z)
• Sparse Modular Activation for Efficient Sequence Modeling [94.11125833685583]
  線形状態空間モデルと自己アテンション機構を組み合わせた最近のモデルでは、様々なシーケンスモデリングタスクにおいて顕著な結果が示されている。 現在のアプローチでは、アテンションモジュールを静的かつ均一に入力シーケンスのすべての要素に適用し、最適以下の品質効率のトレードオフをもたらす。 SMA(Sparse Modular Activation)は,ニューラルネットワークが配列要素のサブモジュールを異なる方法でスパースに活性化する機構である。
  論文  参考訳（メタデータ） (2023-06-19T23:10:02Z)
• Network Classifiers Based on Social Learning [71.86764107527812]
  空間と時間に対して独立に訓練された分類器を結合する新しい手法を提案する。 提案したアーキテクチャは、ラベルのないデータで時間とともに予測性能を改善することができる。 この戦略は高い確率で一貫した学習をもたらすことが示され、未訓練の分類器に対して頑健な構造が得られる。
  論文  参考訳（メタデータ） (2020-10-23T11:18:20Z)
• S2RMs: Spatially Structured Recurrent Modules [105.0377129434636]
  モジュール構造とテンポラル構造の両方を同時に活用できる動的構造を利用するための一歩を踏み出します。 我々のモデルは利用可能なビューの数に対して堅牢であり、追加のトレーニングなしで新しいタスクに一般化できる。
  論文  参考訳（メタデータ） (2020-07-13T17:44:30Z)
• Self-organizing Democratized Learning: Towards Large-scale Distributed Learning Systems [71.14339738190202]
  民主化された学習(Dem-AI)は、大規模な分散および民主化された機械学習システムを構築するための基本原則を備えた全体主義的哲学を定めている。 本稿では,Dem-AI哲学にヒントを得た分散学習手法を提案する。 提案アルゴリズムは,従来のFLアルゴリズムと比較して,エージェントにおける学習モデルの一般化性能が向上することを示す。
  論文  参考訳（メタデータ） (2020-07-07T08:34:48Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。