論文の概要: Extracting Robust Register Automata from Neural Networks over Data Sequences

• arxiv url: http://arxiv.org/abs/2511.19100v1
• Date: Mon, 24 Nov 2025 13:36:45 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-11-25 18:34:25.215575
• Title: Extracting Robust Register Automata from Neural Networks over Data Sequences
• Title（参考訳）: データ系列によるニューラルネットワークからのロバストレジスタ自動抽出
• Authors: Chih-Duo Hong, Hongjian Jiang, Anthony W. Lin, Oliver Markgraf, Julian Parsert, Tony Tan,
• Abstract要約: 既存の技法は有限入力アルファベットを仮定するので、連続領域から引き出されたデータシーケンスには直接適用できない。 この課題は、有限オートマトンを数値を格納・比較するレジスタで拡張する決定論的レジスタオートマトン(DRAs)を用いて解決する。 我々の主な貢献は、ブラックボックスモデルから堅牢なDRA抽出のためのフレームワークである。
• 参考スコア（独自算出の注目度）: 1.7959033226568346
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Automata extraction is a method for synthesising interpretable surrogates for black-box neural models that can be analysed symbolically. Existing techniques assume a finite input alphabet, and thus are not directly applicable to data sequences drawn from continuous domains. We address this challenge with deterministic register automata (DRAs), which extend finite automata with registers that store and compare numeric values. Our main contribution is a framework for robust DRA extraction from black-box models: we develop a polynomial-time robustness checker for DRAs with a fixed number of registers, and combine it with passive and active automata learning algorithms. This combination yields surrogate DRAs with statistical robustness and equivalence guarantees. As a key application, we use the extracted automata to assess the robustness of neural networks: for a given sequence and distance metric, the DRA either certifies local robustness or produces a concrete counterexample. Experiments on recurrent neural networks and transformer architectures show that our framework reliably learns accurate automata and enables principled robustness evaluation. Overall, our results demonstrate that robust DRA extraction effectively bridges neural network interpretability and formal reasoning without requiring white-box access to the underlying network.
• Abstract（参考訳）: オートマタ抽出(Automata extract)は、象徴的に解析できるブラックボックスニューラルモデルのための解釈可能なサロゲートを合成する方法である。 既存の技法は有限入力アルファベットを仮定するので、連続領域から引き出されたデータシーケンスには直接適用できない。 この課題は、有限オートマトンを数値を格納・比較するレジスタで拡張する決定論的レジスタオートマトン(DRAs)を用いて解決する。 我々の主な貢献は、ブラックボックスモデルからのロバストDRA抽出のためのフレームワークである。我々は、DRAの多項式時間ロバスト性チェッカーと固定数のレジスタを開発し、それを受動的かつアクティブなオートマトン学習アルゴリズムと組み合わせる。 この組み合わせは、統計的堅牢性と等価性を保証するシュロゲートDRAをもたらす。 重要な応用として、抽出したオートマトンを用いてニューラルネットワークのロバスト性を評価する。与えられたシーケンスと距離の測定値に対して、DRAは局所ロバスト性を認証するか、具体的な反例を生成する。 リカレントニューラルネットワークとトランスフォーマーアーキテクチャの実験により、我々のフレームワークは正確なオートマトンを確実に学習し、原理化されたロバストネス評価を可能にすることが示された。 以上の結果から,ロバストなDRA抽出がニューラルネットワークの解釈可能性と形式的推論を,基盤となるネットワークへのホワイトボックスアクセスを必要とせずに効果的に橋渡しできることが示唆された。

関連論文リスト

• A Constructive Framework for Nondeterministic Automata via Time-Shared, Depth-Unrolled Feedforward Networks [0.0]
  非決定論的有限オートマトン(NFA)の時間分割・深度制御型フィードフォワードネットワーク(TS-FFN)を用いたフォーマルで建設的なシミュレーションフレームワークを提案する。 我々の定式化は、二進ベクトルとしてのオートマトン状態、スパース行列変換としての遷移、および共有しきい値更新の合成としての$varepsilon$-closuresを含む非決定的分岐を含む非決定論的分岐を象徴的に符号化する。
  論文  参考訳（メタデータ） (2025-05-30T01:18:35Z)
• An Automata-Theoretic Approach to Synthesizing Binarized Neural Networks [13.271286153792058]
  量子ニューラルネットワーク(QNN)が開発され、二項化ニューラルネットワーク(BNN)は特殊なケースとしてバイナリ値に制限されている。 本稿では,指定された特性を満たすBNNの自動合成手法を提案する。
  論文  参考訳（メタデータ） (2023-07-29T06:27:28Z)
• A Data-Driven Hybrid Automaton Framework to Modeling Complex Dynamical Systems [2.610470075814367]
  データ駆動型ハイブリッドオートマトンモデルを提案する。 小規模ニューラルネットワークは、対応するトポロジの局所的力学記述として訓練される。 限界サイクルの数値的な例を示し、発達したモデルが到達可能な集合計算の計算コストを大幅に削減できることを示す。
  論文  参考訳（メタデータ） (2023-04-26T20:18:12Z)
• Quantization-aware Interval Bound Propagation for Training Certifiably Robust Quantized Neural Networks [58.195261590442406]
  我々は、逆向きに頑健な量子化ニューラルネットワーク(QNN)の訓練と証明の課題について検討する。 近年の研究では、浮動小数点ニューラルネットワークが量子化後の敵攻撃に対して脆弱であることが示されている。 本稿では、堅牢なQNNをトレーニングするための新しい方法であるQA-IBP(quantization-aware interval bound propagation)を提案する。
  論文  参考訳（メタデータ） (2022-11-29T13:32:38Z)
• Robust Training and Verification of Implicit Neural Networks: A Non-Euclidean Contractive Approach [64.23331120621118]
  本稿では,暗黙的ニューラルネットワークのトレーニングとロバスト性検証のための理論的および計算的枠組みを提案する。 組込みネットワークを導入し、組込みネットワークを用いて、元のネットワークの到達可能な集合の超近似として$ell_infty$-normボックスを提供することを示す。 MNISTデータセット上で暗黙的なニューラルネットワークをトレーニングするためにアルゴリズムを適用し、我々のモデルの堅牢性と、文献における既存のアプローチを通じてトレーニングされたモデルを比較する。
  論文  参考訳（メタデータ） (2022-08-08T03:13:24Z)
• CREPO: An Open Repository to Benchmark Credal Network Algorithms [78.79752265884109]
  クレダルネットワークは、確率質量関数の集合であるクレダルに基づく不正確な確率的グラフィカルモデルである。 CREMAと呼ばれるJavaライブラリが最近リリースされ、クレダルネットワークをモデル化し、処理し、クエリする。 我々は,これらのモデル上での推論タスクの正確な結果とともに,合成クレダルネットワークのオープンリポジトリであるcrrepoを提案する。
  論文  参考訳（メタデータ） (2021-05-10T07:31:59Z)
• A Novel Anomaly Detection Algorithm for Hybrid Production Systems based on Deep Learning and Timed Automata [73.38551379469533]
  DAD:DeepAnomalyDetectionは,ハイブリッド生産システムにおける自動モデル学習と異常検出のための新しいアプローチである。 深層学習とタイムドオートマトンを組み合わせて、観察から行動モデルを作成する。 このアルゴリズムは実システムからの2つのデータを含む少数のデータセットに適用され、有望な結果を示している。
  論文  参考訳（メタデータ） (2020-10-29T08:27:43Z)
• Distillation of Weighted Automata from Recurrent Neural Networks using a Spectral Approach [0.0]
  本稿では,ディープラーニングと文法推論のギャップを埋める試みである。 言語モデリングのためにトレーニングされたリカレントニューラルネットワークからフォーマルな言語を抽出するアルゴリズムを提供する。
  論文  参考訳（メタデータ） (2020-09-28T07:04:15Z)
• Induction and Exploitation of Subgoal Automata for Reinforcement Learning [75.55324974788475]
  本稿では,Regressed Learning (RL)タスクにおけるサブゴールの学習と活用のためのISAを提案する。 ISAは、タスクのサブゴールによってエッジがラベル付けされたオートマトンであるサブゴールオートマトンを誘導することで強化学習をインターリーブする。 サブゴールオートマトンはまた、タスクの完了を示す状態と、タスクが成功せずに完了したことを示す状態の2つの特別な状態で構成されている。
  論文  参考訳（メタデータ） (2020-09-08T16:42:55Z)
• Contextual-Bandit Anomaly Detection for IoT Data in Distributed Hierarchical Edge Computing [65.78881372074983]
  IoTデバイスは複雑なディープニューラルネットワーク(DNN)モデルにはほとんど余裕がなく、異常検出タスクをクラウドにオフロードすることは長い遅延を引き起こす。 本稿では,分散階層エッジコンピューティング(HEC)システムを対象とした適応型異常検出手法のデモと構築を行う。 提案手法は,検出タスクをクラウドにオフロードした場合と比較して,精度を犠牲にすることなく検出遅延を著しく低減することを示す。
  論文  参考訳（メタデータ） (2020-04-15T06:13:33Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。