論文の概要: Safety, Security, and Cognitive Risks in State-Space Models: A Systematic Threat Analysis with Spectral, Stateful, and Capacity Attacks

• arxiv url: http://arxiv.org/abs/2604.16424v1
• Date: Sat, 04 Apr 2026 13:08:38 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-04 02:32:13.986117
• Title: Safety, Security, and Cognitive Risks in State-Space Models: A Systematic Threat Analysis with Spectral, Stateful, and Capacity Attacks
• Title（参考訳）: 国家空間モデルにおける安全・安全・認知リスク--スペクトル・ステートフル・キャパシティ攻撃によるシステム的脅威分析
• Authors: Manoj Parmar,
• Abstract要約: State-Space Models (SSM) は、安全クリティカルな長期研究アプリケーションにデプロイされる。 本報告では,SSMの安全性,安全性,認知リスクに関する最初の体系的治療について述べる。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: State-Space Models (SSMs) -- structured SSMs (S4, S4D, DSS, S5), selective SSMs (Mamba, Mamba-2), and hybrid architectures (Jamba) -- are deployed in safety-critical long-context applications: genomic analysis, clinical time-series forecasting, and cybersecurity log processing. Their linear-time scaling is compelling, yet the security properties of their compressed-state recurrent architectures remain unstudied. We present the first systematic treatment of SSM safety, security, and cognitive risks. Seven contributions: (1) Formal threat framework -- SSM Attack Surface (five layers), State Integrity Violation (StIV), Cross-Context Amplification Ratio $\mathcal{X}_\mathcal{S}$, and a Spectral Sensitivity Proposition grounded in the $H_\infty$ norm. (2) Three novel attack classes: spectral adversarial attacks (transfer-function gain exploitation), delayed-trigger stateful backdoors (activate thousands of steps after injection), and state capacity saturation (entropy flooding forces silent forgetting). (3) 14 MITRE ATLAS technique extensions across the full tactic chain. (4) Six-profile attacker taxonomy with kill chains for genomics, clinical, and cybersecurity domains. (5) Four cognitive risk hypotheses grounded in state-compression mechanics. (6) Governance-aligned mitigations mapped to CREST, NIST AI 600-1, and EU AI Act. (7) Empirical evaluation: targeted genomic injection achieves $\mathrm{StIV}=0.519$ vs. $0.086$ random ($6.0\times$, $p<0.001$); PGD state injection achieves $156\times$ output perturbation over random; SSD-structured extraction confirmed at $O(N^2)$ vs. $O(N^3)$ query complexity ($N\times$ speedup). Validation on pretrained checkpoints is detailed in the Appendix.
• Abstract（参考訳）: State-Space Models (SSM) -- 構造化されたSSM(S4、S4D、DSS、S5)、選択されたSSM(Mamba、Mamba-2)、ハイブリッドアーキテクチャ(Jamba) - は、安全クリティカルな長期コンテキストアプリケーション(ゲノム解析、臨床時系列予測、サイバーセキュリティログ処理)にデプロイされている。 線形時間スケーリングは魅力的だが、圧縮状態のリカレントアーキテクチャのセキュリティ特性は未検討のままである。 本研究は,SSMの安全性,安全性,認知リスクに関する最初の体系的治療である。 フォーマルな脅威フレームワーク -- SSMアタックサーフェス(5層)、ステートインテリジェンス・ヴァイオレーション(StIV)、クロスコンテキスト増幅比$\mathcal{X}_\mathcal{S}$、スペクトル感度仮説(Spectral Sensitivity Proposition)。 2) スペクトル対向攻撃(トランスファー・ファンクション・ゲイン・エクスプロイト), 遅延トリガー・ステートフル・バックドア(インジェクション後数千段の動作), 状態容量飽和(エントロピー・フラッディング・フォース・サイレント・ナッシング)の3つの新しい攻撃クラスについて検討した。 (3) 全戦術チェーンにわたる14 MITRE ATLAS技術拡張。 (4)ゲノム学・臨床・サイバーセキュリティ分野の殺傷連鎖を有する6種の攻撃的分類 (5) 状態圧縮力学の4つの認知リスク仮説 (6) CREST, NIST AI 600-1, EU AI Actにマッピングされたガバナンス対応の緩和。 実験的な評価: ターゲットゲノムインジェクションは$\mathrm{StIV}=0.519$ vs. $0.086$ random$6.0\times$, $p<0.001$); PGD状態インジェクションは$56\times$ output perturbation over random; SSD構造化抽出は$O(N^2)$ vs. $O(N^3)$ query complexity$N\times$ speedup。 事前訓練されたチェックポイントのバリデーションは、Appendixで詳述されている。

関連論文リスト

• From Stateless Queries to Autonomous Actions: A Layered Security Framework for Agentic AI Systems [0.0]
  エージェントAIシステムは、拡張された水平線を越えて計画し、永続的なメモリを維持し、外部ツールを起動し、ピアエージェントと調整する。 既存のセキュリティ分析は、攻撃タイプ(プロンプトインジェクション、ジェイルブレイク)によって脅威を整理するが、アーキテクチャコンポーネントが脆弱な原則モデルを提供しない。 脅威を異なるアーキテクチャコンポーネントにマッピングする7層フレームワークであるLayered Attack Surface Model (LASM)を紹介する。
  論文  参考訳（メタデータ） (2026-04-25T14:57:15Z)
• SafeHarness: Lifecycle-Integrated Security Architecture for LLM-based Agent Deployment [19.947119280467934]
  セーフハーネス(Safeharness)は、4つの防衛レイヤがエージェントライフサイクルに直接織られるセキュリティアーキテクチャである。 ベンチマークデータセットの安全性を、多様なハーネス構成で評価する。
  論文  参考訳（メタデータ） (2026-04-15T08:59:00Z)
• VCAO: Verifier-Centered Agentic Orchestration for Strategic OS Vulnerability Discovery [0.0]
  ベイジアン・スタックルバーグ検索ゲームとしてのオペレーティングシステム脆弱性発見の定式化 textscVCAO (textbfVerifier-textbfC enter textbfAgentic textbfOrchestration), 表面マッピング, カーネル内攻撃グラフ構築, ゲーム理論ファイル/機能ランキング, 並列実行エージェント, カスケード検証, 安全管理者を含む6層アーキテクチャを提案する。
  論文  参考訳（メタデータ） (2026-04-09T14:27:10Z)
• Tight Convergence Rates for Online Distributed Linear Estimation with Adversarial Measurements [66.94250413799232]
  分散パラメータ-サーバ-ワーカー設定における乱数ベクトル$X$の推定について検討する。 主な課題は、敵の計測と非同期である。 その結果, 分散線形推定におけるロバスト性, 識別性, 統計的効率の統一的有限時間評価が得られた。
  論文  参考訳（メタデータ） (2026-04-07T11:45:55Z)
• The Bureaucracy of Speed: Structural Equivalence Between Memory Consistency Models and Multi-Agent Authorization Revocation [0.0]
  我々はアイデンティティとアクセス管理のための能力コヒーレンスシステムを開発した。 安全定理は、実行カウント リリース 一貫性指向のコヒーレンス戦略に対する無許可の操作を束縛する。 ティックベースの離散イベントシミュレーションは、機能ごとの安全性を保証する。
  論文  参考訳（メタデータ） (2026-03-10T16:37:02Z)
• Reward Under Attack: Analyzing the Robustness and Hackability of Process Reward Models [68.45272703833209]
  現状のPRMは、逆最適化圧力下で体系的に利用可能であることを示す。 これらの脆弱性を定量化するために、敵の圧力を増大させる3段階の診断フレームワークを導入する。 我々は、PRM-BiasBenchと診断ツールキットをリリースし、デプロイ前にロバストネスの評価を可能にする。
  論文  参考訳（メタデータ） (2026-02-20T23:38:03Z)
• Time Is All It Takes: Spike-Retiming Attacks on Event-Driven Spiking Neural Networks [87.16809558673403]
  スパイキングニューラルネットワーク(SNN)は離散スパイクで計算し、時間構造を利用する。 イベント駆動SNNにおけるスパイク数と振幅を保存しながら、既存のスパイクを繰り返すタイミングのみの敵について検討する。
  論文  参考訳（メタデータ） (2026-02-03T09:06:53Z)
• ReasAlign: Reasoning Enhanced Safety Alignment against Prompt Injection Attack [52.17935054046577]
  本稿では、間接的インジェクション攻撃に対する安全性アライメントを改善するためのモデルレベルのソリューションであるReasAlignを提案する。 ReasAlignには、ユーザクエリの分析、競合する命令の検出、ユーザの意図したタスクの継続性を維持するための構造化された推論ステップが組み込まれている。
  論文  参考訳（メタデータ） (2026-01-15T08:23:38Z)
• Quantifying Return on Security Controls in LLM Systems [0.0]
  本稿では、残留リスクを定量化するための意思決定指向フレームワークを提案する。 敵のプローブの結果を金融リスク推定と戻り制御の指標に変換する。
  論文  参考訳（メタデータ） (2025-12-17T04:58:09Z)
• Composite Adversarial Attacks [57.293211764569996]
  敵対攻撃は、機械学習(ML)モデルを欺くための技術です。 本論文では,攻撃アルゴリズムの最適組み合わせを自動的に探索するための複合攻撃法(Composite Adrial Attack,CAA)を提案する。 CAAは11の防衛でトップ10の攻撃を破り、時間の経過は少ない。
  論文  参考訳（メタデータ） (2020-12-10T03:21:16Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。