論文の概要: Safe to Resume? Breaking Execution Continuity of Agent Execution via Rollback
- arxiv url: http://arxiv.org/abs/2608.29381v1
- Date: Sat, 29 Aug 2026 17:40:13 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-01 18:31:30.948216
- Title: Safe to Resume? Breaking Execution Continuity of Agent Execution via Rollback
- Title(参考訳): 蘇生の安全? ロールバックによるエージェント実行継続性の破滅
- Abstract要約: チェックポイントとロールバック(C/R)はリカバリに欠かせないものになっているが、そのセキュリティ上の意味はほとんど解明されていない。
本研究は,既存のエージェントシステムにおけるチェックポイントとロールバックに関する,最初のシステマティックセキュリティ研究である。
- 参考スコア(独自算出の注目度): 18.855582025155268
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: AI agents are moving toward persistent, stateful execution across various applications, accumulating execution state and external effects that are costly to reconstruct after failures. Checkpoint and rollback (C/R) are becoming essential for recovery, yet their security implications remain largely unexplored. Correct rollback does not imply secure recovery: a faithfully restored checkpoint may resume an execution whose states, assumptions, and external effects never coexisted in any valid history. In this paper, we present the first systematic security study of checkpoint and rollback in existing agent systems. By examining representative agent C/R systems, we characterize the design space of existing C/R mechanisms and develop a general execution model that captures their recovery boundaries and state dependencies. From this model, we identify five fundamental failure modes spanning incomplete or inconsistent internal state, stale external dependencies, nondeterministic replay, and unrecorded external effects. We further demonstrate their security impact through three end-to-end attacks on Hermes, Cline, and LangGraph, enabling malware-verification bypass, unauthorized mail forwarding, and double payment. To systematically study these failures in practice, we develop a multi-agent analysis pipeline that reconstructs execution semantics, identifies violations of the five failure conditions, and validates them through actual rollback. Across five representative frameworks, our evaluation shows that these failures recur across heterogeneous C/R designs and stem from a common gap between the state restored by a checkpoint and the dependencies required for secure continuation.
- Abstract(参考訳): AIエージェントは、さまざまなアプリケーションにわたる永続的でステートフルな実行に向かって動き、実行状態と障害後の再構築にコストがかかる外部効果を蓄積している。
チェックポイントとロールバック(C/R)はリカバリに欠かせないものになっているが、そのセキュリティ上の意味はほとんど解明されていない。
忠実に復元されたチェックポイントは、有効な履歴に共存しない状態、仮定、外部効果を再開することができる。
本稿では,既存のエージェントシステムにおけるチェックポイントとロールバックに関する,最初のシステマティックセキュリティ研究について述べる。
代表エージェントC/Rシステムを調べることにより,既存のC/R機構の設計空間を特徴付けるとともに,そのリカバリ境界と状態依存性をキャプチャする汎用実行モデルを開発する。
このモデルから、不完全または一貫性のない内部状態、不安定な外部依存、非決定論的リプレイ、記録されていない外部効果にまたがる5つの基本的な障害モードを同定する。
さらに,Hermes,Cline,LangGraphの3つのエンドツーエンド攻撃によるセキュリティへの影響を示す。
実際にこれらの障害を体系的に研究するために,実行セマンティクスを再構築し,5つの障害条件の違反を特定し,実際のロールバックを通じて検証するマルチエージェント分析パイプラインを開発した。
5つの代表的なフレームワークで評価したところ、これらの障害は不均一なC/R設計にまたがって発生し、チェックポイントによって復元された状態と安全な継続に必要な依存関係の共通的なギャップから発生していることがわかった。
関連論文リスト
- Adversarial Attacks for Good: A Survey of Proactive Protection across the Visual Content Lifecycle [65.6642776933861]
この介入点付近で成長した保護パラダイムについて検討する。
ほとんどの保護は、主に静的あるいは弱い適応的な敵に対して検証されている。
我々は、堅牢で構成可能で、デプロイ可能な所有者側の保護のために、クロスステージ対策とオープンな問題を統合することで、閉鎖する。
論文 参考訳(メタデータ) (2026-08-05T00:46:50Z) - DART: Semantic Recoverability for Structured Tool Agents [17.458285666498337]
DARTは、失敗したインスタンスをローカライズし、セマンティックに回復可能なバウンダリを認証するモジュールランタイムである。
DARTは, ベースラインの局所的回復が失敗する場合に, 評価されたコミットメントに敏感なすべてのケースを正しく回復することを示す。
これらの結果から, 制御器の合法性は意味論的妥当性を示唆せず, 音の局所回復には明確な許容性検査が必要であることが示唆された。
論文 参考訳(メタデータ) (2026-05-22T07:30:43Z) - On-Policy Self-Evolution via Failure Trajectories for Agentic Safety Alignment [54.30690671490447]
既存の安全アライメント信号は、主に応答レベルまたは政治外である。
FATEは、検証済みの失敗を専門家のデモンストレーションなしで修復管理に変換する。
FATEは攻撃成功率を33.5%、有害なコンプライアンスを82.6%削減し、外的軌道安全診断を6.5%改善する。
論文 参考訳(メタデータ) (2026-05-12T09:56:28Z) - Rewind-IL: Online Failure Detection and State Respawning for Imitation Learning [7.445072780282545]
提案するRewind-ILは,生成アクションチャンク模倣ポリシーのためのトレーニングフリーオンラインセーフガードフレームワークである。
Rewind-ILは、TIDE(Temporal Inter-chunk Discrepancy Estimate)に基づくゼロショット故障検知器と、状態再起動機構を結合する。
オンラインのRewind-ILは、重複するアクションチャンクの自己整合性を監視し、チェックポイントライブラリと類似性を追跡し、失敗すると、実行を最新の検証された安全な状態に戻す。
論文 参考訳(メタデータ) (2026-04-17T20:41:14Z) - SafeHarness: Lifecycle-Integrated Security Architecture for LLM-based Agent Deployment [19.947119280467934]
セーフハーネス(Safeharness)は、4つの防衛レイヤがエージェントライフサイクルに直接織られるセキュリティアーキテクチャである。
ベンチマークデータセットの安全性を、多様なハーネス構成で評価する。
論文 参考訳(メタデータ) (2026-04-15T08:59:00Z) - ACRFence: Preventing Semantic Rollback Attacks in Agent Checkpoint-Restore [3.0122754959023115]
LLMエージェントフレームワークは、エラーリカバリと探索のためのチェックポイントリストアをますます提供する。
このアドバイスは、リトライされた呼び出しは、従来のプログラムには当てはまるが、LLMエージェントには失敗する仮定である元の呼び出しと同じであると仮定する。
サーバは、これらの再生成要求を新しいものとして扱い、重複支払い、消費された資格情報の不正な再利用、その他の不可逆的な副作用を可能にする。
本稿では,不可逆的なツール効果を記録し,復元時に再生・不可知の意味を強制するフレームワークであるACRFenceを提案する。
論文 参考訳(メタデータ) (2026-03-21T03:39:36Z) - RoboSafe: Safeguarding Embodied Agents via Executable Safety Logic [56.38397499463889]
視覚言語モデル(VLM)を利用するエージェントは、複雑な現実世界のタスクを実行する能力がますます高まっている。
しかし、安全でない行動を引き起こす可能性のある危険な指示に弱いままである。
提案するRoboSafeは,実行可能述語ベースの安全ロジックを通じて,エージェントを具体化するためのランタイムセーフガードである。
論文 参考訳(メタデータ) (2025-12-24T15:01:26Z) - It's a Feature, Not a Bug: Secure and Auditable State Rollback for Confidential Cloud Applications [3.903754621026016]
Reboundは、ロールバック保護を保護しつつ、ポリシーで承認されたアプリケーションバイナリ、設定、データのロールバックを可能にする汎用セキュリティフレームワークである。
キー・トゥ・リバウンド(Key to Rebound)は、状態遷移を仲介し、承認ポリシーを強制し、状態更新とロールバックのアトミック性を保証するリファレンスモニターであり、アプリケーションや監査者に透明性を提供する、見事なログを発行する。
論文 参考訳(メタデータ) (2025-11-17T17:53:47Z) - Making LLMs Reliable When It Matters Most: A Five-Layer Architecture for High-Stakes Decisions [51.56484100374058]
現在の大規模言語モデル(LLM)は、実行前にアウトプットをチェックできるが、不確実な結果を伴う高い戦略決定には信頼性が低い検証可能な領域で優れている。
このギャップは、人間と人工知能(AI)システムの相互認知バイアスによって引き起こされ、そのセクターにおける評価と投資の持続可能性の保証を脅かす。
本報告では、7つのフロンティアグレードLDMと3つの市場向けベンチャーヴィグネットの時間的圧力下での系統的質的評価から生まれた枠組みについて述べる。
論文 参考訳(メタデータ) (2025-11-10T22:24:21Z) - When Models Outthink Their Safety: Mitigating Self-Jailbreak in Large Reasoning Models with Chain-of-Guardrails [74.63933201261595]
大規模推論モデル(LRM)は複雑な推論タスクにおいて顕著な能力を示す。
LRMは、有害なコンテンツ生成やジェイルブレイク攻撃など、深刻な安全リスクに弱いままである。
安全でない推論ステップを再構成またはバックトラックするトレーニングフレームワークであるChain-of-Guardrail(CoG)を提案する。
論文 参考訳(メタデータ) (2025-10-24T09:32:25Z) - CARE: Decoding Time Safety Alignment via Rollback and Introspection Intervention [68.95008546581339]
Contrastive Decodingのような既存のデコーディングタイムの介入は、安全と応答品質の間に深刻なトレードオフを強いることが多い。
本稿では,3つの重要なコンポーネントを統合した,復号時安全アライメントのための新しいフレームワークであるCAREを提案する。
このフレームワークは、安全性、品質、効率のバランスが良く、有害な応答率が低く、ユーザエクスペリエンスを最小限に破壊できる。
論文 参考訳(メタデータ) (2025-09-01T04:50:02Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。