論文の概要: PROACT-Agent: Progressive Runtime Oversight and Active Circuit-breaking for Real-Time Safety

• arxiv url: http://arxiv.org/abs/2609.34415v1
• Date: Mon, 28 Sep 2026 06:30:49 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-03 20:53:00.689051
• Title: PROACT-Agent: Progressive Runtime Oversight and Active Circuit-breaking for Real-Time Safety
• Title（参考訳）: PROACT-Agent: リアルタイム安全のためのプログレッシブ・ランタイム監視とアクティブ・サーキットブレーカ
• Abstract要約: PROACT-Agentはリアルタイムガードレールを実現するために高忠実度軌道を合成するためのフレームワークである。 ProACT-Benchは155,780の状態をマルチモデルでラベル付けしたバイリンガル安全ベンチマークである。 AgentDojoでは、非DoSターゲット攻撃の成功を20.82%から0.40%に削減する。
• 参考スコア（独自算出の注目度）: 15.95756753197665
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: The transition from Large Language Models (LLMs) to agents shifts safety stakes from toxic text to irreversible environmental harm. While current defenses remain largely retrospective, proactive runtime intervention is bottlenecked by the lack of large-scale, causally-consistent data. We propose PROACT-Agent, a framework for synthesizing high-fidelity trajectories to enable real-time guardrails. We identify a critical "safety drift" in prior benchmarks, where lenient annotation paradigms fail to enforce temporal consistency. PROACT-Agent addresses this through: (1) Progressive Trajectory Unrolling to reveal risks hidden in long-context interactions; (2) Reasoning-Augmented Causal Rectification to enforce monotonic causal consistency; and (3) Culturally-Aware Data Localization for cross-border robustness. We introduce PROACT-Bench, a bilingual safety benchmark with 155,780 states labeled through multi-model adjudication. Evaluating updated context before the next LLM inference, the trained guard achieves 91.46% unsafe-class F1 and 90.63% exact-boundary detection under complete source holdout. In AgentDojo, it reduces non-DoS targeted attack success from 20.82% to 0.40%.
• Abstract（参考訳）: LLM(Large Language Models)からエージェントへの移行は、安全性を有害なテキストから不可逆的な環境被害へとシフトさせる。 現在の防衛は概ね振り返るが、アクティブな実行時の介入は、大規模で因果一貫性のあるデータの欠如によってボトルネックとなる。 ProACT-Agentは,高忠実度軌道を合成してリアルタイムガードレールを実現するためのフレームワークである。 従来のベンチマークでは、厳密なアノテーションパラダイムが時間的一貫性を強制できないため、重要な“セーフティドリフト”が特定されます。 ProACT-Agentは,(1)長期的相互作用に隠されたリスクを明らかにするためのプログレッシブ・トラジェクトリ,(2)モノトニック因果一貫性を強制するための推論・拡張因果レクリエーション,(3)国境を越えたロバスト性のための文化的データ・ローカライゼーション ProACT-Benchは155,780の状態をマルチモデルでラベル付けしたバイリンガル安全ベンチマークである。 次のLSM推論の前に更新されたコンテキストを評価すると、訓練されたガードは91.46%の安全クラスF1と90.63%の正確な境界検出を完全なソースホールトアウトで達成する。 AgentDojoでは、非DoSターゲット攻撃の成功を20.82%から0.40%に削減する。

関連論文リスト

• Jailbreak Context Lingers: Divergent Safety Routing and Its Cross-Task Predictability in Tool Agents [15.105431288408704]
  42ドメインにまたがる192の親タスクにまたがるペア型継続フレームワークを導入する。 12,148個の分析連続対(最初に設計した12,288個のペアから算出した)を8種類の多種多様なエージェントで評価した。 同一の安全フィードバックは、一様保護ではなく、モデルに依存した行動ルーティングを著しく引き起こすことがわかった。
  論文  参考訳（メタデータ） (2026-09-28T09:12:13Z)
• ClawSentry: A Progressive Multi-Tier Security Monitor for Safeguarding Autonomous LLM Agents [24.540638169054812]
  悪意のあるサードパーティのスキルにハイジャックされた単一のエージェントは、データの流出、特権のエスカレーション、カスケード妥協を引き起こす可能性がある。 我々は、エージェントランタイムのためのオープンソースのフレームワークに依存しないセキュリティ監視ゲートウェイであるClawSentryを紹介する。
  論文  参考訳（メタデータ） (2026-08-21T13:47:51Z)
• Trustworthy RAG: An Evaluation Agent for Detecting Misinformation and Knowledge Poisoning in Generative AI Systems [1.7327102304628392]
  Retrieval-Augmented Generation (RAG) は、Large Language Model (LLM) を外部知識で出力する。 本稿では,自然言語推論(NLI)の事実検証,関連性重み付けによる5信号毒素検出,信頼指数T = 0.4 F + 0.35 C + 0.25 (1 - P) を組み合わせた評価エージェントを提案する。 Llama 3.3 70BのTrathfulQAでは、エージェントは91%の精度と100%の精度に達し、インストラクションインジェクションで100%リコールされる。
  論文  参考訳（メタデータ） (2026-08-21T13:42:41Z)
• Self-Evolving Just-In-Time Memory for Proactive Embodied Safety [13.342067741014455]
  既存の安全アプローチは、安全でないアクションをブロックしたり、過度に注意を喚起するために、ランタイムガードレールに依存しています。 我々は,プログレッシブ・スタンリング・ガードレールからアクティブ・ハザード対策まで,安全を具体化した自己進化型Just-In-Time Memoryフレームワークを紹介した。
  論文  参考訳（メタデータ） (2026-06-26T14:26:24Z)
• ATBench: A Diverse and Realistic Agent Trajectory Benchmark for Safety Evaluation and Diagnosis [96.92417622318267]
  ATBenchは、エージェント安全性の構造化、多様性、現実的な評価のための軌道レベルのベンチマークである。 リスクソース、障害モード、現実世界の危害の3つの側面に沿ってエージェント的リスクを編成する。 1000個の軌道(安全503個、安全497個)があり、平均9.01ターンと3.95kトークンがあり、2,084個のツールにまたがるプールから1,954個のツールが呼び出されている。
  論文  参考訳（メタデータ） (2026-04-02T13:26:20Z)
• DRAFT: Task Decoupled Latent Reasoning for Agent Safety [59.46137757545185]
  DRAFT(Task Decoupled Latent Reasoning for Agent Safety)を提案する。 エクストラクターは、完全な軌跡をコンパクトな連続的な潜伏ドラフトに蒸留し、リゾナーはドラフトと元の軌跡に共同で参加して安全性を予測する。 DRAFTの精度は63.27%(LoRA)から91.18%に向上した。
  論文  参考訳（メタデータ） (2026-02-11T07:45:14Z)
• RoboSafe: Safeguarding Embodied Agents via Executable Safety Logic [56.38397499463889]
  視覚言語モデル(VLM)を利用するエージェントは、複雑な現実世界のタスクを実行する能力がますます高まっている。 しかし、安全でない行動を引き起こす可能性のある危険な指示に弱いままである。 提案するRoboSafeは,実行可能述語ベースの安全ロジックを通じて,エージェントを具体化するためのランタイムセーフガードである。
  論文  参考訳（メタデータ） (2025-12-24T15:01:26Z)
• Preemptive Detection and Steering of LLM Misalignment via Latent Reachability [8.01833277608166]
  大規模言語モデル(LLM)は現在、日常的なツールで広く普及しており、有害なコンテンツを生成する傾向について緊急の安全上の懸念を提起している。 我々は, LLM推論に制御理論安全ツールを提供する, 到達可能性に基づくフレームワークであるBRT-Alignを提案する。
  論文  参考訳（メタデータ） (2025-09-25T20:15:29Z)
• BEEAR: Embedding-based Adversarial Removal of Safety Backdoors in Instruction-tuned Language Models [57.5404308854535]
  大型言語モデル(LLM)における安全バックドア攻撃は、正常な相互作用中の検出を回避しながら、安全でない振る舞いをステルス的に引き起こすことができる。 モデル埋め込み空間において,バックドアトリガーが比較的均一なドリフトを引き起こすという知見を活かした緩和手法であるBEEARを提案する。 両レベル最適化手法は、不要な振る舞いを誘発する普遍的な埋め込み摂動を特定し、モデルパラメータを調整し、これらの摂動に対する安全な振舞いを強化する。
  論文  参考訳（メタデータ） (2024-06-24T19:29:47Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。