論文の概要: From Agent Failure Paths to Quantified Residual Risk: A Compositional Framework for Resilient Agentic AI
- arxiv url: http://arxiv.org/abs/2607.18243v1
- Date: Tue, 28 Apr 2026 23:40:24 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-27 00:46:13.087016
- Title: From Agent Failure Paths to Quantified Residual Risk: A Compositional Framework for Resilient Agentic AI
- Title（参考訳）: エージェント障害経路から定量化された残留リスクへ:レジリエントなエージェントAIのための構成フレームワーク
- Abstract要約: エージェントAIは、現在のリスクモデルが表現できるよりも早く、信頼境界を越えています。
レジリエントなエージェント・エンボディAIのためのメカニズム・ツー・マグニチュードパイプラインを提案する。
本稿では,リアルタイム倉庫ロボットとガバナンスによる金融サービスエージェントの2つのコントラストシナリオに関するフレームワークについて述べる。
- 参考スコア（独自算出の注目度）: 8.947753534117298
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Agentic AI is crossing trust boundaries faster than current risk models can represent. Existing approaches provide one of two partial views. They either describe failure mechanisms without producing a transferable residual-risk estimate, or they produce a risk estimate while treating the internal failure path as a black box. We couple those two views by proposing CPSAINT, a seven-layer integrity decomposition over Physical state, Sensors, Data, Compute, Actuators, Environment, and Time, paired with FRIESA-K, a residual-risk functional that maps each failure path to a quantified risk instance. FRIESA-K grounds the resistance term K in a controlled absorbing Markov model so that control effectiveness is derived from state dynamics rather than assigned as an informal score. The result is a concise mechanism-to magnitude pipeline for resilient agentic and embodied AI. We report governance observability through a separate additive penalty instead of inserting governance as a new variable in the resistance functional. We formalize structural composability linking valid failure paths to well-defined risk instances and show the framework on two contrasting scenarios a hard real-time warehouse robot and a governance-instrumented financial-services agent. Across both cases, the same layer grammar, variable semantics, and dynamic-resistance construction remain intact. Thus, we obtain a compact kernel that supports cross-domain reasoning, explicit assumptions, and quantitatively grounded formalism of composable trust.
- Abstract（参考訳）: エージェントAIは、現在のリスクモデルが表現できるよりも早く、信頼境界を越えています。
既存のアプローチは2つの部分的なビューの1つを提供する。
それらは、転送可能な残留リスク推定を発生させることなく障害機構を記述するか、内部の障害経路をブラックボックスとして扱いながらリスク見積を生成する。
これら2つの見解を,物理状態,センサ,データ,コンピュータ,アクチュエータ,環境,時間に対する7層完全分解であるCPSAINTと,各障害経路を定量化されたリスクインスタンスにマッピングする残留リスク関数FRIESA-Kを組み合わせて提案する。
FRIESA-K は、制御された吸収マルコフモデルにおいて抵抗項 K を基底とし、制御の有効性は非公式スコアとして割り当てられるのではなく、状態ダイナミクスから導かれる。
その結果、レジリエンスなエージェントとエンボディAIのための簡潔なメカニズムからマグニチュードのパイプラインが実現した。
我々は、抵抗関数の新しい変数としてガバナンスを挿入する代わりに、別個の付加的ペナルティを通じてガバナンスの可観測性を報告する。
我々は、有効な障害経路を適切に定義されたリスクインスタンスにリンクする構造的構成性を形式化し、ハードリアルタイム倉庫ロボットとガバナンスによる金融サービスエージェントの2つの対照的なシナリオにおけるフレームワークを示す。
どちらの場合でも、同じ層文法、変数セマンティクス、動的抵抗構造はそのままである。
このようにして、クロスドメイン推論、明示的な仮定、および構成可能な信頼の定量的基底形式をサポートするコンパクトカーネルを得る。
関連論文リスト
- Quantifying Risk Under Evolving Uncertainty: Belief-Dependent Robustness for Safe Sequential Decision Making [0.0]
RATTL(Risk-Adrial Total-Reward Learning)を提案する。
結果の計画問題は透明性とコンパクトさの条件下では良好であることを示す。
RATTLは実行時システムを含むエージェントの安全性を目標としており、不確実性の下で動作している。
論文 参考訳（メタデータ） (2026-08-18T09:36:19Z) - Operational Hallucination and Safety Drift in AI Agents [0.3823356975862005]
ツール使用自律エージェントのプランナーとして機能する大規模言語モデル(LLM)は、マルチターン実行における動的信頼性のリスクを導入する。
本稿では,複数のLLM(Safety Drift)とOperational Hallucination(Operational Hallucination)の2つの障害モードを実証的に特徴付ける。
本稿では、インテント-アクション整合性チェック、状態追跡、強制終了プリミティブを組み込んだ、軽量でプラグ&プレイのアーキテクチャ青写真であるAction-Aware Supervision Layerを提案する。
論文 参考訳（メタデータ） (2026-07-20T17:01:50Z) - Replicating Belief, Not Bits: Epistemic State Replication for Agentic Systems [2.124730017640531]
分散システムにおいて、古典的ステートマシンレプリケーションモデルは、正しいレプリカが決定論的遷移を実行し、同じビットワイズ状態を生成すると仮定する。
本稿では,複製境界をデータ可視性から知識可視性へシフトさせるエージェント型分散システムのための信念複製層であるEpistemic State Replication (ESR)を提案する。
論文 参考訳（メタデータ） (2026-07-03T19:59:03Z) - Provably Secure Agent Guardrail [89.79561918065122]
既存の防衛アーキテクチャは経験的セマンティックガードレールと確率論的大モデル調整器に依存している。
本稿では,論理的推論の基本的制約に基づくエージェントのための新しいセキュリティパラダイムを提案する。
論文 参考訳（メタデータ） (2026-05-28T02:12:41Z) - Surviving the Unseen: Predictive Defense for Novel Multi-Turn Multimodal Attacks [0.0]
本稿では,動的生存予測と軌道力学問題として安全検証を定式化する。
マルチモーダルおよびマルチターン対話フローを連続軌道としてマッピングする予測モデルとして,トリプル層異常防御(TRIAD)フレームワークが提案されている。
論文 参考訳（メタデータ） (2026-05-18T18:06:20Z) - Quantifiable Uncertainty: A Stochastic Consensus Multi-Agent RAG Framework for Robust Malware Detection [1.2183405753834562]
本稿では,マルウェア解析をセマンティックコード検索と確率的検証に分離するフレームワークMAGMAを提案する。
MAGMAは98.4%の検知率を示し,既存の解よりもかなり高い値を示した。
論文 参考訳（メタデータ） (2026-05-08T18:46:24Z) - Taming Actor-Observer Asymmetry in Agents via Dialectical Alignment [59.536125286960186]
セルフリフレクションと相互監査を可能にするために、専門的な役割を割り当てるマルチエージェントフレームワークがますます採用されている。
アクター・オブザーバ非対称性(Actor-Observer Asymmetric)と呼ばれる認知バイアスを同時に誘発する。
ReTASは、対立する視点を客観的なコンセンサスに合成するためにエージェントを誘導する。
論文 参考訳（メタデータ） (2026-04-21T15:05:58Z) - Dynamic analysis enhances issue resolution [53.50448142467294]
DAIRA(Dynamic Analysis-enhanced Issue Resolution Agent)は、エージェントの推論サイクルに動的解析を組み込む自動修復フレームワークである。
テストトレース駆動の方法論によって駆動されるDAIRAは、軽量モニタを使用して重要なランタイムデータを抽出する。
Gemini 3 Flash Previewを使用すると、DAIRAは新たな最先端(SOTA)パフォーマンスを確立し、SWE-bench Verifiedデータセットで79.4%の解像度を達成する。
論文 参考訳（メタデータ） (2026-03-23T14:48:54Z) - Agentic Uncertainty Quantification [76.94013626702183]
本稿では,言語化された不確実性をアクティブな双方向制御信号に変換する統合されたデュアルプロセスエージェントUQ(AUQ)フレームワークを提案する。
システム1(Uncertainty-Aware Memory, UAM)とシステム2(Uncertainty-Aware Reflection, UAR)は、これらの説明を合理的な手段として利用し、必要な時にのみターゲットの推論時間解決をトリガーする。
論文 参考訳（メタデータ） (2026-01-22T07:16:26Z) - Noise & pattern: identity-anchored Tikhonov regularization for robust structural anomaly detection [58.535473924035365]
異常検出は自動産業検査において重要な役割を担い、他の均一な視覚パターンの微妙な欠陥や稀な欠陥を識別することを目的としている。
自己教師型オートエンコーダを用いて, 破損した入力の修復を学習する構造的異常検出に取り組む。
構造欠陥を模倣した画像に人工的破壊を注入する汚職モデルを導入する。
論文 参考訳（メタデータ） (2025-11-10T15:48:50Z) - Robustness and Accuracy Could Be Reconcilable by (Proper) Definition [109.62614226793833]
強靭性と精度のトレードオフは、敵文学において広く研究されている。
局所的不変性の帰納的バイアスを課す不適切に定義された頑健な誤差に由来する可能性がある。
定義上、SCOREは、最悪のケースの不確実性に対処しながら、堅牢性と正確性の間の和解を促進する。
論文 参考訳（メタデータ） (2022-02-21T10:36:09Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。