論文の概要: HANSARD: A Reference Architecture for Forensic Readiness, Runtime Witnessing, and Graded Attribution in Autonomous Multi-Agent AI Systems

• arxiv url: http://arxiv.org/abs/2608.22512v1
• Date: Sun, 23 Aug 2026 17:18:22 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-25 13:29:43.782036
• Title: HANSARD: A Reference Architecture for Forensic Readiness, Runtime Witnessing, and Graded Attribution in Autonomous Multi-Agent AI Systems
• Title（参考訳）: HANSARD: 自律的マルチエージェントAIシステムにおける法医学的準備、実行時のウィットネス、および傾斜属性のための参照アーキテクチャ
• Abstract要約: 現在、自律型マルチエージェントシステムは、金融、ソフトウェアサプライチェーン、セキュリティオペレーションで機能している。 何が起きたのか、何を引き起こしたのか、誰が責任を負うのかをしっかりと決める方法はありません。 これは、証明法医学が間違った抽象化で機能し、形式的因果関係は因果関係を仮定し、エージェント監査は自己記録を信頼するからである。 ターゲットの障害モードは、帰属的な洗浄であり、いかなる原因にもならないまで、冗長なエージェントに作用を広げる。 本稿では,説明責任をライフサイクル特性として扱う参照アーキテクチャであるHANSARDを提案する。
• 参考スコア（独自算出の注目度）: 3.7015952547586832
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Autonomous multi-agent systems nowadays act in finance, software supply chains, and security operations. Already, the first largely AI-orchestrated intrusion campaigns have been reported. Yet, when such a system causes harm, no method can robustly establish what happened, what caused it, or who is accountable. This is because provenance forensics works at the wrong abstraction, formal causality assumes the causal model, and agent auditing trusts self-recording. The target failure mode is, thus, attribution laundering, i.e., spreading an act across redundant agents until none is a but-for cause. Worse, the record is produced by the suspects, which comprises the assumption adopted throughout this work. Agents may therefore anticipate the investigation and the part of logging infrastructure may itself collude. In this paper, HANSARD is proposed, a reference architecture treating accountability as a life-cycle property. First, a readiness profile sealed before operation bounds what later findings may claim. Second, capturing at five choke points beyond the agents' reach makes omissions detectable, not only tampering. Third, a typed PROV-DM-aligned causal graph accrues as the system runs, and three indicators read it live to gate oversight without adjudicating. Fourth, post-incident replay yields contingent effects under the modified Halpern-Pearl definition, together with a compensation-set size. Finally, a synergy residual measures harm due to the combination rather than to individuals, making laundering visible. Cause, responsibility and accountability are then reported separately, each capped by an evidentiary tier, while a future research agenda is also provided.
• Abstract（参考訳）: 自律型マルチエージェントシステムは現在、金融、ソフトウェアサプライチェーン、セキュリティオペレーションで機能している。 すでに、AIによって組織された最初の侵入キャンペーンが報告されている。 しかし、そのようなシステムが害を引き起こすと、何が起きたのか、何を引き起こしたのか、誰が責任を負うのかをしっかりと確立できない。 これは、証明法医学が間違った抽象化で機能し、形式的因果関係は因果関係を仮定し、エージェント監査は自己記録を信頼するからである。 ターゲットの障害モードは、帰属洗浄(英語版)、すなわち余剰エージェントに行為を広げるが原因ではない。 さらに悪いことに、この記録は容疑者によって作り出され、この作業を通じて採用される仮定を含む。 そのため、エージェントは調査を予想し、ロギングインフラストラクチャの一部自体が共謀する可能性がある。 本稿では,説明責任をライフサイクル特性として扱う参照アーキテクチャであるHANSARDを提案する。 第一に、手術前に封印された準備状態プロファイルは、後の発見が主張するものの境界である。 第二に、エージェントのリーチを超えた5つのチョークポイントで捕獲すると、省略が検出でき、単に改ざんするだけでなく。 第三に、入力されたPROV-DM対応因果グラフはシステムが実行されるにつれて蓄積され、3つの指標が判断することなくゲート監視のために読み取る。 第四に、後入射リプレイは、修正されたハルパーン・パールの定義の下で、補償セットのサイズとともに、随伴効果をもたらす。 最後に、相乗効果残基は個人ではなく組み合わせによって害を被り、洗浄が目に見える。 原因は、責任と説明責任が別々に報告され、それぞれが明らかな階層によってカプセル化され、また、将来の研究課題も提供される。

関連論文リスト

• DCFA: Dual-view Causal-inspired Attribution for Failure Reasoning in LLM-based Multi-agent Systems [61.11435469308521]
  大規模言語モデルシステムにおける障害帰属のためのトレーニング不要フレームワークDCFAを提案する。 DCFAは、システムトレースから構造化因果インスパイアされた依存性グラフを構築するグローバルモジュールを統合する。 実験の結果、DCFAは最先端のベースラインよりもステップレベルの精度を最大8.27%向上することが示された。
  論文  参考訳（メタデータ） (2026-09-04T05:29:31Z)
• One Gate Is Not Enough: Composing Stateful Pre-Action Controls for Agentic AI [0.0]
  1つのコントロールが適用した修復は、他のコントロールが評価するアクション、エビデンス、コンテキストを変更し、そのコントロールの以前の判断を無効にすることができることを示す。 我々は、この結合を形式化し、現在の有界等質な設定において、アクションごとの音質を復元するremediate-and-regateプロトコルを提供する。 これは、生産の頻度に関する主張ではなく、合成メタデータ層によるオープンペイロードデータに対するメカニズム実証である。
  論文  参考訳（メタデータ） (2026-08-18T22:24:44Z)
• Compositional Threat Analysis of Latent Compromise in LLM Agent Systems: The Order 66 Scenario [1.5752282186775997]
  本稿では,この機構をツール利用大規模言語モデル(LLM)エージェントの起点中性セキュリティ解析に変換する。 代表的なシナリオは、デプロイされたアーティファクトまたは共有メモリに、休眠中の破壊的なルールと、それを起動する後続の電子メール、ドキュメント、更新、あるいはピアメッセージと、運用と回復の権限を付与するエージェントを組み合わせたものである。
  論文  参考訳（メタデータ） (2026-08-08T13:35:35Z)
• Human-on-the-Loop Orchestration for AI-Assisted Legal Discovery [0.0]
  本稿では,法的情報検索におけるエージェント障害の構造的分類法を提案する。 本稿では,これらの故障を補うために設計した4層検証アーキテクチャを提案する。 以上の結果から,キャリブレーションされた不確実性閾値は,完全自律配置と比較して最大61%低下する可能性が示唆された。
  論文  参考訳（メタデータ） (2026-06-18T05:37:52Z)
• VerifyMAS: Hypothesis Verification for Failure Attribution in LLM Multi-Agent Systems [79.51005192758262]
  大規模言語モデル駆動型マルチエージェントシステムは複雑なタスクで優れている。 しかし、信頼性の低いエージェントは、システムレベルの信頼性にとって重要なボトルネックである。 本稿では,エージェント故障の帰属に関する仮説検証フレームワークを提案する。
  論文  参考訳（メタデータ） (2026-05-17T14:09:35Z)
• The Misattribution Gap: When Memory Poisoning Looks Like Model Failure in Agentic AI Systems [1.0262304700896199]
  EmphSemantic Norm Drift (SND) をエージェント不正行為の第3の経路として定式化する。 SNDでは、ポリシーフォーマットの文書が通常のアップロードを通じて共有ベクターストアに入り、その後、信頼されたシステムコンテキストとして再現れる。 偽合成検査は87.5%の精度と偽陽性のゼロの因果関係を識別する。
  論文  参考訳（メタデータ） (2026-05-12T20:21:47Z)
• The Authorization-Execution Gap Is a Major Safety and Security Problem in Open-World Agents [111.54911637435269]
  オーソライゼーション・実行ギャップ(英: Authorization-Execution Gap、AEG)は、オープンワールドエージェントの安全性とセキュリティの問題である。 AEGは、プリンシパルが認可しようとするものと、オープンワールドエージェントが最終的に実行するものとの違いである。
  論文  参考訳（メタデータ） (2026-05-10T04:05:31Z)
• IMPACT-CYCLE: A Contract-Based Multi-Agent System for Claim-Level Supervisory Correction of Long-Video Semantic Memory [73.22944697933603]
  既存のパイプラインは不透明でエンドツーエンドの出力を生成し、検査の中間状態は公開しない。 IMPACT-Cycleは,マルチモーダル反復クレームレベルのメンテナンスとして,長時間ビデオ理解を再構築するマルチエージェントシステムである。
  論文  参考訳（メタデータ） (2026-04-22T03:03:33Z)
• Auditable Agents [10.007755929469814]
  LLMエージェントはツールを呼び、データベースをクエリし、タスクをデリゲートし、外部の副作用を引き起こす。 エージェントシステムが世界で活動できるようになると、もはや有害なアクションが防げるかどうかという問題ではない。 我々は、説明責任(コンプライアンスを判断し、責任を割り当てる能力)、監査可能性(説明責任を可能にするシステム特性)、監査(信頼できる証拠から振る舞いを再構築するプロセス)を区別する。
  論文  参考訳（メタデータ） (2026-04-07T06:25:49Z)
• Agents of Chaos [50.53354213047402]
  実験室環境に展開する自律言語モデルを用いたエージェントの探索的再チームの研究を報告する。 20人のAI研究者が、良心的および敵対的な条件下でエージェントと対話した。 我々の発見は、現実的なデプロイメント設定におけるセキュリティ、プライバシ、ガバナンスに関連する脆弱性の存在を確立します。
  論文  参考訳（メタデータ） (2026-02-23T16:28:48Z)
• CausalArmor: Efficient Indirect Prompt Injection Guardrails via Causal Attribution [49.689452243966315]
  ツールコール機能を備えたAIエージェントは、IPI(Indirect Prompt Injection)攻撃の影響を受けやすい。 本稿では,選択防衛フレームワークCausalArmorを提案する。 AgentDojoとDoomArenaの実験は、CausalArmorが攻撃的な防御のセキュリティと一致することを示した。
  論文  参考訳（メタデータ） (2026-02-08T11:34:08Z)
• Nested Counterfactual Identification from Arbitrary Surrogate Experiments [95.48089725859298]
  観測と実験の任意の組み合わせからネスト反事実の同定について検討した。 具体的には、任意のネストされた反事実を非ネストされたものへ写像できる反ファクト的非ネスト定理(英語版)(CUT)を証明する。
  論文  参考訳（メタデータ） (2021-07-07T12:51:04Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。