論文の概要: The Agent Incident Registry: Toward Preventing Repeated AI Agent Failures
- arxiv url: http://arxiv.org/abs/2609.11030v2
- Date: Fri, 11 Sep 2026 12:00:24 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-15 07:38:31.469513
- Title: The Agent Incident Registry: Toward Preventing Repeated AI Agent Failures
- Title（参考訳）: AIエージェントの障害防止に向けたエージェントインシデント登録
- Abstract要約: 2022年から2026年にかけて公表されたエージェント関連事象の487件の記録を含むソースリンクカタログであるエージェントインシデントレジストリ(AIR)を提示する。
AIRは、失敗率や制御効率の推定ではなく、ソース・グラウンドのケース検索と評価・スコープ監査をサポートしている。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://creativecommons.org/licenses/by-sa/4.0/
- Abstract: AI agents increasingly act through tools and delegated authority, but general incident repositories rarely capture the mechanisms needed to compare public failures with agent-security evaluations. We present the Agent Incident Registry (AIR) (Project page: https://enkryptai.com/air), a source-linked catalog containing 487 records of agent-related events disclosed from 2022 through 2026. Each record includes supporting evidence, a stable identifier, and missingness-aware labels for causal role, disclosure class, mechanism, and outcome. Among the 336 generative-system records in which the agent acted, 81 involved realized harm (24\%). Realized outcomes concentrate in in-the-wild and safety-failure records, while responsible disclosures and research demonstrations are overwhelmingly demonstrated; the aggregate share therefore characterizes collection composition rather than deployment risk. After initial curation, a second human reviewer checked all 487 records and their existing labels for completeness and correctness. In a deployment-analogue audit, InjecAgent's 1,054 cases occupy three of AIR's twelve surfaces and are all attacker-triggered, whereas AIR contains 92 no-adversary safety failures. AIR supports source-grounded case retrieval and evaluation-scope auditing, not failure-rate or control-efficacy estimation.
- Abstract（参考訳）: AIエージェントはますますツールや委譲された権限を通じて行動するようになっているが、一般的なインシデントリポジトリは、公開障害とエージェントセキュリティ評価を比較するのに必要なメカニズムをキャプチャすることは滅多にない。
我々は,2022年から2026年にかけて公表されたエージェント関連事象の487件の記録を含むソースリンクカタログであるエージェントインシデント登録(AIR)(プロジェクトページ:https://enkryptai.com/air)を提示する。
それぞれのレコードには、サポートエビデンス、安定した識別子、因果関係、開示クラス、メカニズム、結果の欠落を認識できるラベルが含まれている。
治療薬が作用した336件の生殖系記録のうち81件が傷害(24.5%)をきたした。
実際に得られた成果は、現場における記録と安全障害の記録に集中しているが、責任のある開示と研究のデモンストレーションは圧倒的に実証されている。
最初のキュレーションの後、第2の人間レビュアーが全487レコードと既存のラベルをチェックし、完全性と正確性を確認した。
デプロイメント・アナローグの監査では、InjecAgent氏の1,054のケースがAIRの12面のうち3面を占め、すべてアタッカートトリガーで、AIRには92の非敵の安全障害が含まれている。
AIRは、失敗率や制御効率の推定ではなく、ソース・グラウンドのケース検索と評価・スコープ監査をサポートしている。
関連論文リスト
- FunnelAudit: Responsibility Auditing in Multi-Route Recommender Systems [6.810073531792462]
マルチルートレコメンデータシステムは、検索、アロケーション、融合、ランキングを組み合わせることで、個別のインクルージョンと除外を監査しにくくする。
本稿では,インシデントレベルの責任監査を行うためのフレームワークであるFunnelAuditを紹介する。
我々は、固定ユニオン、重み付きクォータ割り当て、重み付き相互ランク融合を用いて、2段9ルートのファネルでフレームワークをインスタンス化し、次にSASRecランキングを付ける。
論文 参考訳（メタデータ） (2026-09-07T03:01:07Z) - HANSARD: A Reference Architecture for Forensic Readiness, Runtime Witnessing, and Graded Attribution in Autonomous Multi-Agent AI Systems [3.7015952547586832]
現在、自律型マルチエージェントシステムは、金融、ソフトウェアサプライチェーン、セキュリティオペレーションで機能している。
何が起きたのか、何を引き起こしたのか、誰が責任を負うのかをしっかりと決める方法はありません。
これは、証明法医学が間違った抽象化で機能し、形式的因果関係は因果関係を仮定し、エージェント監査は自己記録を信頼するからである。
ターゲットの障害モードは、帰属的な洗浄であり、いかなる原因にもならないまで、冗長なエージェントに作用を広げる。
本稿では,説明責任をライフサイクル特性として扱う参照アーキテクチャであるHANSARDを提案する。
論文 参考訳（メタデータ） (2026-08-23T17:18:22Z) - One Gate Is Not Enough: Composing Stateful Pre-Action Controls for Agentic AI [0.0]
1つのコントロールが適用した修復は、他のコントロールが評価するアクション、エビデンス、コンテキストを変更し、そのコントロールの以前の判断を無効にすることができることを示す。
我々は、この結合を形式化し、現在の有界等質な設定において、アクションごとの音質を復元するremediate-and-regateプロトコルを提供する。
これは、生産の頻度に関する主張ではなく、合成メタデータ層によるオープンペイロードデータに対するメカニズム実証である。
論文 参考訳（メタデータ） (2026-08-18T22:24:44Z) - Agent Safety Should Be a Runtime Contract [7.813225070853552]
エージェントの安全性は、ハーネスによって強制されるランタイム契約であるべきです。
予防顔は 危険な行動を妨害する
明らかな顔は 良い行動が実際に起こった証拠が必要です
論文 参考訳（メタデータ） (2026-08-11T08:01:05Z) - Agentic Permissions Policy Algebra for Taint Confinement in LLM Agents [0.0]
従来のテナント追跡は、未確認データを読み取る際にエージェントのコンテキストを永久に汚染する。
本稿では,エンジン管理型コンテキスト分岐によるユーザビリティボトルネックを解決するためのIFCフレームワークであるAPPAを提案する。
我々は4つのモデルにまたがるマルチターンツールチェインベンチマークでAPPAを評価した。
論文 参考訳（メタデータ） (2026-07-27T16:19:45Z) - VerifyMAS: Hypothesis Verification for Failure Attribution in LLM Multi-Agent Systems [79.51005192758262]
大規模言語モデル駆動型マルチエージェントシステムは複雑なタスクで優れている。
しかし、信頼性の低いエージェントは、システムレベルの信頼性にとって重要なボトルネックである。
本稿では,エージェント故障の帰属に関する仮説検証フレームワークを提案する。
論文 参考訳（メタデータ） (2026-05-17T14:09:35Z) - Demystifying and Detecting Agentic Workflow Injection Vulnerabilities in GitHub Actions [13.116427545802571]
GitHub Actionsは、リポジトリ中心のタスクのためのLLMベースのエージェントのデプロイにますます使用されている。
本稿では,ワークフローレベルのインジェクション欠陥であるエージェントインジェクション(AWI)を紹介する。
我々は、実世界のAI支援行動1,033を特徴付け、AWI固有の仕様を抽出する。
これらの仕様に基づいて、信頼できないイベントコンテキストからエージェントプロンプトインプットへのフローを追跡する、テイント分析ツールであるTaintAWIを設計する。
論文 参考訳（メタデータ） (2026-05-08T02:13:04Z) - Owner-Harm: A Missing Threat Model for AI Agent Safety [0.0]
既存のAI安全性ベンチマークは、一般的な犯罪被害に焦点を当てている。
本稿では,8つのカテゴリのエージェント動作がデプロイを損なう,正式な脅威モデルである Owner-Harm を提案する。
論文 参考訳（メタデータ） (2026-04-20T10:11:26Z) - Re-Evaluating EVMBench: Are AI Agents Ready for Smart Contract Security? [10.248746359119625]
EVMbenchは、スマートコントラクトセキュリティに関するAIエージェントのための最初の大規模なベンチマークである。
その成果は、完全に自動化されたAI監査が到達範囲内にあるという期待を後押しした。
これらの発見は、完全に自動化されたAI監査が差し迫っているという物語に挑戦する。
論文 参考訳（メタデータ） (2026-03-11T14:07:16Z) - Agents of Chaos [50.53354213047402]
実験室環境に展開する自律言語モデルを用いたエージェントの探索的再チームの研究を報告する。
20人のAI研究者が、良心的および敵対的な条件下でエージェントと対話した。
我々の発見は、現実的なデプロイメント設定におけるセキュリティ、プライバシ、ガバナンスに関連する脆弱性の存在を確立します。
論文 参考訳（メタデータ） (2026-02-23T16:28:48Z) - OMNI-LEAK: Orchestrator Multi-Agent Network Induced Data Leakage [59.3826294523924]
オーケストレータ設定として知られる,一般的なマルチエージェントパターンのセキュリティ脆弱性について検討する。
本報告では,フロンティアモデルの攻撃カテゴリに対する感受性を報告し,推論モデルと非推論モデルの両方が脆弱であることが確認された。
論文 参考訳（メタデータ） (2026-02-13T21:32:32Z) - AIR: Improving Agent Safety through Incident Response [8.845095096023021]
本稿では,Large Language Model (LLM)エージェントシステムにおける最初のインシデント応答フレームワークであるAIRを紹介する。
AIR は LLM エージェントシステムでインシデント応答ライフサイクルを自律的に管理するためのドメイン固有言語を定義する。
その結果、AIRは検出、修復、根絶の成功率が90%を超えていることが判明した。
論文 参考訳（メタデータ） (2026-02-12T09:24:50Z) - CausalArmor: Efficient Indirect Prompt Injection Guardrails via Causal Attribution [49.689452243966315]
ツールコール機能を備えたAIエージェントは、IPI(Indirect Prompt Injection)攻撃の影響を受けやすい。
本稿では,選択防衛フレームワークCausalArmorを提案する。
AgentDojoとDoomArenaの実験は、CausalArmorが攻撃的な防御のセキュリティと一致することを示した。
論文 参考訳（メタデータ） (2026-02-08T11:34:08Z) - AgentDoG: A Diagnostic Guardrail Framework for AI Agent Safety and Security [126.49733412191416]
現在のガードレールモデルは、リスク診断におけるエージェント的リスク認識と透明性を欠いている。
エージェントリスクをソース(場所)、障害モード(方法)、結果(何)で分類する統合された3次元分類法を提案する。
AgentDoG(AgentDoG)のための,エージェント安全性ベンチマーク(ATBench)と診断ガードレールフレームワークを新たに導入する。
論文 参考訳（メタデータ） (2026-01-26T13:45:41Z) - Malice in Agentland: Down the Rabbit Hole of Backdoors in the AI Supply Chain [82.98626829232899]
自分自身のインタラクションからのデータに対する微調整のAIエージェントは、AIサプライチェーン内の重要なセキュリティ脆弱性を導入している。
敵は容易にデータ収集パイプラインに毒を盛り、検出しにくいバックドアを埋め込むことができる。
論文 参考訳（メタデータ） (2025-10-03T12:47:21Z) - AgentArmor: Enforcing Program Analysis on Agent Runtime Trace to Defend Against Prompt Injection [14.522205401511727]
大きな言語モデル(LLM)エージェントは、自然言語推論と外部ツールの実行を組み合わせることで、さまざまな問題を解決するための強力な新しいパラダイムを提供する。
本研究では,エージェントランタイムトレースを解析可能なセマンティクスを用いた構造化プログラムとして扱う新しい知見を提案する。
本稿では,エージェントトレースをグラフ中間表現に基づく構造化プログラム依存表現に変換するプログラム解析フレームワークであるAgentArmorを提案する。
論文 参考訳（メタデータ） (2025-08-02T07:59:34Z) - Malicious Agent Detection for Robust Multi-Agent Collaborative Perception [52.261231738242266]
多エージェント協調(MAC)知覚は、単エージェント認識よりも敵攻撃に対して脆弱である。
MAC知覚に特異的な反応防御であるMADE(Malicious Agent Detection)を提案する。
我々は、ベンチマーク3DデータセットV2X-simとリアルタイムデータセットDAIR-V2Xで包括的な評価を行う。
論文 参考訳（メタデータ） (2023-10-18T11:36:42Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。