論文の概要: Certified Multi-Source Integrity for Structured Agent Actions

• arxiv url: http://arxiv.org/abs/2609.34245v1
• Date: Mon, 28 Sep 2026 03:52:21 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-03 22:34:50.512197
• Title: Certified Multi-Source Integrity for Structured Agent Actions
• Title（参考訳）: 構造化エージェントアクションのための認証マルチソース統合
• Abstract要約: LLMエージェントは特権的かつしばしば不可逆的な構造的行動をとる。 ソースのトラストラベルに現在のディフェンスゲートを配置するか、あるいはフリーテキストの応答品質を認定する。 このような動作が安全に証明可能であり、かつ、最大限に生きた安全な認証者を与えるときの特徴付けを行う。
• 参考スコア（独自算出の注目度）: 14.616156141761161
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: LLM agents increasingly take privileged, often irreversible structured actions, such as paying an invoice. They assemble each action from action-critical fields in documents and tool outputs that an adversary can corrupt, and indirect prompt injection can drive the model itself to extract attacker-chosen values. Current defenses gate on a source's trust label or certify free-text answer quality. None certifies the integrity of a coupled, policy-bound structured action under a corruption budget that accounts for shared upstream sources. We characterize when such an action is safely certifiable and give the maximally live safe certifier. It admits an action only when each field clears the rule its evidence structure supports: a bounded corruption radius over corruption-distinct evidence classes, counted by a minimum hitting set so that re-publishing or laundered copies cannot manufacture a quorum, deterministic reconciliation for complementary fields, and a trusted anchor where the evidence leaves a field single-sourced. We formalize two robustness notions, validate each mechanism by ablation, and measure how often the multi-source precondition holds on sanctions designations (70,966 entities) and software supply-chain provenance (450 packages). Under upper-bound proxies, genuine corroboration is a minority phenomenon in both, and naive attestation counting overstates it, since witnesses that look independent collapse to two corruption-distinct domains once shared origin is counted. Across five current models in a real agent loop, a realistic injection fools every model but one and a naive agent then executes the fraudulent action on most attacks. The certifier admits no unsafe action and recovers the correct value where corroboration permits, while action-gating and provenance baselines are broken in every world of our harness by some attack in its space.
• Abstract（参考訳）: LLMエージェントは、請求書の支払いなど、特権的かつ、しばしば不可逆的な構造化された行動をとる。 ドキュメントやツールでアクションクリティカルなフィールドから各アクションを組み立て、相手が破損する可能性があることを出力し、間接的なプロンプトインジェクションがモデル自体を駆動してアタッカー・チョーゼンの値を抽出する。 ソースのトラストラベルに現在のディフェンスゲートを配置するか、あるいはフリーテキストの応答品質を認定する。 上流のソースを共有する汚職予算の下で、統合された政策に縛られた構造化された行動の完全性は証明されていない。 このような動作が安全に証明可能であり、かつ、最大限に生きた安全な認証者を与えるときの特徴付けを行う。 各分野が、そのエビデンス構造が支持するルールをクリアしたときのみ、その行動を認める: 汚職を識別するエビデンスクラスに対する有界な汚職半径は、最小のヒットセットによってカウントされ、再出版または洗浄されたコピーがクォーラムを生成できないようにされ、補完的な分野に対する決定論的和解と、エビデンスが単一ソースのフィールドを離れる信頼できるアンカーである。 我々は、2つのロバスト性の概念を定式化し、それぞれのメカニズムをアブレーションで検証し、マルチソースの前提条件が制裁指定(70,966個のエンティティ)とソフトウェアサプライチェーン証明(450個のパッケージ)をどれだけ頻繁に保持しているかを測定する。 上行プロキシの下では、真の確証はどちらも少数派現象であり、かつて共有されていた2つの汚職固有のドメインに独立して崩壊するように見える証人が数えられるため、それを誇張している。 実際のエージェントループ内の5つの現行モデルに対して、現実的なインジェクションはすべてのモデルを騙すが、1つのエージェントと1つの単純エージェントは、ほとんどの攻撃に対して不正なアクションを実行する。 認証者は、安全でない行動を認め、コロンボレーションが許す正しい値を回復するが、アクションゲーティングと証明基準は、その空間における攻撃によって、我々のハーネスのあらゆる世界で破られる。

関連論文リスト

• From Capability to Assurance in Autonomous Penetration-Testing Harnesses: A Framework and Reference Implementation [0.0]
  我々は、保証プロパティはハーネス、ランタイムがモデルをラップし、コードで強制できると主張している。 まず,5つの保証特性(証拠的根拠,非破壊的クレームの低減,計算された重大度,強制的認可,明白な説明責任)の枠組みを定義する。 次に,フレームワーク内の代表システム(PentestGPT,Cochise参照ハーネス,MAPTA,PentestJudge)を公開コーディング基準を用いて配置し,一貫した保証ギャップを同定する。 第三に、あるオープンソース実装であるNeuroSploitを正確にコミットし、そのアーキテクチャ、そのアーキテクチャを報告する。
  論文  参考訳（メタデータ） (2026-09-19T00:37:49Z)
• A Case Study on Emergent Cheating and Whistleblowing in Autonomous Research Swarms [43.001400055258586]
  マルチエージェントAIサイエンスエコシステムは、互いに作業のコミュニケーション、コーディネート、構築を可能にするツールを持つエージェントに依存している。 本稿では,100個の自律LDMエージェントによる公式な数学的推測の証明を事例として報告する。 群れの中では、自発的に浮気が出現し、その後、内部の介入なしに、内部告発者によって挑発された。 我々は,自律群集における分散型自己統治を支援するために,段階的制裁や集団選択規則などの制度的メカニズムを採用することを提案する。
  論文  参考訳（メタデータ） (2026-09-03T17:54:09Z)
• The LLM Proposes, the Executive Disposes: A Self-Verifying Agent Instrument that Dissociates Commitment Drift from Binding Drift in Long-Horizon Agents [0.0]
  本稿では,ポストホックではなく構造的検証を行うためのエージェント機器を提案する。 組織ごとの書き込みエラー、レンダリングサイズ、あるいは塩漬けのカナリアエチョフロアが破られた場合、実行はすべて無効になる。 長期のエージェントが苦しむたびに、クリーンでシングル変数の結果が報告される。
  論文  参考訳（メタデータ） (2026-08-04T15:10:37Z)
• CAGE: Certified Authorization under Typed-Return Uncertainty for Tool-Using Agents [12.471369656645512]
  我々は、妥当な拘束力のあるリターンの宣言された地区で、候補者の行動が承認されるかどうかを問う。 分類チャネルと数値チャネルを別々に認証することは、構成されていないことを証明している。 CAGEは、この共同近所を直接認証し、個別の枝を正確に列挙する。
  論文  参考訳（メタデータ） (2026-07-31T09:11:56Z)
• From Prompts to Contracts: Harness Engineering for Auditable Enterprise LLM Agents [0.24554686192257424]
  製品化は、ソースバウンダリ、エンティティルーティング、回答コントラクト、再現可能なトレースの要件を追加します。 本稿では,このパターンをトレース可能な監査可能なLLMエージェントアーキテクチャに再構成するハーネスエンジニアリング手法を提案する。 韓国の5つの企業グループの公開データスライスでインスタンス化し、3つの研究課題を評価する。
  論文  参考訳（メタデータ） (2026-07-09T01:08:33Z)
• Mnemosyne: Agentic Transaction Processing for Validating and Repairing AI-generated Workflows [0.764671395172401]
  エージェントトランザクション処理は、宣言された実行可能な制約セットCの下で決定論的入力をパスするまで、生成されたアクションを信頼できない提案として扱う。 MnemosyneのATPは、追加のみのトランジションログ、有効状態のプロジェクション、依存性の安全な補償、アクティブなコミットレコードを備えたランタイムである。 再現可能なアーティファクトは、9つのファルシフィケーションテストを対象とする違反を拒絶し、有効な作業は6%以下のオーバーヘッドで認め、局所的な修復は、グローバルな再計算よりも桁違いに少ない操作を編集する。
  論文  参考訳（メタデータ） (2026-06-30T23:33:16Z)
• The End of Trust: How Agentic AI Breaks Security Assumptions [45.13166202592558]
  Infinite Impostorは、自律エージェントが既に信頼している2つの当事者間で相互に介在する攻撃モデルである。 本稿では,アクターの認証から行動評価へセキュリティを移行させる疑似デフォルトでのパラダイムを提案する。
  論文  参考訳（メタデータ） (2026-05-14T21:30:06Z)
• Compiling Activation Steering into Weights via Null-Space Constraints for Stealthy Backdoors [48.881343993730844]
  安全性に整合した大規模言語モデル(LLM)は、現実世界のパイプラインにますますデプロイされている。 敵は通常の評価では動作しないバックドアのチェックポイントを配布することができる。 最近のポストホック重み付け法は、そのようなバックドアを注入するための効率的なアプローチを提供する。
  論文  参考訳（メタデータ） (2026-04-14T06:48:33Z)
• VulAgent: Hypothesis-Validation based Multi-Agent Vulnerability Detection [55.957275374847484]
  VulAgentは仮説検証に基づくマルチエージェント脆弱性検出フレームワークである。 セマンティクスに敏感なマルチビュー検出パイプラインを実装しており、それぞれが特定の分析の観点から一致している。 平均して、VulAgentは全体的な精度を6.6%改善し、脆弱性のある固定されたコードペアの正確な識別率を最大450%向上させ、偽陽性率を約36%削減する。
  論文  参考訳（メタデータ） (2025-09-15T02:25:38Z)
• Towards Copyright Protection for Knowledge Bases of Retrieval-augmented Language Models via Reasoning [58.57194301645823]
  大規模言語モデル(LLM)は、現実のパーソナライズされたアプリケーションにますます統合されている。 RAGで使用される知識基盤の貴重かつしばしばプロプライエタリな性質は、敵による不正使用のリスクをもたらす。 これらの知識基盤を保護するための透かし技術として一般化できる既存の方法は、一般的に毒やバックドア攻撃を含む。 我々は、無害な」知識基盤の著作権保護の名称を提案する。
  論文  参考訳（メタデータ） (2025-02-10T09:15:56Z)
• ADC: Adversarial attacks against object Detection that evade Context consistency checks [55.8459119462263]
  文脈整合性チェックさえも、適切に構築された敵の例に対して脆弱であることを示す。 このような防御を覆す実例を生成するための適応型フレームワークを提案する。 我々の結果は、コンテキストを堅牢にモデル化し、一貫性をチェックする方法はまだ未解決の問題であることを示している。
  論文  参考訳（メタデータ） (2021-10-24T00:25:09Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。