論文の概要: Who Speaks, Who Authorizes, Who Acts? Understanding Trust Boundaries in Multi-Agent LLMs

• arxiv url: http://arxiv.org/abs/2610.24298v1
• Date: Fri, 16 Oct 2026 22:49:41 GMT
• ステータス: 情報取得中
• システム内更新日: 2026-10-20 11:41:08.811076
• Title: Who Speaks, Who Authorizes, Who Acts? Understanding Trust Boundaries in Multi-Agent LLMs
• Title（参考訳）: マルチエージェントLLMにおける信頼境界の理解
• Abstract要約: 我々は、ポリシーに反する虚偽の証明を構築できる、最小の独立に妥協された署名者連合を特徴づける。 4つのモデルにまたがる固定メッセージルーティングのコントラストは、規定された大きな効果基準に合致しない。 提示されたソース・アイデンティティ・キューは、3つのモデルにわたる保護・アクションの選択を均一に増やさない。 個別の単一モデル認証チェックは、ポリシー無効な妥協署名証明を持つ偽のクレームがゲートを通過可能であることを示す。
• 参考スコア（独自算出の注目度）: 9.778071238570796
• License:
• Abstract: Multi-agent LLM systems exchange messages before acting through tools, but message delivery, signing authority, and tool-side enforcement are separate trust boundaries. We represent them as communication, authorization, and execution structures, and use the authority cut to characterize the smallest independently compromised signer coalition that can construct a policy-valid false-claim proof under stated assumptions. Controlled paired hidden-state studies reveal four distinctions. First, no fixed-message routing contrast across four models meets the prespecified large-effect criterion; when relays rewrite messages, executed false-state action rates vary by model and route configuration. Second, presented source-identity cues do not uniformly increase protected-action selection across three models. Third, on invalid-proof cases, Nemotron and Llama request protected actions in 52.1% and 54.2% of trials, respectively, yet a deterministic tool gate commits none: request-level and commitment-level safety readouts diverge. Finally, a separate single-model authorization check shows that a false claim with a policy-valid compromised-signer proof can pass the gate, since proof validity is not factual truth. These findings motivate evaluating delivered information, qualified authorization, model proposals, and committed actions separately.
• Abstract（参考訳）: マルチエージェントのLLMシステムは、ツールを通す前にメッセージ交換を行うが、メッセージ配信、署名権限、ツール側の執行は異なる信頼境界である。 我々は、これらをコミュニケーション、認可、実行構造として表現し、決定された前提の下で、ポリシーに反する偽造証明を構築できる、最小の独立に妥協した署名者連合を特徴付けるために、権限をカットした。 制御されたペア型隠れ状態の研究では、4つの区別が示されている。 まず、4つのモデルにまたがる固定メッセージルーティングのコントラストは、事前に規定された大きな効果基準を満たしていない。 第二に、提示されたソース・アイデンティティ・キューは、3つのモデル間の保護・アクション選択を均一に増加しない。 第3に、無効なケースでは、ネモトロンとラマがそれぞれ52.1%と54.2%のトライアルのアクションを保護したが、決定論的ツールゲートは、要求レベルとコミットメントレベルのセーフティ・リードアウトがばらばらになる。 最後に、個別の単一モデル認証チェックは、証明の正当性は事実的真実ではないため、ポリシー正当性の妥協されたシグナー証明を持つ偽のクレームがゲートを通過可能であることを示す。 これらの知見は、提供された情報、適格な認可、モデル提案、コミットされた行為を別々に評価する動機となっている。

関連論文リスト

• Identity-Bound Governance Under Execution Uncertainty: An Accountability Proof Block for LLM Agent Persistent Halts, with Cryptographic Implementation and Cross-Model Calibration [0.4929694290403903]
  正しく管理されたLDMエージェントは、継続実行も自動停止も許容されない状態に達することができる。 これをアイデンティティバウンドのガバナンスイベントと呼び、それを解決するメカニズムを形式化します。
  論文  参考訳（メタデータ） (2026-09-30T22:22:33Z)
• Confuse the Model, Control the Flow: Understanding and Mitigating Privacy Leakage from LLM Agents with Information Flow Control [33.97165894442089]
  パーソナルAIエージェントは、ユーザのプライベートデータと通信へのアクセスがますます与えられている。 エージェントは、与えられた機密情報が特定の当事者に開示されるべきかどうかを判断しなければならない。 FLOWSEALは、エージェントのコンテキスト外のツールレベルのインターセプターを通じて機密性を強制する防衛システムである。
  論文  参考訳（メタデータ） (2026-09-12T15:31:37Z)
• The Shape of Ownership: Verifying LLM Provenance through Semantic Structures [38.16125764360159]
  ProSEを導入し、固定されたクエリセットをターゲットのセマンティックドメインに置き換え、応答キーをドメイン条件の応答として意味構造に置き換える。 PROSEは、ドメイン固有のセマンティックテンプレートのプライベートバンクを構築し、構造的検証とクリーン応答の混合微調整によってそれらを内部化し、保持された自然クエリに対する応答で指定された構造を検出してオーナシップを検証する。
  論文  参考訳（メタデータ） (2026-09-02T13:04:51Z)
• Zero-Knowledge Predicate Proofs Between AI Agents: A Measured, Cross-Protocol Gateway and the Source-Integrity Gap [0.0]
  マルチエージェントAIプラットフォームは、ステージングからプロダクションへ素早く移行するが、エージェントが信頼を確立する方法はまだ初歩的だ。 提案から実行システムまで,エージェント間での検証可能なデータ最小化を行う。 32ビットのしきい値述語は6.2msで証明され、608バイトのBulletproofs証明で1.0msで検証される。
  論文  参考訳（メタデータ） (2026-08-30T23:16:17Z)
• AgentProv: Auditing Agentic LLM API Providers via Tool-use Policy Probes [38.37599802008238]
  商用LLM APIは特定の基盤モデルを宣伝するが、提供されたバックボーンは静かに代用され、定量化され、あるいはラップされることがある。 既存の監査はすべて、テキスト出力チャネルからバックボーンアイデンティティを決定する。 本稿では,AgentProv(AgentProv)について紹介する。
  論文  参考訳（メタデータ） (2026-08-30T08:22:12Z)
• Recognition Without Enforcement: Configuration-Dependent Failures in LLM Agent Instruction Arbitration and External Control [0.0]
  LLMエージェントはシステムプロンプト、ユーザ、メモリ、ツールから命令を仲裁するが、この仲裁は信頼境界を強制するものではない。 ソースフォーマット機能はモデルアクティベーションから線形にデオード可能であり、モデルがトリガーされたときの偽の権威を明示的に識別することができる。 モデル自己配置をセキュリティ境界ではなく機能として扱い、認証されたソースルーティングと機能限定ツールの実行を組み合わせた外部参照モニタを実装します。
  論文  参考訳（メタデータ） (2026-08-28T16:34:05Z)
• Auditing Provenance Sensitivity in LLM Agent Action Selection [0.0]
  LLMエージェントは、ユーザリクエスト、ツール出力、検索されたレコード、メモリ、信頼できないテキストを混ぜたコンテキストからツールと引数を選択する。 本稿では,各ツールと引数ターゲットに対して,コンテキスト要素を別々にラベル付けするターゲット固有の認証監査を導入する。 次に、有効な証拠が弱まった場合の挙動を検証し、二次的な局所化診断としてコンテキスト-サブセット相互作用を用いる。
  論文  参考訳（メタデータ） (2026-07-23T01:28:18Z)
• DeepSciVerify: Verifying Scientific Claim--Citation Alignment via LLM-Driven Evidence Escalation [39.146761527401424]
  本稿では,科学的クレーム引用検証のための2段階パイプラインであるDeepSciVerifyを紹介する。 このシステムはまず, 要約を用いてクレームを検証し, 必要な場合にのみ全文を検索, 解析する。
  論文  参考訳（メタデータ） (2026-05-26T21:33:29Z)
• AgentSecBench: Measuring Prompt Injection, Privacy Leakage, and Tool-Use Integrity in LLM Agents [0.2864713389096699]
  本稿では,AgentSecBenchを,この問題に対する正式なセキュリティフレームワークの実証的なインスタンス化として紹介する。 3つのゲーム・インストラクション・インテリジェンス・インテリジェンス・インテリジェンス・インテリジェンス・インテリジェンス・インテリジェンス・インテリジェンス・インテリジェンス(英語版)・インテリジェンス・インテリジェンス・インテリジェンス・インテリジェンス・インテリジェンス(英語版)・インテリジェンス・インテリジェンス・インテリジェンス・インテリジェンス・インテリジェンス・インテリジェンス・インテリジェンス(英語版)を定めている。 これは、承認された観察と能力に対するプロジェクションとしてのアプリケーションポリシーを表し、プロジェクションの即時アノテーションとプロジェクションの強化を区別し、敵のアドバンテージと、防衛が生成前に関連するモデル可視チャネルを閉鎖するかどうかを計測する。
  論文  参考訳（メタデータ） (2026-05-25T18:53:22Z)
• TRUST: A Framework for Decentralized AI Service v.0.1 [47.384270414446604]
  大規模推論モデル (LRM) とマルチエージェントシステム (MAS) は, 信頼性の高い検証を必要とする。 TRUST(Transparent, Robust, and Unified Services for Trustworthy AI)は,3つのイノベーションを備えた分散フレームワークである。 我々は、悪質な俳優が損失を被っている間、正直な監査人の利益を確実に確保する安全利益理論を証明する。
  論文  参考訳（メタデータ） (2026-04-29T19:32:58Z)
• SWAP: Towards Copyright Auditing of Soft Prompts via Sequential Watermarking [58.475471437150674]
  ソフトプロンプト(SWAP)のための逐次透かしを提案する。 SWAPは、特定のディフェンダー指定のアウト・オブ・ディストリビューション・クラスを通じて、透かしを符号化する。 11のデータセットの実験では、SWAPの有効性、無害性、および潜在的適応攻撃に対する堅牢性を示す。
  論文  参考訳（メタデータ） (2025-11-05T13:48:48Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。