論文の概要: Policy-Backed Selective Regeneration under Tainted Inter-Agent Communication

• arxiv url: http://arxiv.org/abs/2609.26072v1
• Date: Sun, 02 Aug 2026 16:42:53 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-28 05:09:55.856296
• Title: Policy-Backed Selective Regeneration under Tainted Inter-Agent Communication
• Title（参考訳）: 配偶者間コミュニケーションによる政策支援による選択的再生
• Abstract要約: エージェント間のコード生成とリカバリをセキュアにするためのポリシー支援フレームワークであるESC-CR(Executable Semantic Commitments with Clean-Room Recovery)を導入する。 ESC-CRは、メッセージクレームを認証から分離し、信頼されたタスク、エビデンス、ポリシーから実行可能なコミットメントを構築し、それらを外部リリースバウンダリに強制する。 ESC-CRは、複数のモデルファミリと通信トポロジ、直接、難読化、検証対象のペイロードにまたがるアダプティブアタックなど、通信内容および標準コード生成ベンチマークにまたがって評価される。
• 参考スコア（独自算出の注目度）: 6.029029648872896
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Inter-agent communication is essential to multi-agent language-model systems, yet a single message may combine task-critical information with instructions not authorized by the original request. Prompt-based defenses leave enforcement to models exposed to adversarial messages, while indiscriminate message removal discards useful information. We introduce Executable Semantic Commitments with Clean-Room Recovery (ESC-CR), a policy-backed framework for secure inter-agent code generation and recovery. It separates message claims from authorization, constructs executable commitments from trusted tasks, evidence, and policy, and enforces them at an external release boundary. Upon a violation, ESC-CR taints the responsible message and rejected artifact, reconstructs a clean context from evidence-backed task information, and regenerates under the same policy. We evaluate ESC-CR across communication-essential and standard code-generation benchmarks, multiple model families and communication topologies, and adaptive attacks spanning direct, obfuscated, and verifier-aware payloads. Results show that polluted-context retry frequently fails to remove unauthorized influence, while complete message removal can discard information required by communication-essential tasks. ESC-CR preserves evidence-backed claims while suppressing unauthorized releases under matched computational budgets, and the same design transfers to end-to-end agent trajectories.
• Abstract（参考訳）: エージェント間通信はマルチエージェント言語モデルシステムには不可欠であるが、単一メッセージはタスククリティカルな情報と元の要求で承認されていない命令を組み合わせうる。 プロンプトベースの防御は、敵のメッセージに暴露されたモデルに強制を委ねる一方で、メッセージ削除の非差別は有用な情報を捨てる。 エージェント間のコード生成とリカバリをセキュアにするためのポリシー支援フレームワークであるESC-CR(Executable Semantic Commitments with Clean-Room Recovery)を導入する。 メッセージのクレームを承認から分離し、信頼されたタスク、エビデンス、ポリシーから実行可能なコミットメントを構築し、それらを外部のリリースバウンダリに強制する。 違反すると、ESC-CRは、責任あるメッセージと拒否されたアーティファクトを汚染し、証拠に支えられたタスク情報からクリーンなコンテキストを再構築し、同じポリシーの下で再生する。 ESC-CRは,複数のモデルファミリと通信トポロジ,直接,難読化,検証対象を対象とするアダプティブアタックなど,通信内容および標準コード生成ベンチマークにまたがって評価される。 その結果、汚染されたコンテキストの再試行は不正な影響を取り除くのにしばしば失敗し、一方、完全なメッセージ削除は、コミュニケーションに必要となる情報を捨てる可能性があることがわかった。 ESC-CRは、一致した計算予算の下での不正なリリースを抑えつつ、証拠に裏付けられたクレームを保存し、同じ設計をエンドツーエンドのエージェント・トラジェクトリに転送する。

関連論文リスト

• Automatic Red Teaming for Implicit Vulnerabilities of Text-to-Image Models [58.59008920408855]
  本稿では,ターゲットモデルのパラメータへのアクセスを必要とせずに,暗黙の脆弱性を明らかにするためのAdvPIE(Adversarial Probing for Implicit VulnErabilities)を提案する。 AdvPIEは、審査員からのフィードバックに基づいて暗黙の敵のプロンプトを生成し、洗練するためのポリシーエージェントを採用する。 標準および安全性に適合したT2Iモデルの実験では、AdvPIE1が暗黙の脆弱性を効果的に発見している。
  論文  参考訳（メタデータ） (2026-09-05T13:45:09Z)
• A Black Box for Agentic Processes: Blockchain-Anchored Evidence for AI Agent Communication, Human Oversight, and GRC Audits [0.0]
  2026年のOpenAI/Hugging Faceインシデントに触発されたこのポジションとアーキテクチャ論文は、エージェントプロセスのための製品とベンダー中立のブラックボックスアーキテクチャを提案する。 アーキテクチャは、選択されたエージェント通信、ヒューマン・イン・ザ・ループの承認、ツールコール、およびプロセスアーティファクトに対して、機密性の高いコンテンツをチェーン上に配置することなく、ブロックチェーンで暗号化されたコミットメントを生成する。
  論文  参考訳（メタデータ） (2026-09-03T15:55:39Z)
• Alignment of LRMs via Counter-Aligned Few-Shot Conversation Exposure [6.274341206110432]
  大きな推論モデル(LRM)は、複雑なタスクにおいて強力なパフォーマンスを達成するために、明示的なチェーン・オブ・シンク(CoT)推論と大きなコンテキストウィンドウに依存している。 LRMの推論プロセスは、対向的な数発の会話を事前に予測することで、体系的に制御可能であることを示す。 我々は、この攻撃をSRCF(Steering Reasoning via Counter-Aligned Few-shot Conversations)として形式化し、フレキシブルな会話インタフェースでのみ動作する。
  論文  参考訳（メタデータ） (2026-08-16T22:17:58Z)
• Combating Knowledge Corruption in Agent Systems: A Byzantine-Tolerant Secure Collaborative RAG Framework [61.79960727298522]
  ビザンチン耐性協調RAGフレームワークSecureCollaRAGを提案する。 提案手法により,エージェントシステムは動的GNNによる信頼性スコアリングにより,文書の証明を確実に行うことができる。 本研究では,SecureCollaRAGが非IIDデータ配信における攻撃者に対する堅牢性を維持していることを示す。
  論文  参考訳（メタデータ） (2026-08-05T02:13:37Z)
• MNC: Scope-Bound Semantic Declassification for Private LLM-Agent Communication [6.029029648872896]
  マルチエージェント大言語モデル(LLM)システムは、内部メッセージ、ツール引数、ログ、永続メモリを通じて保護された状態を公開できる。 本稿では,MNC(Minimum-Necessary Communication)について紹介する。これは,タスクに十分な情報開示を明示的な受信者,目的,転送,ライフタイム,ロギング,メモリスコープにバインドする,型付きセマンティック非分類プロトコルである。 制御されたセマンティックジョイント、メモリ、探索、縦断的な実験により、従来のディフェンスはプロトコルレベルのユーティリティを保持しつつ、相当量の推論信号を公開することができる。
  論文  参考訳（メタデータ） (2026-08-03T05:36:49Z)
• When Collaboration Becomes a Trigger: Collective Evidence-Threshold Backdoors in Multi-Agent Systems [57.450132281381066]
  ピアエビデンスが単一のメッセージによって決定されるのではなく、隠れたしきい値に達すると、バックドアの動作が起動される。 我々は,MASとBundary-Conditioned Backdoor Injection(BCBI)のための集合的エビデンス-ホールドバックドアパラダイムを導入する。 クリーンな通信力学を学習し,異常なエージェント更新を隔離する,クリーンな唯一の潜時防御であるLATTEを提案する。
  論文  参考訳（メタデータ） (2026-08-02T08:38:44Z)
• LCGuard: Latent Communication Guard for Safe KV Sharing in Multi-Agent Systems [23.069920143607153]
  大規模言語モデル(LLM)ベースのマルチエージェントシステムは、複雑なタスクをコーディネートするための中間的通信に依存している。 最近の研究は、特にトランスフォーマーキー値(KV)キャッシュによる遅延通信が効率を改善し、よりリッチなタスク関連情報を保存できることを示している。 マルチエージェントLLMシステムにおける安全なKVベースの潜在通信のためのフレームワークである textbfLCGuard を紹介する。
  論文  参考訳（メタデータ） (2026-05-21T17:42:12Z)
• Secure Semantic Communication via Paired Adversarial Residual Networks [59.468221305630784]
  本稿では,セキュリティを意識したセマンティック通信システムに対する敵攻撃の正の側面について検討する。 セマンティックトランスミッターの後に、セマンティックレシーバーの前に、一対のプラグイン可能なモジュールがインストールされる。 提案手法は,高品質なセマンティック通信を維持しつつ,盗聴者を騙すことができる。
  論文  参考訳（メタデータ） (2024-07-02T08:32:20Z)
• Generative AI-aided Joint Training-free Secure Semantic Communications via Multi-modal Prompts [89.04751776308656]
  本稿では,多モデルプロンプトを用いたGAI支援型SemComシステムを提案する。 セキュリティ上の懸念に応えて、フレンドリーなジャマーによって支援される隠蔽通信の応用を紹介する。
  論文  参考訳（メタデータ） (2023-09-05T23:24:56Z)
• Certifiably Robust Policy Learning against Adversarial Communication in Multi-agent Systems [51.6210785955659]
  多くのマルチエージェント強化学習(MARL)では,エージェントが情報を共有し,適切な判断を下す上でコミュニケーションが重要である。 しかし、ノイズや潜在的な攻撃者が存在する現実世界のアプリケーションに訓練された通信エージェントを配置すると、通信ベースのポリシーの安全性は過小評価されている深刻な問題となる。 本研究では,攻撃者が任意の$CfracN-12$エージェントから被害者エージェントへの通信を任意に変更できる,$N$エージェントを備えた環境を検討する。
  論文  参考訳（メタデータ） (2022-06-21T07:32:18Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。