論文の概要: When Agents Talk, Secrets Travel: Topology-Driven Leakage and Recipient-Conditioned Sanitization in Multi-Agent LLM Systems
- arxiv url: http://arxiv.org/abs/2610.16039v1
- Date: Mon, 12 Oct 2026 01:23:51 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-15 21:06:15.286141
- Title: When Agents Talk, Secrets Travel: Topology-Driven Leakage and Recipient-Conditioned Sanitization in Multi-Agent LLM Systems
- Title（参考訳）: エージェントが話すとき, 旅行の秘密: 多エージェントLLMシステムにおけるトポロジ駆動の漏洩と沈殿
- Abstract要約: マルチエージェントLLMシステムは、従来の感度ベースの防御が見逃すプライバシー保護問題を導入している。
これは、許可された開示を保ちながら、許可されていない伝播を阻止するトポロジ対応の実施を動機付けている。
コーディネータ・ワーカー・ピア・ツー・ピア・ピア・トポロジ・階層的トポロジにまたがる485のシナリオを評価した。
- 参考スコア（独自算出の注目度）: 1.385378805340246
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Multi-agent LLM systems (MALS) introduce a privacy-leakage problem that conventional sensitivity-based defenses miss, since information disclosed to one authorized agent can propagate through routine coordination to an unauthorized one, without compromise or malicious behavior. This motivates topology-aware enforcement that blocks unauthorized propagation while preserving authorized disclosure. We evaluate 485 scenarios across coordinator-worker, peer-to-peer, and hierarchical topologies, instrumenting seven communication channels and measuring surface leakage and disclosure to topology-introduced recipients. We introduce RECONS, a Detect -> Decide -> Transform sanitizer conditioning intervention on recipient and execution context rather than sensitivity alone. Topology changes where protected information propagates, with disclosure to topology-introduced recipients rising from 0% to 52.2% while surface leakage stays nearly flat at 60.6-62.8%. This effect persists across four generator models and a second orchestration framework, though magnitude and relay paths differ; framework choice separately drives a 150x leakage spread, so topology alone is not sufficient. RECONS reduces residual disclosure from 96.7% without sanitization to 29.25%, preserving 94.1% of authorized disclosures versus 20.5% under blanket redaction. Detection coverage is the dominant bottleneck, accounting for 95.5% of residual disclosures. These results show that privacy enforcement in MALS must reason about the recipient and communication path realized at runtime, not sensitivity or topology assumptions alone.
- Abstract（参考訳）: マルチエージェントLPMシステム(MALS)は、ある許可されたエージェントに開示された情報が、妥協や悪意のある振る舞いを伴わずに、不正な調整によって伝播しうるため、従来の感度に基づく防御が欠落するプライバシー保護問題を提起する。
これは、許可された開示を保ちながら、許可されていない伝播を阻止するトポロジ対応の実施を動機付けている。
コーディネータ,ピアツーピア,階層的トポロジにまたがる485のシナリオを評価し,7つの通信チャネルを計測し,トポロジ導入した受信者に対する表面リークと開示を測定する。
ReCONS, a Detect -> Decide -> Transform sanitizer conditioning intervention on receive and execution context not only sensitivity。
保護された情報が伝播するトポロジーの変化は、トポロジーを導入した受信者への開示が0%から52.2%に上昇し、表面の漏洩は60.6-62.8%にほぼ平坦である。
この効果は4つのジェネレータモデルと第2のオーケストレーションフレームワークで持続するが、大きさとリレーパスが異なる。
RECONSは、残留開示を消毒せずに96.7%から29.25%に減らし、認定開示の94.1%を保護し、毛布の再作用により20.5%を保護している。
検出範囲は主要なボトルネックであり、残留開示の95.5%を占める。
これらの結果から,MALSにおけるプライバシ強制は,感度やトポロジの仮定だけでなく,実行時に実現した受信者や通信経路を判断しなければならないことが示唆された。
関連論文リスト
- Epistemic Policy Divergence in Multi-Turn LLM Contamination: A Protocol-Gradient Investigation [0.0]
ソースオーソリティ勾配に沿って配置された5つの汚染プロトコルを紹介する。
GPT-5.4 Mini, Gemini-3.1 Flash-Lite, GLM-4.5-Airを温度0で10個の知識領域にわたって評価した。
論文 参考訳（メタデータ） (2026-09-28T14:46:00Z) - Collective Loss of Control in LLM Agent Systems: An Epidemic Account of Mutation, Contagion, and Recovery [5.713807329849712]
本報告では,偶発突然変異,伝染病,回復にまつわる疫病の解明について述べる。
報告されたOpenAIエージェントコーディネートインシデントを動機として,このメカニズムの2つの要素について検討した。
論文 参考訳（メタデータ） (2026-09-16T10:55:13Z) - Modality-Decoupled Federated Learning for Privacy-Preserving Embodied Intelligence in 6G [90.42669277637026]
第6世代(6G)無線ネットワークは、大規模なインボディードインテリジェンスのための重要な基盤を提供すると期待されている。
本稿では、6Gネットワークにおけるプライバシー保護型インテリジェンスのためのモダリティ分離FLフレームワークであるFedMVLAを提案する。
論文 参考訳（メタデータ） (2026-09-09T01:36:44Z) - AI Slop and Hallucinations in Vulnerability Assessment: A Survey on Reasoning Failures and Trustworthy Mitigation [48.55515767840701]
AIスロープ(AI slop)は、アーティファクト、幻覚的脆弱性、可視だが正しくないパッチ、セマンティックに再パッケージされたバグレポートである。
本稿では,実証的証拠を調査し,統一メカニズムを特定し,信頼に値するトリアージへの道筋をたどる。
論文 参考訳（メタデータ） (2026-08-26T11:48:38Z) - The "Curse of Knowledge" in LLM Query Simulation: Concept Provenance for Tracing Answer-Side Intrusion [8.706093337738869]
本稿では,背景支援型,人中心型,人尾型,候補型応答側ゾーンに問合せ概念を割り当てるフレームワークである概念実証を紹介した。
概念証明を100UQV100トピック,8LLM,5プロンプト条件の77,004クエリに適用し,5条件平均以上1.0のクロスパイプトークン-HCIRスピアマンローを求める。
人間の検証は68.2%の精度で緩和され、45.5%の知識侵入と45.0パーセントのデプロイメント侵入という2つのメカニズムが明らかになった。
論文 参考訳（メタデータ） (2026-08-26T00:06:31Z) - When Collaboration Becomes a Trigger: Collective Evidence-Threshold Backdoors in Multi-Agent Systems [57.450132281381066]
ピアエビデンスが単一のメッセージによって決定されるのではなく、隠れたしきい値に達すると、バックドアの動作が起動される。
我々は,MASとBundary-Conditioned Backdoor Injection(BCBI)のための集合的エビデンス-ホールドバックドアパラダイムを導入する。
クリーンな通信力学を学習し,異常なエージェント更新を隔離する,クリーンな唯一の潜時防御であるLATTEを提案する。
論文 参考訳（メタデータ） (2026-08-02T08:38:44Z) - Unpredictable Safety: Domain-Dependent Compliance and the Transparency Gap in Open-Weight LLMs [0.0]
オープンウェイトLLMにおけるドメイン依存型安全挙動について検討する。
コンプライアンス率は14.7%(人身売買)から85.7%(監視設計)に変化している。
その結果、現在の安全メカニズムには、信頼できるAIデプロイメントに必要な透明性と一貫性が欠如していることが示されている。
論文 参考訳（メタデータ） (2026-06-01T22:41:32Z) - From Black Box to Glass Box: Cross-Model ASR Disagreement to Prioto Review in Ambient AI Scribe Documentation [43.148402136307716]
異種ASRシステム間のクロスモデル不一致は、基準のない不確実性信号として機能する。
商用APIとオープンソースエンジンにまたがる8つのASRシステムを備えた,50の公開医療用オーディオクリップを転写した。
低アグリメント領域は内容の不一致に富み、高リスク質量のクインタイル全体では53.9%から73.9%に増加した。
論文 参考訳（メタデータ） (2026-03-02T13:02:13Z) - VulAgent: Hypothesis-Validation based Multi-Agent Vulnerability Detection [55.957275374847484]
VulAgentは仮説検証に基づくマルチエージェント脆弱性検出フレームワークである。
セマンティクスに敏感なマルチビュー検出パイプラインを実装しており、それぞれが特定の分析の観点から一致している。
平均して、VulAgentは全体的な精度を6.6%改善し、脆弱性のある固定されたコードペアの正確な識別率を最大450%向上させ、偽陽性率を約36%削減する。
論文 参考訳（メタデータ） (2025-09-15T02:25:38Z) - Lazy Layers to Make Fine-Tuned Diffusion Models More Traceable [70.77600345240867]
新たな任意の任意配置(AIAO)戦略は、微調整による除去に耐性を持たせる。
拡散モデルの入力/出力空間のバックドアを設計する既存の手法とは異なり,本手法では,サンプルサブパスの特徴空間にバックドアを埋め込む方法を提案する。
MS-COCO,AFHQ,LSUN,CUB-200,DreamBoothの各データセットに関する実証研究により,AIAOの堅牢性が確認された。
論文 参考訳（メタデータ） (2024-05-01T12:03:39Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。