論文の概要: Illusion: Safeguarding Topology Confidentiality in LLM Multi-Agent Systems via Behavior-Preserving Obfuscation

• arxiv url: http://arxiv.org/abs/2611.00923v1
• Date: Sat, 31 Oct 2026 13:23:42 GMT
• ステータス: 情報取得中
• システム内更新日: 2026-11-03 19:12:19.785563
• Title: Illusion: Safeguarding Topology Confidentiality in LLM Multi-Agent Systems via Behavior-Preserving Obfuscation
• Title（参考訳）: 錯覚:行動保存難読化によるLLMマルチエージェントシステムのトポロジ的信頼性の保護
• Abstract要約: LLM-MAS(Large Language Model Multi-Agent Systems)の通信トポロジは,エージェント間の情報伝達を制御している。 LLM-MASに対するプロアクティブなトポロジ難読化防御であるtextitIllusionを提案する。 textitIllusionは偽のエッジと偽のメッセージを偽のトポロジーで攻撃者に注入する。
• 参考スコア（独自算出の注目度）: 51.730352690706816
• License:
• Abstract: The communication topology of Large Language Model Multi-Agent Systems (LLM-MASs) governs how information propagates among agents and encodes critical domain knowledge and expert workflow design. It is valuable intellectual property and plays a decisive role in system utility and safety, yet remains vulnerable to inference attacks that stealthily reconstruct it from agent outputs. Existing defenses detect or mitigate such attacks but do not proactively conceal the topology itself. We propose \textit{Illusion}, a proactive topology obfuscation defense for LLM-MAS. \textit{Illusion} injects fake edges and fake messages to present attackers with a deceptive topology, while selecting low-impact candidates that preserve output-distribution equivalence and task-accuracy non-inferiority. The resulting fake edges are designed to be indistinguishable from genuine messages under black-box observation. Extensive experiments show that \textit{Illusion} reduces edge-level F1 from over 0.87 to 0.62 and graph similarity from over 0.94 to 0.71. It also largely preserves output distributions and task performance, and its fake edges resist both similarity-based and LLM-judge filtering, even under adaptive pruning.
• Abstract（参考訳）: LLM-MAS(Large Language Model Multi-Agent Systems)の通信トポロジは、エージェント間の情報伝達を制御し、重要なドメイン知識とエキスパートワークフロー設計を符号化する。 それは貴重な知的財産であり、システムの実用性と安全性において決定的な役割を果たすが、エージェントの出力から密かにそれを再構築する推論攻撃に弱いままである。 既存の防御はそのような攻撃を検知または緩和するが、トポロジー自体を積極的に隠さない。 LLM-MASに対するプロアクティブなトポロジ難読化防御である「textit{Illusion}」を提案する。 \textit{Illusion} は偽のエッジと偽のメッセージを偽のトポロジーでアタッカーに注入する。 結果として生じる偽のエッジは、ブラックボックス観察中の本物のメッセージと区別できないように設計されている。 大規模な実験により、 \textit{Illusion} はエッジレベル F1 を 0.87 以上から 0.62 まで減少させ、グラフの類似性を 0.94 以上から 0.71 まで減少させることが示された。 また、出力分布とタスク性能を保ち、そのフェイクエッジはアダプティブプルーニングでも類似性ベースとLLM-judgeフィルタの両方に抵抗する。

関連論文リスト

• Concealing LLM-Based Multi-Agent Topology via Phantom Structure Injection [16.46873802464745]
  マルチエージェントシステム(MAS)の鍵となる設計要素は、エージェント間の情報フローを管理する通信トポロジーである。 近年の研究では、ブラックボックスの設定でもそのようなトポロジを推測できることが示されており、知的財産の漏洩やシステムの脆弱性の暴露の重大なリスクが指摘されている。 本稿では,タスク実行のための真のコミュニケーショントポロジを,対向するセマンティックエビデンスを形作りながら保持するトポロジ・コンセンサメント・フレームワークであるMIRAGEを提案する。
  論文  参考訳（メタデータ） (2026-09-29T13:35:55Z)
• From Sharp Eyes to Expert Mind: Internalizing Expert Knowledge in MLLMs for Tampered Text Detection [62.709778159272474]
  Expert Knowledge Internalization (EKI)は、法医学の専門知識をMLLM(Multimodal Large Language Models)に伝達する2段階のフレームワークである。 EKIは、既存のエキスパートモデルベースやMLLMベースの手法よりも最先端の性能と強力な一般化を実現している。
  論文  参考訳（メタデータ） (2026-09-28T19:20:22Z)
• Dive into Ambiguity: A*-Inspired Multi-Agents Commonsense Obfuscation Attack on LLM Prompts [14.233668486426795]
  大規模言語モデル(LLM)は推論や知識集約的なタスクに優れるが、迅速なレベルの敵攻撃には弱いままである。 意味的に整合しているが難解なプロンプトを生成するためのフレームワークである,A* にインスパイアされた Factual Error Injection Framework を提案する。 我々は、即時書き直しが契約の繰り返しに続くことを証明し、$$が減少するにつれて意味的な崩壊につながることを証明した。
  論文  参考訳（メタデータ） (2026-05-31T20:20:53Z)
• ProjLens: Unveiling the Role of Projectors in Multimodal Model Safety [54.4092272526747]
  MLLM(Multimodal Large Language Models)は、クロスモーダルな理解と生成において大きな成功を収めていますが、そのデプロイは重大な安全性の脆弱性によって脅かされています。 本稿では,MLLMのバックドアを復号化するための解釈可能性フレームワークであるProjLensを提案する。
  論文  参考訳（メタデータ） (2026-04-21T04:52:38Z)
• WebWeaver: Breaking Topology Confidentiality in LLM Multi-Agent Systems with Stealthy Context-Based Inference [16.388024157151484]
  通信トポロジはマルチエージェントシステム(LLM-MAS)の実用性と安全性において重要な要素である 我々は、管理エージェントの代わりに単一の任意のエージェントのみを妥協することにより、完全なLLM-MASトポロジを推論する攻撃フレームワークである textitWebWeaver を提案する。 WebWeaverは、最先端(SOTA)ベースラインを大幅に上回り、無視可能なオーバーヘッドを持つアクティブディフェンスの下で約60%高い推論精度を達成する。
  論文  参考訳（メタデータ） (2026-03-11T16:04:25Z)
• Stop Tracking Me! Proactive Defense Against Attribute Inference Attack in LLMs [61.15237978606501]
  大規模言語モデルは、ユーザ生成テキストからプライベートなユーザー属性を推測することができる。 既存の匿名化ベースの防御は粗く、プライバシーを優先する要素を匿名化する際に単語レベルの精度が欠如している。 細粒度匿名化(TRACE)と推論防止最適化(RPS)を組み合わせた統合防衛フレームワークを提案する。
  論文  参考訳（メタデータ） (2026-02-12T03:37:50Z)
• NeuroFilter: Privacy Guardrails for Conversational LLM Agents [50.75206727081996]
  本研究は,エージェント型大規模言語モデル(LLM)のプライバシを強制する際の計算上の課題に対処する。 NeuroFilterは、標準違反をモデルのアクティベーション空間における単純な方向にマッピングすることで、コンテキスト整合性を運用するガードレールフレームワークである。 7Bから70Bパラメータのモデルをカバーする15万以上のインタラクションに対する包括的な評価は、NeuroFilterの強力なパフォーマンスを示している。
  論文  参考訳（メタデータ） (2026-01-21T05:16:50Z)
• Debate-Driven Multi-Agent LLMs for Phishing Email Detection [0.0]
  エージェント間の偽りの議論をシミュレートしてフィッシングメールを検出する多エージェント大規模言語モデル(LLM)を提案する。 提案手法では,2つの LLM エージェントを用いて,最終判断を代弁する判断エージェントを用いて,分類課題の論拠を提示する。 結果は、議論の構造自体が、余分なプロンプト戦略を伴わずに正確な決定を下すのに十分であることを示している。
  論文  参考訳（メタデータ） (2025-03-27T23:18:14Z)
• EXPLICATE: Enhancing Phishing Detection through Explainable AI and LLM-Powered Interpretability [44.2907457629342]
  EXPLICATEは、三成分アーキテクチャによるフィッシング検出を強化するフレームワークである。 既存のディープラーニング技術と同等ですが、説明性が向上しています。 自動AIとフィッシング検出システムにおけるユーザ信頼の重大な隔たりに対処する。
  論文  参考訳（メタデータ） (2025-03-22T23:37:35Z)
• Token-Level Adversarial Prompt Detection Based on Perplexity Measures and Contextual Information [67.78183175605761]
  大規模言語モデルは、敵の迅速な攻撃に影響を受けやすい。 この脆弱性は、LLMの堅牢性と信頼性に関する重要な懸念を浮き彫りにしている。 トークンレベルで敵のプロンプトを検出するための新しい手法を提案する。
  論文  参考訳（メタデータ） (2023-11-20T03:17:21Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。