論文の概要: AgentGuard: A Multi-Agent Framework for Robust Package Confusion Detection via Hybrid Search and Metadata-Content Fusion
- arxiv url: http://arxiv.org/abs/2604.16309v1
- Date: Thu, 29 Jan 2026 08:03:20 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-11 07:22:47.158267
- Title: AgentGuard: A Multi-Agent Framework for Robust Package Confusion Detection via Hybrid Search and Metadata-Content Fusion
- Title（参考訳）: AgentGuard: ハイブリッド検索とメタデータ-コンテンツ融合によるロバストパッケージ融合検出のためのマルチエージェントフレームワーク
- Abstract要約: 我々は,パッケージ混乱検出のための新しいマルチエージェントベースのフレームワークであるAgentGuardを紹介する。
最初に、ハイブリッド類似性探索を用いた微調整単語埋め込みモデルを用いて、潜在的な混乱ターゲットを発見する。
そして,(1)多次元メタデータ群と(2)新しいパッケージコンテンツ分析群とを一意に組み合わせた,融合機械学習モデルによるリスク評価を行う。
- 参考スコア（独自算出の注目度）: 35.8018563746284
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: The proliferation of open-source software (OSS) has made software supply chains prime targets for attacks like Package Confusion, where adversaries publish malicious packages with names deceptively similar to legitimate ones. To protect against such attacks and safeguard the use of OSS, multiple confusion detection methods have been proposed. However, existing methods are limited to single-signal retrieval strategies (relying solely on lexical or semantic metrics), struggle with high false positive rates (FPR), and are vulnerable to adversarial evasion. Critically, as content-agnostic approaches, they fundamentally fail to distinguish benign packages with high naming similarity from malicious, code-dissimilar impersonations, leading to persistent high FPR. To address these limitations, we introduce AgentGuard, a novel multi-agents based framework for package confusion detection. Specifically, it first discovers potential confusion targets using fine-tuned word embedding models with hybrid similarity search. After that, It subsequently evaluates risk via a fused machine learning model that uniquely combines: (1) a multi-dimensional metadata group and (2) a novel package content analysis group, to reduce the FPR and mitigate the impact of adversarial evasion. To assess the effectiveness of AgentGuard, we evaluate it on challenging ConfuDB and NeupaneDB datasets. Our results demonstrate that AgentGuard significantly outperforms state-of-the-art baselines, ConfuGuard and Typomind, improving precision by 12\%-49\% while simultaneously reducing the FPR by 11\%-35\%, and effectively discovers the confused package.
- Abstract（参考訳）: オープンソースソフトウェア(OSS)の普及により、ソフトウェアサプライチェーンは、パッケージ・コンフュージョン(Package Confusion)のような攻撃の標的となっている。
このような攻撃から保護し、OSSの使用を保護するために、複数の混乱検出方法が提案されている。
しかし,既存の手法は単一信号検索戦略(語彙的・意味的指標のみに限る)に限られており,高い偽陽性率(FPR)に苦慮し,敵の回避に弱い。
批判的に、コンテンツに依存しないアプローチとして、それらは基本的に、悪意のあるコードの異なる偽造と高い命名の類似性を持つ良性パッケージを区別することができず、永続的な高いFPRをもたらす。
このような制約に対処するために,パッケージの混乱検出のための新しいマルチエージェントベースのフレームワークであるAgentGuardを紹介する。
具体的には、ハイブリッド類似性探索を用いた微調整単語埋め込みモデルを用いて、潜在的な混乱対象を初めて発見する。
その後,1)多次元メタデータ群と(2)新しいパッケージコンテンツ分析群とを一意に組み合わせた融合機械学習モデルを用いてリスク評価を行い,FPRを低減し,対人回避の影響を軽減する。
AgentGuardの有効性を評価するため、ConfuDBとNeupaneDBのデータセットに挑戦して評価を行った。
以上の結果から,AgentGuardは最先端のベースラインであるConfuGuardとTypomindを大きく上回り,FPRを11倍から35倍に減らしながら精度を12倍から49倍に向上し,混乱したパッケージを効果的に発見できることがわかった。
関連論文リスト
- Automatic Red Teaming for Implicit Vulnerabilities of Text-to-Image Models [58.59008920408855]
本稿では,ターゲットモデルのパラメータへのアクセスを必要とせずに,暗黙の脆弱性を明らかにするためのAdvPIE(Adversarial Probing for Implicit VulnErabilities)を提案する。
AdvPIEは、審査員からのフィードバックに基づいて暗黙の敵のプロンプトを生成し、洗練するためのポリシーエージェントを採用する。
標準および安全性に適合したT2Iモデルの実験では、AdvPIE1が暗黙の脆弱性を効果的に発見している。
論文 参考訳（メタデータ） (2026-09-05T13:45:09Z) - Detecting and Mitigating Backdoor Attacks in OTA-FL Systems: A Two-Stage Robust Aggregation Scheme [27.75838619796163]
オーバー・ザ・エア・フェデレーション・ラーニング (OTA-FL) は無線チャネルの重ね合わせ特性を利用して通信効率を向上させる。
パラメータサーバは個々のローカル更新にアクセスできない。
OTA-FLにおけるバックドア攻撃に対する防御のための2段階のロバストアグリゲーションフレームワークを提案する。
論文 参考訳（メタデータ） (2026-05-19T01:57:31Z) - TopoGuard: Graph Theory Based Defenses Against Split-Knowledge Attacks on RAG [5.328366903719861]
Production Retrieval Augmented Generation (RAG) システムは複雑なクエリに応答するために外部文書の集約に依存している。
検索されたドキュメントには新たな脅威サーフェスが導入され,スプリット・ナレッジ・アタックの起動に利用することができる。
本稿は、LlamaGuardのような既存のドキュメント単位のフィルタでは、新しい攻撃は構造的に見えないことを示す。
RAGでこの問題に対処するために、この研究はTopoGuardを導入している。
論文 参考訳（メタデータ） (2026-05-11T17:46:02Z) - PlanGuard: Defending Agents against Indirect Prompt Injection via Planning-based Consistency Verification [1.7904458681854372]
PlanGuardは、コンテキスト分離の原則に基づいた、トレーニング不要の防御フレームワークである。
PlanGuardは攻撃を効果的に中和し、アタック成功率(ASR)を72.8%から0%に下げる。
論文 参考訳（メタデータ） (2026-04-11T09:59:46Z) - AI Evasion and Impersonation Attacks on Facial Re-Identification with Activation Map Explanations [13.564481603680838]
本稿では,回避攻撃と偽装攻撃の両方が可能な敵パッチを生成するための新しい枠組みを提案する。
我々は,条件付きエンコーダ・デコーダネットワークを用いて,ソース画像とターゲット画像からのマルチスケール特徴を導出して,逆パッチを1つのフォワードパスで合成する。
我々のフレームワークはCelebA-HQで27%の成功率を獲得し、他のパッチベースの手法と競合する。
論文 参考訳（メタデータ） (2026-03-16T15:12:41Z) - Topology Matters: Measuring Memory Leakage in Multi-Agent LLMs [26.288357188171265]
MAMA(Multi-Agent Memory Attack)は、ネットワーク構造がどのように漏洩を形作るかを測定するフレームワークである。
我々は,攻撃剤出力から回収した地絡PIIの割合として漏洩を定量化する。
結果は、アーキテクチャ上の選択から測定可能なプライバシリスクへの最初の体系的なマッピングを提供する。
論文 参考訳（メタデータ） (2025-12-04T11:00:49Z) - The Trojan Knowledge: Bypassing Commercial LLM Guardrails via Harmless Prompt Weaving and Adaptive Tree Search [58.8834056209347]
大規模言語モデル(LLM)は、有害な出力を誘導するために安全ガードレールをバイパスするジェイルブレイク攻撃に弱いままである。
CKA-Agent(Correlated Knowledge Attack Agent)は、ターゲットモデルの知識基盤の適応的木構造探索としてジェイルブレイクを再構成する動的フレームワークである。
論文 参考訳（メタデータ） (2025-12-01T07:05:23Z) - VulAgent: Hypothesis-Validation based Multi-Agent Vulnerability Detection [55.957275374847484]
VulAgentは仮説検証に基づくマルチエージェント脆弱性検出フレームワークである。
セマンティクスに敏感なマルチビュー検出パイプラインを実装しており、それぞれが特定の分析の観点から一致している。
平均して、VulAgentは全体的な精度を6.6%改善し、脆弱性のある固定されたコードペアの正確な識別率を最大450%向上させ、偽陽性率を約36%削減する。
論文 参考訳（メタデータ） (2025-09-15T02:25:38Z) - BlindGuard: Safeguarding LLM-based Multi-Agent Systems under Unknown Attacks [58.959622170433725]
BlindGuardは、攻撃固有のラベルや悪意のある振る舞いに関する事前の知識を必要とせずに学習する、教師なしの防御方法である。
BlindGuardはマルチエージェントシステムにまたがる多様な攻撃タイプ(即時注入、メモリ中毒、ツール攻撃)を効果的に検出する。
論文 参考訳（メタデータ） (2025-08-11T16:04:47Z) - TrustRAG: Enhancing Robustness and Trustworthiness in Retrieval-Augmented Generation [31.231916859341865]
TrustRAGは、生成のために取得される前に、悪意のある、無関係なコンテンツを体系的にフィルタリングするフレームワークである。
TrustRAGは、検索精度、効率、攻撃抵抗を大幅に改善する。
論文 参考訳（メタデータ） (2025-01-01T15:57:34Z) - AdvQDet: Detecting Query-Based Adversarial Attacks with Adversarial Contrastive Prompt Tuning [93.77763753231338]
CLIP画像エンコーダを微調整し、2つの中間対向クエリに対して同様の埋め込みを抽出するために、ACPT(Adversarial Contrastive Prompt Tuning)を提案する。
我々は,ACPTが7つの最先端クエリベースの攻撃を検出できることを示す。
また,ACPTは3種類のアダプティブアタックに対して堅牢であることを示す。
論文 参考訳（メタデータ） (2024-08-04T09:53:50Z) - Malicious Agent Detection for Robust Multi-Agent Collaborative Perception [52.261231738242266]
多エージェント協調(MAC)知覚は、単エージェント認識よりも敵攻撃に対して脆弱である。
MAC知覚に特異的な反応防御であるMADE(Malicious Agent Detection)を提案する。
我々は、ベンチマーク3DデータセットV2X-simとリアルタイムデータセットDAIR-V2Xで包括的な評価を行う。
論文 参考訳（メタデータ） (2023-10-18T11:36:42Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。