論文の概要: HubScan: Detecting Hubness Poisoning in Retrieval-Augmented Generation Systems
- arxiv url: http://arxiv.org/abs/2602.22427v1
- Date: Wed, 25 Feb 2026 21:37:53 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-02-27 18:41:22.416467
- Title: HubScan: Detecting Hubness Poisoning in Retrieval-Augmented Generation Systems
- Title（参考訳）: HubScan: 検索型生成システムにおけるハネスポジショニングの検出
- Authors: Idan Habler, Vineeth Sai Narajala, Stav Koren, Amy Chang, Tiffany Saade,
- Abstract要約: ハブ性は有害なコンテンツの導入、検索ランキングの変更、コンテンツフィルタリングのバイパス、システムパフォーマンスの低下に利用することができる。
本稿では,RAGシステム内のハブを特定するために,ベクトルインデックスと埋め込みを評価したオープンソースのセキュリティスキャナである Hubscan を紹介する。
Hubscanは0.2%の警告予算で90%のリコールを達成する。100%リコールは0.4%で、敵のハブは99.8%のパーセンタイルを上回っている。
- 参考スコア（独自算出の注目度）: 0.031068858355080494
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Retrieval-Augmented Generation (RAG) systems are essential to contemporary AI applications, allowing large language models to obtain external knowledge via vector similarity search. Nevertheless, these systems encounter a significant security flaw: hubness - items that frequently appear in the top-k retrieval results for a disproportionately high number of varied queries. These hubs can be exploited to introduce harmful content, alter search rankings, bypass content filtering, and decrease system performance. We introduce hubscan, an open-source security scanner that evaluates vector indices and embeddings to identify hubs in RAG systems. Hubscan presents a multi-detector architecture that integrates: (1) robust statistical hubness detection utilizing median/MAD-based z-scores, (2) cluster spread analysis to assess cross-cluster retrieval patterns, (3) stability testing under query perturbations, and (4) domain-aware and modality-aware detection for category-specific and cross-modal attacks. Our solution accommodates several vector databases (FAISS, Pinecone, Qdrant, Weaviate) and offers versatile retrieval techniques, including vector similarity, hybrid search, and lexical matching with reranking capabilities. We evaluate hubscan on Food-101, MS-COCO, and FiQA adversarial hubness benchmarks constructed using state-of-the-art gradient-optimized and centroid-based hub generation methods. hubscan achieves 90% recall at a 0.2% alert budget and 100% recall at 0.4%, with adversarial hubs ranking above the 99.8th percentile. Domain-scoped scanning recovers 100% of targeted attacks that evade global detection. Production validation on 1M real web documents from MS MARCO demonstrates significant score separation between clean documents and adversarial content. Our work provides a practical, extensible framework for detecting hubness threats in production RAG systems.
- Abstract（参考訳）: Retrieval-Augmented Generation (RAG) システムは現代のAIアプリケーションに必須であり、大規模言語モデルではベクトル類似性探索によって外部知識を得ることができる。
それにもかかわらず、これらのシステムは重大なセキュリティ上の欠陥に直面している。 ハブ性 - 様々なクエリの多さに対して、トップk検索結果に頻繁に現れるアイテム。
これらのハブは有害なコンテンツの導入、検索ランキングの変更、コンテンツフィルタリングのバイパス、システム性能の低下に利用することができる。
本稿では,RAGシステム内のハブを特定するために,ベクトルインデックスと埋め込みを評価したオープンソースのセキュリティスキャナである Hubscan を紹介する。
ハスカンは、(1)中央値/MADベースのzスコアを用いた頑健な統計ハブ性検出、(2)クラスタ間検索パターンの評価のためのクラスタスプレッド解析、(3)クエリの摂動下での安定性テスト、(4)カテゴリ別およびクロスモーダル攻撃に対するドメイン認識およびモダリティ認識検出を統合したマルチ検出器アーキテクチャを提案する。
我々のソリューションは、いくつかのベクトルデータベース(FAISS、Pinecone、Qdrant、Weaviate)に対応し、ベクトル類似性、ハイブリッド検索、レキシカルマッチング機能を含む多目的検索技術を提供する。
我々は,最新の勾配最適化およびセントロイドを用いたハブ生成手法を用いて構築したFood-101,MS-COCO,FiQAの逆ハブ性ベンチマークを用いて,ハブスキャンの評価を行った。
Hubscanは0.2%の警告予算で90%のリコールを達成する。100%リコールは0.4%で、敵のハブは99.8%のパーセンタイルを上回っている。
ドメインスコープスキャンは、グローバルな検出を回避するターゲットアタックの100%を回復する。
MS MARCOによる100万個の実Webドキュメントのプロダクション検証では、クリーンなドキュメントと敵対的なコンテンツの間に重要なスコアの分離が示されている。
我々の研究は、実運用RAGシステムにおけるハブ性脅威を検出するための実用的で拡張可能なフレームワークを提供する。
関連論文リスト
- SecureScan: An AI-Driven Multi-Layer Framework for Malware and Phishing Detection Using Logistic Regression and Threat Intelligence Integration [0.0]
この作業では、AI駆動の三層検出フレームワークであるSecureScanが紹介されている。
VirusTotal APIを通じて、ロジスティック回帰に基づく分類、分析、外部脅威インテリジェンスを統合する。
ベンチマークデータセットでは、SecureScanは93.1%の精度でバランスの取れた精度を実現している。
論文 参考訳（メタデータ） (2026-02-11T11:26:11Z) - Beyond Raw Detection Scores: Markov-Informed Calibration for Boosting Machine-Generated Text Detection [105.14032334647932]
機械生成テキスト(MGT)は偽情報やフィッシングなどのリスクを生じさせ、信頼性の高い検出の必要性を強調している。
MGTの統計的に区別可能な特徴を抽出するメトリックベース法は、オーバーフィットしがちな複雑なモデルベース法よりも実用的であることが多い。
本稿では,2つのコンテキスト検出スコアの関係をモデル化したマルコフ情報を用いたスコアキャリブレーション手法を提案する。
論文 参考訳（メタデータ） (2026-02-08T16:06:12Z) - On the Vulnerability of Applying Retrieval-Augmented Generation within Knowledge-Intensive Application Domains [32.71308102835446]
Retrieval-Augmented Generation (RAG)は、知識集約ドメインにおける大規模言語モデル(LLM)の性能向上を実証的に示している。
医学的Q&Aにおいて,RAGは普遍的な毒殺攻撃に弱いことが示唆された。
我々は、RAGの安全な使用を保証するために、新しい検出ベースの防御を開発する。
論文 参考訳（メタデータ） (2024-09-12T02:43:40Z) - Cascade-DETR: Delving into High-Quality Universal Object Detection [99.62131881419143]
高品質な普遍物体検出のためのカスケードDETRを提案する。
本稿では,オブジェクト中心情報を検出デコーダに明示的に統合するカスケードアテンション層を提案する。
最後に、多様なドメインから10のデータセットを含む汎用オブジェクト検出ベンチマークUDB10を紹介する。
論文 参考訳（メタデータ） (2023-07-20T17:11:20Z) - Host-Based Network Intrusion Detection via Feature Flattening and
Two-stage Collaborative Classifier [6.04077629908308]
NIDSとHIDSを組み合わせたハイブリッドネットワーク侵入検知システムを提案する。
ネットワーク侵入を識別するために、2段階のMLアルゴリズムをデプロイする2段階の協調分類器が導入された。
提案手法は、CICIDS 2018とNDSec-1という、よく知られた2つのデータセットにまたがって一般化される。
論文 参考訳（メタデータ） (2023-06-15T19:09:00Z) - Generative Adversarial Network-Driven Detection of Adversarial Tasks in
Mobile Crowdsensing [5.675436513661266]
クラウドセンシングシステムは、不特定かつユビキタスなプロパティの上に構築されるため、さまざまな攻撃に対して脆弱である。
以前の研究では、GANベースの攻撃は実験的に設計された攻撃サンプルよりも重大な破壊力を示すことが示唆されている。
本稿では,GANモデルを統合することにより,知的に設計された不正なセンシングサービス要求を検出することを目的とする。
論文 参考訳（メタデータ） (2022-02-16T00:23:25Z) - Adversarial Feature Augmentation and Normalization for Visual
Recognition [109.6834687220478]
最近のコンピュータビジョンの進歩は、分類モデルの一般化能力を改善するために、逆データ拡張を利用する。
本稿では,中間的特徴埋め込みにおける敵対的拡張を提唱する効率的かつ効率的な代替手法を提案する。
代表的なバックボーンネットワークを用いて,多様な視覚認識タスクにまたがる提案手法を検証する。
論文 参考訳（メタデータ） (2021-03-22T20:36:34Z) - Detection of Adversarial Supports in Few-shot Classifiers Using Feature
Preserving Autoencoders and Self-Similarity [89.26308254637702]
敵対的なサポートセットを強調するための検出戦略を提案する。
我々は,特徴保存型オートエンコーダフィルタリングと,この検出を行うサポートセットの自己相似性の概念を利用する。
提案手法は攻撃非依存であり, 最善の知識まで, 数発分類器の検出を探索する最初の方法である。
論文 参考訳（メタデータ） (2020-12-09T14:13:41Z) - Dense Label Encoding for Boundary Discontinuity Free Rotation Detection [69.75559390700887]
本稿では,分類に基づく比較的研究の少ない方法論について検討する。
我々は2つの側面でフロンティアを推し進めるための新しい手法を提案する。
航空画像のための大規模公開データセットの実験と視覚解析は,我々のアプローチの有効性を示している。
論文 参考訳（メタデータ） (2020-11-19T05:42:02Z) - Transferable, Controllable, and Inconspicuous Adversarial Attacks on
Person Re-identification With Deep Mis-Ranking [83.48804199140758]
システム出力のランキングを乱す学習とミスランクの定式化を提案する。
また,新たなマルチステージネットワークアーキテクチャを開発することで,バックボックス攻撃を行う。
そこで本手法では, 異なるマルチショットサンプリングにより, 悪意のある画素数を制御することができる。
論文 参考訳（メタデータ） (2020-04-08T18:48:29Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。