論文の概要: Can You Trust the Vectors in Your Vector Database? Black-Hole Attack from Embedding Space Defects

• arxiv url: http://arxiv.org/abs/2604.05480v1
• Date: Tue, 07 Apr 2026 06:21:41 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-08 17:42:09.658132
• Title: Can You Trust the Vectors in Your Vector Database? Black-Hole Attack from Embedding Space Defects
• Title（参考訳）: ベクトルデータベースのベクトルを信頼できるか? 宇宙の欠陥を埋め込むブラックホール攻撃
• Authors: Hanxi Li, Jianan Zhou, Jiale Lao, Yibo Wang, Zhengmao Ye, Yang Cao, Junfen Wang, Mingjie Tang,
• Abstract要約: そこで我々は,記憶ベクトルの幾何学的中心付近に少数の悪意のあるベクターを注入するブラックホール攻撃を提案する。 これらのインジェクトベクターはブラックホールのようなクエリを惹きつけ、ほとんどのクエリの上位k検索結果に頻繁に現れる。
• 参考スコア（独自算出の注目度）: 10.448418765886837
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Vector databases serve as the retrieval backbone of modern AI applications, yet their security remains largely unexplored. We propose the Black-Hole Attack, a poisoning attack that injects a small number of malicious vectors near the geometric center of the stored vectors. These injected vectors attract queries like a black hole and frequently appear in the top-k retrieval results for most queries. This attack is enabled by a phenomenon we term centrality-driven hubness: in high-dimensional embedding spaces, vectors near the centroid become nearest neighbors of a disproportionately large number of other vectors, while this centroid region is nearly empty in practice. The attack shows that vectors in a vector database cannot be blindly trusted: geometric defects in high-dimensional embeddings make retrieval inherently vulnerable. Our experiments show that malicious vectors appear in up to 99.85% of top-10 results. Additionally, we evaluate existing hubness mitigation methods as potential defenses against the Black-Hole Attack. The results show that these methods either significantly reduce retrieval accuracy or provide limited protection, which indicates the need for more robust defenses against the Black-Hole Attack.
• Abstract（参考訳）: ベクトルデータベースは現代のAIアプリケーションの検索バックボーンとして機能するが、そのセキュリティはほとんど解明されていない。 そこで我々は,記憶ベクトルの幾何学的中心付近に少数の悪意のあるベクターを注入するブラックホール攻撃を提案する。 これらのインジェクトベクターはブラックホールのようなクエリを惹きつけ、ほとんどのクエリの上位k検索結果に頻繁に現れる。 この攻撃は、高次元埋め込み空間において、セントロイド近傍のベクトルは不均等に多くの他のベクトルの近傍に近づき、このセントロイド領域は実際にはほとんど空である。 この攻撃は、ベクトルデータベース内のベクトルが盲目的に信頼できないことを示している: 高次元埋め込みにおける幾何学的欠陥は、検索を本質的に脆弱にする。 我々の実験では、悪意のあるベクターがトップ10の結果の99.85%に現れることが示された。 さらに,ブラックホール攻撃に対する防御策として,既存のハブ性軽減手法を評価した。 以上の結果から,これらの手法は検索精度を著しく低下させるか,限定的な保護を与えるかのいずれかであり,ブラックホール攻撃に対するより堅牢な防御の必要性が示唆された。

関連論文リスト

• VAE with Hyperspherical Coordinates: Improving Anomaly Detection from Hypervolume-Compressed Latent Space [56.362776482614976]
  変分オートエンコーダ(VAE)は、これらのベクトルをデータに復号する前に、データを低次元の潜在ベクトルに符号化する。 本稿では,超球面座標を用いてVAEの潜伏変数を定式化し,超球面上の所定の方向に向かって潜伏ベクトルを圧縮する手法を提案する。 これにより、VAEの完全な教師なしおよびOOD異常検出能力が向上し、検討したデータセット上で最高のパフォーマンスを達成できることが示される。
  論文  参考訳（メタデータ） (2026-01-25T03:10:24Z)
• Attacking Byzantine Robust Aggregation in High Dimensions [13.932039723114299]
  現代のニューラルネットワークやモデルを訓練するには、通常、高次元ベクトルのサンプルを平均化する必要がある。 ポジショニング攻撃は、モデルをトレーニングするのに使われる平均ベクトルを歪ませたりバイアスしたりし、モデルを特定のパターンを学習させたり、何か役に立つものを学ぶのを防いだりする。 我々は,HIDRAと呼ばれる新たな攻撃が,次元非依存バイアスの主張を覆す強力な防御の実現に有効であることを示す。
  論文  参考訳（メタデータ） (2023-12-22T06:25:46Z)
• Backdoor Attack with Sparse and Invisible Trigger [57.41876708712008]
  ディープニューラルネットワーク(DNN)は、バックドア攻撃に対して脆弱である。 バックドアアタックは、訓練段階の脅威を脅かしている。 軽度で目に見えないバックドアアタック(SIBA)を提案する。
  論文  参考訳（メタデータ） (2023-05-11T10:05:57Z)
• Parallel Rectangle Flip Attack: A Query-based Black-box Attack against Object Detection [89.08832589750003]
  本稿では,攻撃領域近傍の準最適検出を回避するために,ランダム探索による並列矩形フリップ攻撃(PRFA)を提案する。 提案手法は, アンカーベースやアンカーフリーなど, 様々な人気物体検出装置を効果的かつ効率的に攻撃し, 転送可能な対向例を生成する。
  論文  参考訳（メタデータ） (2022-01-22T06:00:17Z)
• IoU Attack: Towards Temporally Coherent Black-Box Adversarial Attack for Visual Object Tracking [70.14487738649373]
  アドリア攻撃は、深いニューラルネットワークが、知覚不能な摂動によって注入された入力サンプルを知覚する脆弱性によって起こる。 視覚的物体追跡のための決定に基づくブラックボックス攻撃法を提案する。 我々は、最先端のディープトラッカーに対するIoU攻撃を検証した。
  論文  参考訳（メタデータ） (2021-03-27T16:20:32Z)
• Detection of Iterative Adversarial Attacks via Counter Attack [4.549831511476249]
  ディープニューラルネットワーク(DNN)は、非構造化データを処理する強力なツールであることが証明されている。 画像のような高次元データの場合、それらは本質的に敵対的な攻撃に対して脆弱である。 本研究では、CW攻撃が検出器自体として使用できるという数学的証明を概説する。
  論文  参考訳（メタデータ） (2020-09-23T21:54:36Z)
• QEBA: Query-Efficient Boundary-Based Blackbox Attack [27.740081902519517]
  モデルの最終予測ラベルのみに基づいて,クエリ効率の良い境界ベースのブラックボックスアタック(QEBA)を提案する。 現状のブラックボックス攻撃と比較して、QEBAは、100%攻撃成功率の低い摂動量を達成するために、より少ないクエリを使用できることを示す。
  論文  参考訳（メタデータ） (2020-05-28T16:41:12Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。