論文の概要: The TellTail of Embeddings: Fingerprinting Retrievers in Black-Box Systems

• arxiv url: http://arxiv.org/abs/2610.04026v1
• Date: Fri, 02 Oct 2026 20:30:06 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-12 20:52:08.339728
• Title: The TellTail of Embeddings: Fingerprinting Retrievers in Black-Box Systems
• Title（参考訳）: The TellTail of Embeddings: Fingerprinting Retrievers in Black-Box Systems
• Abstract要約: TellTailは、ブラックボックスシステムの背後にあるレトリバーを識別するための指紋攻撃だ。 我々は,3つの制限条件下で53個のレトリバーを用いてTellTailを評価する。
• 参考スコア（独自算出の注目度）: 4.623075809979809
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Dense embedding models are core to modern text retrieval, enabling systems ranging from web search to retrieval-augmented generation (RAG). Yet, retrievers are usually deployed within opaque systems, exposing only ranked results, cited sources, or generated answers. This opacity prevents users from verifying which retrievers providers serve and may create a false sense of robustness against retrieval attacks. We show that attackers can infer retrievers' identity only through queries. We introduce TellTail, a fingerprinting attack for identifying retrievers behind black-box systems across a spectrum of access levels. Despite sharing many properties, retrievers can be steered to emit distinct results. When retrieved passages are exposed, TellTail compares retrieval overlap to deduce the underlying model. When only the final generated response is exposed, TellTail optimizes model-specific queries that induce a chosen retrieval behavior on the target retriever but transfer poorly to others. Interestingly, the poor transferability that limits attacks elsewhere is exactly what makes them useful for fingerprinting. We evaluate TellTail using 53 retrievers under three increasingly restrictive settings. TellTail perfectly identifies the deployed retriever from full retrieval rankings; in 94.3% of attempts with unordered top-3 results; and in 92.5% of cases from language-model-generated answers alone. Furthermore, fingerprinting succeeds against a popular RAG system (OpenWebUI). Overall, TellTail shows that retrieval-based systems leak the identity of their embedding model---exposing intellectual property and enabling reconnaissance ahead of model-specific attacks such as corpus poisoning.
• Abstract（参考訳）: デンス埋め込みモデルは現代のテキスト検索の中核であり、Web検索から検索強化世代(RAG)までのシステムを可能にする。 しかし、レトリバーは通常不透明なシステムにデプロイされ、ランク付けされた結果、引用されたソース、生成された回答のみを公開する。 この不透明さは、ユーザーがどのレトリバープロバイダが提供するかを検証するのを防ぎ、検索攻撃に対する堅牢さの誤った感覚を生み出す可能性がある。 攻撃者はクエリを通してのみ、検索者の身元を推測できることを示す。 本稿では,ブラックボックスシステムの背後にあるレトリバーを,さまざまなアクセスレベルにわたって識別する指紋認証攻撃TellTailを紹介する。 多くのプロパティを共有しているにもかかわらず、レトリバーは異なる結果を出力するためにステアリングされる。 検索されたパスが露出すると、TellTailは検索オーバーラップを比較し、基礎となるモデルを推定する。 最終生成された応答のみを公開すると、TellTailはモデル固有のクエリを最適化し、ターゲットレトリバー上で選択された検索動作を誘導するが、他の人にはあまり転送しない。 興味深いことに、他の場所での攻撃を制限するトランスファービリティが低いことは、指紋認証に役立ちます。 我々は,3つの制限条件下で53個のレトリバーを用いてTellTailを評価する。 TellTailは、完全な検索ランキングからデプロイされたレトリバーを完璧に識別し、未順序のトップ3結果の94.3%、言語モデル生成の回答だけで92.5%のケースで検索する。 さらに、指紋認証は一般的なRAGシステム(OpenWebUI)に対して成功する。 総合的に、TellTailは、検索ベースのシステムが、その埋め込みモデルのアイデンティティーを漏らし、知的財産を発掘し、コーパス中毒のようなモデル固有の攻撃に先立って偵察を可能にすることを示した。

関連論文リスト

• Conflict-Aware Retriever Editing for Knowledge Injection Attacks on LLM-Based RAG Systems [15.82084371924438]
  検索強化世代(RAG)システムに悪意のある知識を注入すると、検索された証拠を操作でき、下流生成を誤解させる。 本稿では、RAGにおける悪意ある知識注入のためのモデル中心の検索攻撃フレームワークであるCAREATTACKを提案する。
  論文  参考訳（メタデータ） (2026-06-16T09:17:56Z)
• R$^3$AG: Retriever Routing for Retrieval-Augmented Generation [59.47703698994575]
  R$3$AGは、検索機能を2つの学習可能なディメンション、すなわち検索品質と生成ユーティリティに分解する。 R$3$AGは、最高の個々のレトリバーと最先端の静的ルーティングメソッドの両方を一貫して上回っている。
  論文  参考訳（メタデータ） (2026-04-22T06:51:20Z)
• Revela: Dense Retriever Learning via Language Modeling [75.19266063851319]
  Revelaは、言語モデリングによる自己教師型レトリバー学習のための統合トレーニングフレームワークである。 我々はRevelaをドメイン固有(CoIR)、推論集約(BRIGHT)、一般ドメインベンチマーク(BEIR)で評価する。 BEIRの教師なし SoTA を1000倍のトレーニングデータと10倍の計算量で実現している。
  論文  参考訳（メタデータ） (2025-06-19T19:13:59Z)
• POISONCRAFT: Practical Poisoning of Retrieval-Augmented Generation for Large Language Models [4.620537391830117]
  大型言語モデル(LLM)は幻覚の影響を受けやすいため、誤った結果や誤解を招く可能性がある。 Retrieval-augmented Generation (RAG) は、外部知識源を活用することで幻覚を緩和する有望なアプローチである。 本稿では,POISONCRAFTと呼ばれるRAGシステムに対する中毒攻撃について検討する。
  論文  参考訳（メタデータ） (2025-05-10T09:36:28Z)
• Collapse of Dense Retrievers: Short, Early, and Literal Biases Outranking Factual Evidence [56.09494651178128]
  検索モデルは、Retrieval-Augmented Generation (RAG)のような情報検索(IR)アプリケーションで一般的に使用される。 我々は、Dragon+やContrieverのようなリトリーバーに対する、短いドキュメントの好みなどのバイアスの影響を定量化する。 私たちは大きな脆弱性を発見し、リトリバーが短いドキュメント、早い位置、繰り返しのエンティティ、リテラルマッチを好んで、答えの存在を無視しながら表示します。
  論文  参考訳（メタデータ） (2025-03-06T23:23:13Z)
• Document Screenshot Retrievers are Vulnerable to Pixel Poisoning Attacks [72.4498910775871]
  ヴィジュアル言語モデル(VLM)ベースのレトリバーは、ベクターとして埋め込まれた文書のスクリーンショットを活用して、効率的な検索を可能にし、従来のテキストのみの手法よりも単純化されたパイプラインを提供する。 本研究では,VLMをベースとしたレトリバーを危険にさらすために,3つのピクセル中毒攻撃手法を提案する。
  論文  参考訳（メタデータ） (2025-01-28T12:40:37Z)
• Backdoored Retrievers for Prompt Injection Attacks on Retrieval Augmented Generation of Large Language Models [0.0]
  Retrieval Augmented Generation (RAG)は、大規模言語モデルと最新の情報検索を組み合わせることでこの問題に対処する。 本稿では、誤報以外の有害な目的に焦点をあて、RAGに対する即時注射攻撃について検討する。 我々は,既存のコーパス中毒技術を構築し,高密度レトリバー部品の微調整を目的とした新しいバックドアアタックを提案する。
  論文  参考訳（メタデータ） (2024-10-18T14:02:34Z)
• Beyond Relevance: Evaluate and Improve Retrievers on Perspective Awareness [56.42192735214931]
  検索者は、ドキュメントとクエリ間のセマンティックな関連性に頼るだけでなく、ユーザクエリの背後にある微妙な意図や視点を認識することも期待されている。 本研究では,検索者がクエリの異なる視点を認識し,応答できるかどうかを検討する。 我々は,現在の検索者はクエリにおいて微妙に異なる視点に対する認識が限られており,特定の視点に偏りがあることを示す。
  論文  参考訳（メタデータ） (2024-05-04T17:10:00Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。