論文の概要: Signed but Steerable: Measuring and Closing the Text-Vector Integrity Gap in Offline Retrieval-Augmented Generation
- arxiv url: http://arxiv.org/abs/2611.06498v1
- Date: Wed, 04 Nov 2026 13:32:04 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-06 03:25:58.120808
- Title: Signed but Steerable: Measuring and Closing the Text-Vector Integrity Gap in Offline Retrieval-Augmented Generation
- Title(参考訳): 符号付きだがステアブル:オフライン検索型生成におけるテキストベクトル積分ギャップの測定と閉鎖
- Abstract要約: ベクトルを再計算してコサイントレランス内で受け入れる検証器は、予測可能なクエリの共有を攻撃者に譲る。
ローカル言語モデルを実行するRaspberry Pi 5では、このような攻撃は正しい回答を0.75から0.39に下げる。
一般的な浮動小数点および動的INT8推論パイプラインは、バッチサイズやアーキテクチャでビット再生可能であることを示す。
- 参考スコア(独自算出の注目度): 45.88028371034407
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Offline retrieval-augmented generation (RAG) on edge devices is updated through signed knowledge packs that carry text and precomputed embedding vectors. A signature proves who published a pack, not that its vectors encode its text. We study this text-vector integrity gap. A verifier that recomputes vectors and accepts them within a cosine tolerance concedes a predictable share of queries to an attacker who controls the vectors: the hijack rate equals the distribution of angular retrieval margins at the tolerance (the margin law). Margins are small in five corpora and two embedding models, so an idealised tolerance at the level of floating-point noise leaves up to 5.5% of queries exposed (at most 1.2% in any corpus once exact duplicate documents are excluded), and a threshold calibrated from our CPU INT8-FP32 comparison of a small embedding model (at the empirical 0.1% quantile of honest cosines) leaves 98-100% exposed; on a Raspberry Pi 5 running a local language model, such an attack lowers correct answers from 0.75 to 0.39. Integrity audits of compressed vector stores fare no better: on a FAISS product-quantisation index over 57,638 documents, tampered vectors that all pass the audit put the attacker's document first for 25% of targets. Verifying quantisation codes instead, with ambiguity decided by the verifier, a calibrated guard band and canonicalisation, accepted every honest vector in our samples on three platforms and left the publisher no choice. We also show that common floating-point and dynamic-INT8 inference pipelines are not bit-reproducible across batch sizes or architectures, and report pre-registered negative results on abstention, context pruning and semantic screening. We release code and data.
- Abstract(参考訳): エッジデバイス上のオフライン検索拡張生成(RAG)は、テキストとプリ計算された埋め込みベクトルを運ぶサイン付きナレッジパックによって更新される。
署名は、そのベクトルがそのテキストをエンコードしているのではなく、誰がパックを公開したかを証明する。
このテキストベクトル整合性ギャップについて検討する。
ベクトルを再計算してコサイン許容範囲内で受け入れる検証器は、ベクターを制御するアタッカーに対して予測可能なクエリの共有を譲る:ハイジャックレートは、許容範囲における角的検索マージンの分布(マージン法)に等しい。
マージンは5つのコーパスと2つの埋め込みモデルで小さいため、浮動小数点雑音レベルにおける理想的な耐性は、クエリの5.5%まで(最大1.2%のコーパスが正確に重複したドキュメントは除外されている)、CPUからキャリブレーションされたしきい値であるINT8-FP32は、小さな埋め込みモデル(正直なコサインの0.1%の量子化)と比較すると98-100%、ローカル言語モデルを実行しているRaspberry Pi 5では、そのような攻撃は正しい回答を0.75から0.39に下げる。
圧縮ベクターストアのインテリティ監査は、57,638件以上のFAISS製品量子化インデックスでは、監査に合格するベクトルが改ざんされ、攻撃者の文書は25%のターゲットで最初に記録された。
検証者によって決定されたあいまいさ、校正されたガードバンド、そして正準化によって、代わりに量子化コードを検証することは、3つのプラットフォーム上のサンプルのすべての正直なベクトルを受け入れ、出版社は選択の余地を残さなかった。
また、一般的な浮動小数点および動的INT8推論パイプラインはバッチサイズやアーキテクチャでビット再現できないことを示し、事前登録された否定的な結果を、禁忌、コンテキストプルーニング、セマンティックスクリーニングについて報告する。
コードとデータをリリースします。
関連論文リスト
- Trust Mechanisms for Offline Generative AI at the Edge: A Connectivity-Regime Framework and an Empirical Study on a Raspberry Pi 5 [45.88028371034407]
ジェネレーティブAIと大規模言語モデル(LLM)がモノのインターネットに移行しつつある。
ほとんどのデプロイメントはクラウド接続を前提としており、多くのIoT設定は断続的、制限的、あるいは接続不能である。
提案するコネクティビティ・レジーム・フレームワーク (C0-C4) は, 推論時信頼機構の分類法であり, 署名されたバージョン付き知識パックである。
論文 参考訳(メタデータ) (2026-10-24T15:23:25Z) - What the Author Wrote, What the Agent Reads: Silent Cue Loss in Enterprise Document Ingestion [2.332848751256598]
推論ではなく、摂取が、この信頼性を勝ち取るか、失うかを示す。
エージェントビルダーにとっての実践的な発見は、推論ではなく、インジェクションが、この信頼性を勝ち取り、失う場所であるということだ。
論文 参考訳(メタデータ) (2026-10-21T16:51:25Z) - What You Sign Is Not What You Run: The Verifiability Gap in Quantized LLM Supply Chains [0.6159133786557903]
Independent Verifiability Rate (IVR)は、サードパーティがビット・フォー・ビットを導出できる人気サンプルGGUFエコシステムのごく一部である。
E は必要座標であり、一方のコンパイラ設定は、テスト対象のプラットフォームに対して、無視できる品質のコストで独自の出力を出力することを示す。
論文 参考訳(メタデータ) (2026-10-14T03:16:29Z) - HaloMark: A Spectral Threshold for Embedding-Vector Watermarking under C2PA [3.0458514384586404]
暗号的にC2PAマニフェストに結び付けられたベクトルを埋め込むための透かしであるHaloMarkを提示する。
検証は、ベクトルあたり284usと24バイトのサイドカーで実行され、3つのC2PA参照SDKバインディングに対してエンドツーエンドで検証される。
論文 参考訳(メタデータ) (2026-08-09T11:36:59Z) - Fantastic Adaptive Taxonomies and How to Use Them [100.20614173157708]
AdaMASTは、実行トレースをコンパクトでエビデンスに基づく障害分類に変換する。
コードには手書きのコードはなく、人間による注釈もない。
エージェント・システム・サーチでは、失敗候補の分類コード診断が自由形式より優れている。
論文 参考訳(メタデータ) (2026-07-17T17:41:16Z) - Trust Before Fusion: QIMG-7 and Source-Aware Resolution for Polluted Multimodal RAG [45.88028371034407]
マルチモーダル検索拡張生成(RAG)はクリーンなエビデンスで評価されることが多いが、真の検索は、トポロジー的に関係があるが信頼できないコンテンツを返すことができる。
本稿では,多文事実QAにおけるマルチモーダル検索汚染のベンチマークであるQIMG-7を紹介する。
そこで本研究では,Parametric, Text-only, Full-MM の候補解と比較した学習自由な手法として,SATRを提案する。
論文 参考訳(メタデータ) (2026-07-12T15:13:09Z) - VectorSmuggle: Steganographic Exfiltration in Embedding Stores and a Cryptographic Provenance Defense [0.0]
現代の検索拡張生成システム(RAG)は、センシティブなコンテンツを高次元の埋め込みに変換し、それらをベクトルデータベースに格納し、結果の数値的アーティファクトを不透明なものとして扱う。
これはステガノグラフィー・エクスプロイト・アタックのクラスを開放することを示している。
入力パイプラインへの書き込みアクセスを持つアタッカーは、埋め込み内にペイロードデータを隠蔽することができる。
論文 参考訳(メタデータ) (2026-05-13T16:44:20Z) - SpatialBench-UC: Uncertainty-Aware Evaluation of Spatial Prompt Following in Text-to-Image Generation [0.0]
SpaceBench-UCは、ペアの空間関係を再現可能な小さなベンチマークである。
ベンチマークパッケージ、バージョン付きプロンプト、ピン付き構成、サンプルごとのチェッカー出力、レポートテーブルをリリースします。
安定拡散1.5, SD 1.5 BoxDiff, SD 1.4 GLIGENの3つのベースラインについて検討した。
論文 参考訳(メタデータ) (2026-01-19T23:37:10Z) - Paraphrasing evades detectors of AI-generated text, but retrieval is an
effective defense [56.077252790310176]
本稿では,パラフレーズ生成モデル(DIPPER)を提案する。
DIPPERを使って3つの大きな言語モデル(GPT3.5-davinci-003)で生成されたテキストを言い換えると、透かしを含むいくつかの検出器を回避できた。
我々は,言語モデルAPIプロバイダによって維持されなければならない,意味論的に類似した世代を検索するシンプルなディフェンスを導入する。
論文 参考訳(メタデータ) (2023-03-23T16:29:27Z) - Precise Zero-Shot Dense Retrieval without Relevance Labels [60.457378374671656]
仮説文書埋め込み(英: hypothetical Document Embeddings, HyDE)は、ゼロショット高密度検索システムである。
我々は,HyDEが最先端の非教師付き高密度検索器であるContrieverを著しく上回っていることを示す。
論文 参考訳(メタデータ) (2022-12-20T18:09:52Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。