論文の概要: How Much Do Modern Embeddings Reveal? Inversion Attacks on Commercial Embedding Models

• arxiv url: http://arxiv.org/abs/2611.05716v1
• Date: Tue, 03 Nov 2026 22:42:28 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-11-06 03:25:57.894891
• Title: How Much Do Modern Embeddings Reveal? Inversion Attacks on Commercial Embedding Models
• Title（参考訳）: 現代のエンベディングはいくらあるか? 商用エンベディングモデルによる逆攻撃
• Abstract要約: vec2textフレームワークをGTRベースと共にテキスト埋め込み3-小文字とミストラム埋め込みをサポートするように適応する。 一般的な指示、ウィキペディアの通訳、パラフレーズの指示、健康関連命令、短いリテラルコードスニペットなど、カテゴリ毎に800のサンプルを評価した。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Text embedding inversion reconstructs source text from fixed-dimensional vectors, posing a privacy risk to systems that store embeddings instead of raw text. We adapt the vec2text framework (Morris et al., 2023) to support text-embedding-3-small and mistral-embed alongside GTR-base. We evaluate 800 samples per category across general instructions, Wikipedia passages, paraphrased instructions, health-related instructions, and short literal code snippets, using a common 60-80-character range and paired original and paraphrased instructions. Under the evaluated vec2text configuration, text-embedding-3-small achieves the highest exact-match rate in all five categories, including 47.4% on health-related instructions and 24.5% on general instructions under the evaluation's case-insensitive, whitespace-stripped matching rule. BERTScore F1 exceeds 87 on the 0-100 scale for every prose category and embedder, indicating high contextual similarity to the references. Short code snippets yield lower reconstruction scores. These findings characterize one attack configuration and the selected datasets; they do not establish attack-independent rankings or sensitive-attribute recovery rates. They nevertheless motivate explicit assessment of inversion risk and access controls for stored embeddings.
• Abstract（参考訳）: テキスト埋め込みインバージョンは、固定次元ベクトルからソーステキストを再構築し、原文の代わりに埋め込みを格納するシステムにプライバシー上のリスクをもたらす。 vec2text framework (Morris et al , 2023) を適応し, GTRベースと共にテキスト埋め込み3-小・ミストラム埋め込みをサポートする。 一般的な命令、ウィキペディアの通訳、パラフレーズ命令、健康関連命令、短いリテラルコードスニペットを60-80文字の共通範囲とペアのオリジナルとパラフレーズの命令を用いて、カテゴリ毎の800のサンプルを評価した。 評価されたvec2text構成の下では、テキストエンベジン3-小は、健康関連命令の47.4%と、評価されたケース非感受性のホワイトスペースストラップマッチングルールの一般的な命令の24.5%を含む5つのカテゴリで最も正確なマッチ率を達成する。 BERTScore F1は、すべての散文カテゴリと埋め込み器の0-100スケールで87を超え、参照との文脈的類似性が高いことを示す。 短いコードスニペットは低いリコンストラクションスコアを得る。 これらの結果は1つの攻撃構成と選択されたデータセットを特徴付けており、攻撃非依存のランキングや機密属性回復率を確立していない。 それにもかかわらず、彼らは、格納された埋め込みに対する反転リスクとアクセス制御の明確な評価を動機付けている。

関連論文リスト

• Quad-State Safety Evaluation of Open-Weight Large Language Models on Non-Canonical Inputs [0.0]
  この研究は、7つの異なる表面形ファミリにわたる2,100のプロンプトからなる、Adrial Surface-Form Robustnessデータセット(ASRD)を導入している。 5つのオープンウェイト言語モデルがこれらのプロンプトで評価され、10,500のレスポンスが生成される。 準状態評価(Quad-State Evaluation)は、各応答を有害なコンプライアンス、安全な応答、理解障害、不確定の4つの結果の1つに分類する。
  論文  参考訳（メタデータ） (2026-10-06T19:33:24Z)
• RefLAM: A Reference-Grounded Line Annotation Pipeline for Historical Arabic Manuscripts [1.583691353033079]
  RefLAMは、原稿のページイメージとクリーンな書き起こしを検証されたラインレベルの真実に変換するパイプラインである。 RefLAMは、構造化OCRのためのマルチモーダル大言語モデル(MLLM)とディープラーニングページセグメンテーションモデルを結合する。 AraMS-28k:14の歴史的アラビア写本、3,043ページ、27,971のメインテキスト、629のマージンラインアノテーションをリリースします。
  論文  参考訳（メタデータ） (2026-08-25T20:46:11Z)
• Generative Embedding Benchmark: How Much Information Survives in a Dense Embedding? [18.50037284090112]
  GEB(Generative Embedding Benchmark)について紹介する。 GEBは生成情報を測定する:埋め込みから回復可能な回答関連コンテンツ。 視覚のみおよび視覚のみの関節モードにおける7つの公開埋め込みモデルの評価を行った。
  論文  参考訳（メタデータ） (2026-08-07T08:46:16Z)
• SWE-PRBench: Benchmarking AI Code Review Quality Against Pull Request Feedback [2.626039639665796]
  SWE-PRBenchは、AIコードレビューの品質を評価するための、人間による注釈付き根拠真理による350のプルリクエストのベンチマークである。 8つのフロンティアモデルでは、差分のみの設定で人間のフラッグされた問題の15～31%しか検出できない。
  論文  参考訳（メタデータ） (2026-03-27T07:24:26Z)
• Automatic Detection of Complex Quotation Patterns in Aggadic Literature [0.9476463361600828]
  本稿では,ラビ語文学における聖書引用の自動検出のための新しい3段階アルゴリズムACTを提案する。 提案手法は,Dicta,Passim,Text-Matcher,および人間注釈クリティカルエディションなど,主要なシステムに対して評価された。 引用検出の改善に加えて、コーパスをまたいでスタイリスティックなパターンを分類するACTの能力は、ジャンル分類とテクスト間分析のための新しい道を開く。
  論文  参考訳（メタデータ） (2025-12-29T14:45:58Z)
• REInstruct: Building Instruction Data from Unlabeled Corpus [49.82314244648043]
  本稿では,ラベルのないコーパスから命令データを自動的に構築するREInstructを提案する。 Llama-7bをREInstructから3kシードデータと32k合成データの組み合わせで訓練することにより、微細調整されたモデルがAlpacaEvalのリーダーボード上でテキストダヴィンチ003に対して65.41%の勝利率を達成する。
  論文  参考訳（メタデータ） (2024-08-20T09:05:03Z)
• INSTRUCTSCORE: Explainable Text Generation Evaluation with Finegrained Feedback [80.57617091714448]
  テキスト生成のための説明可能な評価指標であるInstructScoreを提案する。 LLaMAに基づいてテキスト評価基準を微調整し、生成されたテキストのスコアと人間の可読性診断レポートを生成する。
  論文  参考訳（メタデータ） (2023-05-23T17:27:22Z)
• Verifying the Robustness of Automatic Credibility Assessment [50.55687778699995]
  入力テキストにおける意味保存的変化がモデルを誤解させる可能性があることを示す。 また、誤情報検出タスクにおける被害者モデルと攻撃方法の両方をテストするベンチマークであるBODEGAについても紹介する。 我々の実験結果によると、現代の大規模言語モデルは、以前のより小さなソリューションよりも攻撃に対して脆弱であることが多い。
  論文  参考訳（メタデータ） (2023-03-14T16:11:47Z)
• One Embedder, Any Task: Instruction-Finetuned Text Embeddings [105.82772523968961]
  INSTRUCTORはタスク命令のテキスト埋め込みを計算するための新しい方法である。 すべてのテキスト入力はユースケースを説明する指示と共に埋め込まれる。 InSTRUCTORを70の埋め込み評価タスクで評価する。
  論文  参考訳（メタデータ） (2022-12-19T18:57:05Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。