論文の概要: Encoded but Exposed: Language Embeddings can Reveal More Than They Should in Recommender Systems

• arxiv url: http://arxiv.org/abs/2610.21713v1
• Date: Thu, 15 Oct 2026 11:32:41 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-17 06:09:33.052676
• Title: Encoded but Exposed: Language Embeddings can Reveal More Than They Should in Recommender Systems
• Title（参考訳）: Encoded but Exposed:Recommenderシステムで必要以上に言語埋め込みが発見できる
• Abstract要約: アイテム埋め込みは、相手が外部ソースから補助的なアイテムテキストにアクセスすると、アイテムの同一性を明らかにすることができることを示す。 漏洩は、相手の部分的な情報が被害者の表現と重なるときに最強となる。 我々は、難読化記述を緩和として評価し、明らかな漏洩ユーティリティトレードオフを見出す。
• 参考スコア（独自算出の注目度）: 11.304159033375576
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Language embeddings are increasingly used in recommenders to represent item content, but their privacy risks remain poorly understood. We study whether item embeddings can reveal item identities when an adversary has access to auxiliary item text from external sources. We show that a simple cosine-similarity attack can recover item identities with high mean reciprocal rank across language models and candidate-set settings on two real-world datasets. Leakage is strongest when the adversary's partial information overlaps with the victim representation, but it also persists through semantic alignment between independently sourced descriptions. We further show that item leakage can propagate to user re-identification from sparse ratings. Finally, we evaluate obfuscated descriptions as a mitigation and find a clear leakage-utility tradeoff.
• Abstract（参考訳）: 言語埋め込みは、アイテムコンテンツを表すレコメンデーターとしてますます使われているが、彼らのプライバシーリスクはよく分かっていない。 対象者が外部ソースから補助的な項目テキストにアクセスすると,アイテムの埋め込みによってアイテムのアイデンティティが明らかになるかどうかを検討する。 単純なコサイン類似性攻撃は、言語モデルと2つの実世界のデータセットの候補セット設定において、高い平均相互ランクでアイテムの同一性を取り戻すことができることを示す。 漏洩は、敵対者の部分情報が被害者の表現と重なり合う場合に最も強いが、独立したソース記述間のセマンティックアライメントを通じて持続する。 さらに、アイテムリークは、スパース評価からユーザーの再識別に影響を及ぼす可能性があることを示す。 最後に、難読化記述を緩和として評価し、明らかな漏洩ユーティリティトレードオフを見出す。

関連論文リスト

• Automatic Red Teaming for Implicit Vulnerabilities of Text-to-Image Models [58.59008920408855]
  本稿では,ターゲットモデルのパラメータへのアクセスを必要とせずに,暗黙の脆弱性を明らかにするためのAdvPIE(Adversarial Probing for Implicit VulnErabilities)を提案する。 AdvPIEは、審査員からのフィードバックに基づいて暗黙の敵のプロンプトを生成し、洗練するためのポリシーエージェントを採用する。 標準および安全性に適合したT2Iモデルの実験では、AdvPIE1が暗黙の脆弱性を効果的に発見している。
  論文  参考訳（メタデータ） (2026-09-05T13:45:09Z)
• RedacBench: Can AI Erase Your Secrets? [48.280759014096354]
  ドメインと戦略間のポリシー条件付きリアクションを評価するベンチマークであるRedacBenchを紹介します。 RedacBenchは、オリジナルのセマンティクスを保持しながらポリシー違反情報を選択的に除去するモデルの能力を測定する。 我々は8,053の注釈付き命題を用いて、各テキスト中のすべての推測可能な情報をキャプチャする性能を定量化する。
  論文  参考訳（メタデータ） (2026-03-02T06:29:49Z)
• VoxGuard: Evaluating User and Attribute Privacy in Speech via Membership Inference Attacks [51.68795949691009]
  差分プライバシとメンバシップ推論に基づくフレームワークであるVoxGuardを紹介した。 属性については, 匿名化後も, 性別やアクセントをほぼ完全精度で再現できることが示唆された。 以上の結果から,EERはリークを著しく過小評価し,低FPR評価の必要性を浮き彫りにしている。
  論文  参考訳（メタデータ） (2025-09-22T20:57:48Z)
• Stealthy LLM-Driven Data Poisoning Attacks Against Embedding-Based Retrieval-Augmented Recommender Systems [16.79952669254101]
  検索強化レコメンデータシステム(RAG)におけるプロバイダ側データ中毒について検討する。 アイテム記述内でわずかなトークンだけを変更することで、攻撃者はターゲットのアイテムを著しくプロモートまたはデモすることができる。 MovieLensの実験では、2つの大きな言語モデル(LLM)検索モジュールを使用して、微妙な攻撃でも最終的なランク付けとアイテムの露出が変化し、単純な検出が発覚した。
  論文  参考訳（メタデータ） (2025-05-08T12:53:42Z)
• Prompt-driven Transferable Adversarial Attack on Person Re-Identification with Attribute-aware Textual Inversion [17.18411620606476]
  本稿では,歩行者画像の微細な意味的特徴を損なうために,Attribute-aware Prompt Attack (AP-Attack)を導入する。 AP-Attackは最先端の転送可能性を実現し、従来の手法よりも22.9%上回った。
  論文  参考訳（メタデータ） (2025-02-27T02:32:58Z)
• Illusions of Relevance: Using Content Injection Attacks to Deceive Retrievers, Rerankers, and LLM Judges [52.96987928118327]
  検索,リランカー,大型言語モデル(LLM)の埋め込みモデルは,コンテンツインジェクション攻撃に対して脆弱であることがわかった。 主な脅威は,(1) 意味不明な内容や有害な内容の挿入,(2) 関連性を高めるために,問合せ全体あるいはキークエリ用語の挿入,の2つである。 本研究は, 注射内容の配置や関連物質と非関連物質とのバランスなど, 攻撃の成功に影響を与える要因を系統的に検討した。
  論文  参考訳（メタデータ） (2025-01-30T18:02:15Z)
• Con-ReCall: Detecting Pre-training Data in LLMs via Contrastive Decoding [118.75567341513897]
  既存のメソッドは通常、ターゲットテキストを分離して分析するか、非メンバーコンテキストでのみ分析する。 Con-ReCallは、メンバと非メンバのコンテキストによって誘導される非対称な分布シフトを利用する新しいアプローチである。
  論文  参考訳（メタデータ） (2024-09-05T09:10:38Z)
• Protecting Privacy in Classifiers by Token Manipulation [3.5033860596797965]
  テキスト分類モデルに焦点をあて、様々なトークンマッピングとコンテキスト化された操作機能について検討する。 いくつかのトークンマッピング関数の実装は簡単で簡単ですが、ダウンストリームタスクのパフォーマンスに大きな影響を与えます。 比較すると、文脈化された操作はパフォーマンスを改善する。
  論文  参考訳（メタデータ） (2024-07-01T14:41:59Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。