論文の概要: AlignPoison: Conditional Targeted Poisoning of Generative Recommenders via Decoding-Aligned Prefixes

• arxiv url: http://arxiv.org/abs/2610.14487v1
• Date: Sat, 10 Oct 2026 02:36:15 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-15 21:06:15.057671
• Title: AlignPoison: Conditional Targeted Poisoning of Generative Recommenders via Decoding-Aligned Prefixes
• Title（参考訳）: AlignPoison: Decoding-Aligned Prefixesによる生成レコメンダの条件ターゲティング
• Abstract要約: 自己回帰復号に基づくジェネレーティブレコメンデーションモデルは、古典的なランク付けベースのシステムに代わるものとして採用されている。 本研究では, 条件付き標的中毒に対する遺伝子的推奨者はどの程度の感受性があるのか, と問う。 1%未満の合成相互作用を注入すると、トリガーの下で悪意のある標的を促進できる可能性が著しく高まる。
• 参考スコア（独自算出の注目度）: 47.33608056716514
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Generative recommendation models based on autoregressive decoding have been adopted as alternatives to classical ranking-based systems. While their modeling flexibility has been widely studied, their resilience to data poisoning remains largely unexplored. In this work, we ask: how susceptible are generative recommenders to conditional targeted poisoning? Under a realistic setting where an adversary can inject limited malicious interactions and query a recommendation API as a black box, our empirical study shows that generative recommenders are vulnerable: injecting fewer than 1% synthetic interactions significantly increases the likelihood of promoting malicious targets under the trigger. To characterize this vulnerability, we analyze the synthesis of malicious interactions from two perspectives: (i) decoding alignment and (ii) prefix popularity. We observe that short, context-aligned prefixes that are both common under the model's induced transition dynamics and strongly linked to a frequent trigger consistently amplify targeted promotion. Motivated by this analysis, we develop AlignPoison, a black-box framework that discovers and samples context-aligned prefixes from API outputs. We conduct experiments on benchmarks in unimodal and multimodal generative recommendation settings. Results show that these prefixes outperform competitive baselines, improving ASR lift by up to 16.3 percentage points and highlighting a decoding-dependent, context-sensitive poisoning vulnerability in generative recommendation models.
• Abstract（参考訳）: 自己回帰復号に基づくジェネレーティブレコメンデーションモデルは、古典的なランキングベースのシステムに代わるものとして採用されている。 モデリングの柔軟性は広く研究されているが、データ中毒に対するレジリエンスはほとんど解明されていない。 本研究では, 条件付き標的中毒に対する遺伝子的推奨者はどの程度の感受性があるのか, と問う。 敵が限られた悪意のあるインタラクションを注入し、レコメンデーションAPIをブラックボックスとしてクエリできる現実的な設定の下で、我々の経験的研究は、生成的レコメンデーションが脆弱であることを示している。 この脆弱性を特徴づけるために、悪意ある相互作用の合成を2つの観点から分析する。 (i)デコードアライメント及びアライメント (ii)プレフィックス人気。 モデルが引き起こす遷移ダイナミクスの下では一般的であり,頻繁なトリガーに強く結びついている短い文脈整列プレフィックスは,常にターゲットのプロモーションを増幅する。 この分析に動機づけられたAlignPoisonは,API出力からコンテキスト整合したプレフィックスを検出し,サンプルするブラックボックスフレームワークである。 マルチモーダル・ジェネレーティブ・レコメンデーション・セッティングにおけるベンチマーク実験を行った。 その結果、これらの接頭辞は競争ベースラインを上回り、ASRリフトを最大16.3%改善し、ジェネレーティブレコメンデーションモデルにおいてデコードに依存し、文脈に敏感な中毒の脆弱性を強調した。

関連論文リスト

• VirusCascade: Hijacking Collaborative Reflection in LLM-Powered Recommender Agents [6.518256839387337]
  LLMを利用したエージェントレコメンデータシステムは、ユーザやアイテムを自律的なエージェントとしてインスタンス化する。 単一のエージェントに注入された敵対的証拠は、正当な嗜好の物語に合理化することができる。 我々は,意味的および構造的攻撃面を共同で形成する最初のブラックボックスターゲットプロモーションアタックである Virus Cascade を提案する。
  論文  参考訳（メタデータ） (2026-09-29T14:13:35Z)
• CARE: Causally-Aligned Reasoning Exploration for Medical Large Language Models [68.18247112359337]
  大規模言語モデル(LLM)は、医学的推論に強い可能性を示しているが、専門家による注釈付きデータの不足とコストは、その進歩を妨げている。 本稿では,本質的な経験キュレーションの枠組みであるCausally-Aligned Reasoning Exploration (CARE)を提案する。 CAREは、他の強力な競争相手よりも一貫して優れており、正しいが一貫性のない推論を大幅に削減し、トレーニングの安定性を改善している。
  論文  参考訳（メタデータ） (2026-06-29T05:40:35Z)
• Structuring and Tokenizing Distributed User Interest Context for Generative Recommendation [60.03046892817763]
  ジェネレーティブレコメンデーションは、産業レコメンデーションシステムにおける約束を示す新興パラダイムである。 既存の手法は、複雑なユーザビヘイビアとアイテムセマンティックのコンテキストを同時にレコメンデーションモデルに注入するのに苦労することが多い。 本稿では,G2Recを提案する。G2Recは,汎用的なグラフベースユーザ統合モデリングとセマンティックトークン化を一体化して,産業規模の生成レコメンデーションを実現するスケーラブルなフレームワークである。
  論文  参考訳（メタデータ） (2026-06-18T17:58:32Z)
• Detoxifying LLMs via Representation Erasure-Based Preference Optimization [44.29978832356216]
  Webスケールデータに基づいてトレーニングされた大規模言語モデル(LLM)は、有害な出力を生成することができる。 DPO、NPO、および同様のアルゴリズムを応用した先行防御は、有害な継続の可能性を減らす。 本稿では,Representation Erasure-based Preference Optimization (REPO)を提案する。
  論文  参考訳（メタデータ） (2026-02-24T22:51:06Z)
• Discern Truth from Falsehood: Reducing Over-Refusal via Contrastive Refinement [14.1763272695827]
  大規模な言語モデル (LLM) は、しばしば過剰な拒絶に悩まされる。 この振る舞いはモデルの有用性を損なうものであり、センシティブまたはニュアンスドコンテキストにおけるユーザビリティを制限する。 我々は、この問題は、モデルの学習力学に有毒で一見有毒なプロンプトのあいまいな影響から生じると論じる。
  論文  参考訳（メタデータ） (2026-02-10T05:53:10Z)
• ReasAlign: Reasoning Enhanced Safety Alignment against Prompt Injection Attack [52.17935054046577]
  本稿では、間接的インジェクション攻撃に対する安全性アライメントを改善するためのモデルレベルのソリューションであるReasAlignを提案する。 ReasAlignには、ユーザクエリの分析、競合する命令の検出、ユーザの意図したタスクの継続性を維持するための構造化された推論ステップが組み込まれている。
  論文  参考訳（メタデータ） (2026-01-15T08:23:38Z)
• STARec: An Efficient Agent Framework for Recommender Systems via Autonomous Deliberate Reasoning [54.28691219536054]
  我々は、自律的な熟考的推論機能を備えたレコメンデータシステムを支援する、ゆっくり考えられた拡張エージェントフレームワークSTARecを紹介する。 我々は,先進的推論モデルと嗜好整合型報酬形成から構造化知識の蒸留を組み合わせた2段階のパラダイムであるアンカー強化訓練を開発する。 MovieLens 1MとAmazon CDsベンチマークの実験では、STARecは最先端のベースラインと比較して、大幅なパフォーマンス向上を実現している。
  論文  参考訳（メタデータ） (2025-08-26T08:47:58Z)
• A Novel Generative Model with Causality Constraint for Mitigating Biases in Recommender Systems [20.672668625179526]
  遅延共起バイアスは、ユーザのフィードバックとアイテムの露出の間の真の因果関係を曖昧にする可能性がある。 本稿では,Recommender Systemsにおける表現学習のための遅延因果制約(Latent Causality Constraints)と呼ばれる新しい生成フレームワークを提案する。
  論文  参考訳（メタデータ） (2025-05-22T14:09:39Z)
• Unveiling Vulnerabilities of Contrastive Recommender Systems to Poisoning Attacks [48.911832772464145]
  コントラスト学習(CL)は近年,レコメンダシステムの領域で注目されている。 本稿では,CLをベースとしたレコメンデータシステムの脆弱性を明らかにする。
  論文  参考訳（メタデータ） (2023-11-30T04:25:28Z)
• Boosting Adversarial Transferability via Fusing Logits of Top-1 Decomposed Feature [36.78292952798531]
  本稿では,Singular Value Decomposition(SVD)に基づく特徴レベル攻撃法を提案する。 提案手法は,中間層特徴量より大きい特異値に付随する固有ベクトルがより優れた一般化と注意特性を示すという発見に着想を得たものである。
  論文  参考訳（メタデータ） (2023-05-02T12:27:44Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。