論文の概要: PACT: Defending Recommendation against Promotional News Rewriting via Attack-Diverse Score Consistency

• arxiv url: http://arxiv.org/abs/2611.00972v1
• Date: Sat, 31 Oct 2026 14:15:07 GMT
• ステータス: 情報取得中
• システム内更新日: 2026-11-03 19:59:38.733281
• Title: PACT: Defending Recommendation against Promotional News Rewriting via Attack-Diverse Score Consistency
• Title（参考訳）: PACT:Attack-diverse Score Consistencyによる宣伝ニュースの書き直しに対する勧告の擁護
• Abstract要約: PACTは、レトリックのバリエーションから関連性の推定を分離するモデルに依存しない防御である。 トレーニングされたレコメンデータを、余分なレイテンシでデプロイする。 常に最低の昇進率と目標被曝を達成する。
• 参考スコア（独自算出の注目度）: 10.180191919261544
• License:
• Abstract: Personalized news recommenders are increasingly vulnerable to LLM-powered promotional attacks, where content providers rephrase headlines to manipulate rankings without altering underlying facts. Defending against such manipulation requires covering a wide spectrum of LLM generators and optimization strategies--ranging from stylistic prompting to reinforcement feedback--without incurring prohibitive training or inference costs. In this work, we present PACT (Pooled Attack Consistency Training), a model-agnostic defense that decouples relevance estimation from superficial rhetorical variations. PACT integrates three synergistic operations: it pools offline, fact-checked rewrites from multi-generator and multi-strategy attack sources; samples a constant number of variants at each training visit to yield an unbiased estimator of the pool-wide consistency objective under a fixed compute budget; and aligns original and rewritten ranking scores within the same user context jointly with click supervision. Requiring no architectural modifications or test-time filtering, PACT deploys the trained recommender with zero extra latency. Across nine experimental settings spanning three recommendation backbones and three unseen-generator attacks, PACT consistently achieves the lowest promotion rate and target exposure, outperforming the strongest defense baseline by up to 3.0 percentage points in promotion reduction under LANCE. Further evaluations verify that PACT's superiority holds robustly under unseen attack-strategy holdouts and adaptive white-box retraining, while keeping clean recommendation utility virtually intact.
• Abstract（参考訳）: パーソナライズされたニュースレコメンダは、LLMによるプロモーション攻撃に対してますます脆弱になっている。 このような操作に対処するには、幅広い LLM ジェネレータと最適化戦略をカバーし、スタイリスティックなプロンプトから強化されたフィードバック、そして禁止的なトレーニングや推論コストを伴わずに実施する必要がある。 本研究は,表層レトリック変動から妥当性推定を分離するモデル非依存の防御であるPACT(Pooled Attack Consistency Training)を提案する。 PACTは、オフライン、ファクトチェックされたマルチジェネレータとマルチストラテジー攻撃源からのリライトをプールし、各トレーニング訪問で一定数の変種をサンプリングし、固定された計算予算の下でプール全体の一貫性目標の偏りのない推定値を得る。 アーキテクチャの変更やテストタイムのフィルタリングを必要としないため、PACTはトレーニング済みのレコメンデータを追加のレイテンシゼロでデプロイする。 PACTは3つの推奨バックボーンと3つの未確認ジェネレーター攻撃にまたがる9つの実験的な設定において、常に最低のプロモーション率と目標被曝を達成し、LANCEの下では最大3.0ポイントの防衛基準を達成している。 さらなる評価では、PACTの優位性は目に見えない攻撃戦略のホールトアウトと適応的なホワイトボックス再トレーニングの下でしっかりと維持され、クリーンなレコメンデーションユーティリティは事実上維持されている。

関連論文リスト

• Adversarial Training for Tabular Credit Scoring: A Multi-Attack Robustness Evaluation in P2P Lending [0.0]
  機械学習に基づく信用スコアリングは、ピアツーピア(P2P)融資の中心となっている。 しかし、自己申告した入力を戦略的に変更する敵の操作に対するレジリエンスは、いまだに理解されていない。 大規模なLending Clubサブセット上で、系統的なトレインテストベンチマークロバストネスを用いて、この問題に対処する。
  論文  参考訳（メタデータ） (2026-09-09T09:35:44Z)
• CoER: Defending against Adaptive Indirect Prompt Injection via Adversarial Co-Evolution and Refinement [19.128257554975104]
  言語モデルエージェントは、ツール使用中に間接的プロンプトインジェクション(IPI)に対して脆弱である。 検証器を用いた共進化・改良フレームワークであるCoERを提案する。 主要な7ドメイン評価では、CoERは全体的な攻撃成功を38.5%から0.2%に削減した。
  論文  参考訳（メタデータ） (2026-09-07T14:09:11Z)
• Stateful Cooperative Agents Safeguarding LLMs Against Evolving Multi-Turn Attacks [56.45762972211923]
  マルチターン攻撃に対するLDMの安全性を確保するためのプロアクティブ・ディフェンス・フレームワークを提案する。 特殊なエージェントが補完的な防衛戦略を実行するような、協調的なマルチエージェントアーキテクチャを採用している。 マルチターン攻撃における進化戦略をシミュレートするEMRAデータセットを提案する。
  論文  参考訳（メタデータ） (2026-07-31T14:04:49Z)
• Defending against Adaptive Prompt Injection Attacks via Reasoning-enabled Task Alignment [25.752599132396437]
  間接的なプロンプトインジェクションは、エージェントがタスク実行中に検索するサードパーティデータに悪意のある命令を埋め込むことによって、LLMベースのエージェントをハイジャックする。 既存のディフェンスでは、静的なベンチマークでほぼゼロの攻撃成功率を報告しているが、最近のアダプティブ評価では、攻撃者がデプロイされたディフェンスに対して最適化を許せば、これらの結果は崩壊する。 本稿では,攻撃者が制御するデータではなく,ユーザタスクに対する防衛判断を基礎としたトレーニングベースのRETAを提案する。
  論文  参考訳（メタデータ） (2026-06-13T19:15:44Z)
• WMAttack: Automated Attack Search for Adversarial Evaluation of World-Model Agents [53.84430233754606]
  WMAttackは、世界モデルエージェントの敵意評価のための自動攻撃探索フレームワークである。 WMAttackは攻撃構成に対する有限予算探索としてロバストネス評価を定式化する。 WMAttackは評価ベースラインよりも強力な攻撃を継続的に発見することを示す。
  論文  参考訳（メタデータ） (2026-05-22T04:31:09Z)
• EVPO: Explained Variance Policy Optimization for Adaptive Critic Utilization in LLM Post-Training [69.32453275232662]
  学習した評論家は、利点のばらつきを減らさずに、取得した状態信号を超える推定ノイズを注入できることを示す。 本稿では,各トレーニングステップでバッチレベルのEVを監視し,批判ベースとバッチ平均の利点推定を適応的に切り替えるEVPOを提案する。
  論文  参考訳（メタデータ） (2026-04-21T14:07:39Z)
• OptiLeak: Efficient Prompt Reconstruction via Reinforcement Learning in Multi-tenant LLM Services [14.316936569697738]
  マルチテナント LLM サービスフレームワークは、効率を高めるために共有キーバリューキャッシュを広く採用している。 これにより、サイドチャネルの脆弱性が生成され、即座に漏洩攻撃が発生する。 我々は,迅速な再構築効率を最大化する強化学習強化フレームワークOptiLeakを提案する。
  論文  参考訳（メタデータ） (2026-02-24T06:35:22Z)
• Safe, Efficient, and Robust Reinforcement Learning for Ranking and Diffusion Models [2.231476498067998]
  論文は、強化学習手法が安全で、サンプル効率が高く、堅牢であるようにどのように設計できるかを調査する。 コンテキスト帯域RLの統一的な視点から判断されたこの作業は、ランキングとレコメンデーション、テキストから画像への拡散モデルという2つの主要なアプリケーション領域に対処する。
  論文  参考訳（メタデータ） (2025-10-17T08:37:38Z)
• CleanerCLIP: Fine-grained Counterfactual Semantic Augmentation for Backdoor Defense in Contrastive Learning [53.766434746801366]
  バックドアトリガの特徴的接続を遮断するための細粒な textbfText textbfAlignment textbfCleaner (TA-Cleaner) を提案する。 TA-Cleanerは、ファインタニングベースの防御技術の中で最先端の防御性を達成している。
  論文  参考訳（メタデータ） (2024-09-26T07:35:23Z)
• Toward Optimal LLM Alignments Using Two-Player Games [86.39338084862324]
  本稿では,対戦相手と防御エージェントの反復的相互作用を含む2エージェントゲームのレンズによるアライメントについて検討する。 この反復的強化学習最適化がエージェントによって誘導されるゲームに対するナッシュ平衡に収束することを理論的に実証する。 安全シナリオにおける実験結果から、このような競争環境下での学習は、完全に訓練するエージェントだけでなく、敵エージェントと防御エージェントの両方に対する一般化能力の向上したポリシーにつながることが示されている。
  論文  参考訳（メタデータ） (2024-06-16T15:24:50Z)
• Securing Recommender System via Cooperative Training [78.97620275467733]
  本稿では,データを相互に強化する3つの協調モデルを用いたTCD(Triple Cooperative Defense)を提案する。 既存の攻撃が二段階最適化と効率のバランスをとるのに苦労していることを考えると、リコメンダシステムにおける毒殺攻撃を再考する。 我々はゲームベースのコトレーニングアタック(GCoAttack)を提案し,提案したCoAttackとTCDをゲーム理論のプロセスとする。
  論文  参考訳（メタデータ） (2024-01-23T12:07:20Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。