論文の概要: With a Little Help From My Friends: Collective Manipulation in Risk-Controlling Recommender Systems

• arxiv url: http://arxiv.org/abs/2603.28476v1
• Date: Mon, 30 Mar 2026 14:14:48 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-03-31 23:18:45.438443
• Title: With a Little Help From My Friends: Collective Manipulation in Risk-Controlling Recommender Systems
• Title（参考訳）: 友人の助けを借りて:リスク制御型レコメンダシステムにおける集合的操作
• Authors: Giovanni De Toni, Cristian Consonni, Erasmo Purificato, Emilia Gomez, Bruno Lepri,
• Abstract要約: 本研究は,nDCGの劣化率を最大20%まで低下させることが,非競合ユーザに対して可能であることを示す。 本稿では,保証をグループレベルからユーザレベルにシフトさせる緩和戦略を提案する。
• 参考スコア（独自算出の注目度）: 7.21571646225215
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: Recommendation systems have become central gatekeepers of online information, shaping user behaviour across a wide range of activities. In response, users increasingly organize and coordinate to steer algorithmic outcomes toward diverse goals, such as promoting relevant content or limiting harmful material, relying on platform affordances -- such as likes, reviews, or ratings. While these mechanisms can serve beneficial purposes, they can also be leveraged for adversarial manipulation, particularly in systems where such feedback directly informs safety guarantees. In this paper, we study this vulnerability in recently proposed risk-controlling recommender systems, which use binary user feedback (e.g., "Not Interested") to provably limit exposure to unwanted content via conformal risk control. We empirically demonstrate that their reliance on aggregate feedback signals makes them inherently susceptible to coordinated adversarial user behaviour. Using data from a large-scale online video-sharing platform, we show that a small coordinated group (comprising only 1% of the user population) can induce up to a 20% degradation in nDCG for non-adversarial users by exploiting the affordances provided by risk-controlling recommender systems. We evaluate simple, realistic attack strategies that require little to no knowledge of the underlying recommendation algorithm and find that, while coordinated users can significantly harm overall recommendation quality, they cannot selectively suppress specific content groups through reporting alone. Finally, we propose a mitigation strategy that shifts guarantees from the group level to the user level, showing empirically how it can reduce the impact of adversarial coordinated behaviour while ensuring personalized safety for individuals.
• Abstract（参考訳）: レコメンデーションシステムはオンライン情報の中心的なキーパーとなり、幅広い活動にまたがってユーザー行動を形成している。 これに対し,ユーザは,関連するコンテンツの促進や有害物質の制限,プラットフォームの余裕(いいね!,レビュー,評価など)への依存など,さまざまな目標に向けて,アルゴリズム的な成果の運営を組織化し,コーディネートする傾向が強まっている。 これらのメカニズムは有益な目的を果たすことができるが、特にそのようなフィードバックが安全保証を直接通知するシステムにおいて、敵の操作に利用することもできる。 本稿では,最近提案されたリスク制御レコメンデータシステムにおいて,この脆弱性について検討する。これは,二元的ユーザフィードバック(例えば "Not Interested" など)を用いて,共形リスク制御による不必要なコンテンツへの露出を確実に制限するシステムである。 本研究は,アグリゲートフィードバック信号への依存が,協調したユーザ行動に本質的に影響していることを実証的に示す。 大規模オンラインビデオ共有プラットフォームから得られるデータを用いて、リスク制御レコメンダシステムによって提供される費用を活用すれば、小規模のコーディネートグループ(ユーザ人口の1%しか構成していない)が、非競合ユーザに対するnDCGの最大20%の劣化を誘発できることを示す。 我々は,提案アルゴリズムの知識をほとんど必要としない,単純で現実的な攻撃戦略を評価し,コーディネートされたユーザは,全体的なレコメンデーション品質を著しく損なうことができるが,レポートだけでは特定のコンテンツグループを選択的に抑制することはできないことを確認した。 最後に,個人に対してパーソナライズされた安全を確保しつつ,対人協調行動の影響をいかに軽減できるかを実証的に示すことで,保証をグループレベルからユーザレベルにシフトさせる緩和戦略を提案する。

関連論文リスト

• Community Notes are Vulnerable to Rater Bias and Manipulation [75.34858521118305]
  本研究では,現実的なレーダやノートの振る舞いをモデル化したシミュレーションデータを用いて,コミュニティノートアルゴリズムの評価を行う。 このアルゴリズムは、真に有用な音符のかなりの部分を抑制することができ、レーダバイアスに非常に敏感である。
  論文  参考訳（メタデータ） (2025-11-04T14:39:34Z)
• The Sum Leaks More Than Its Parts: Compositional Privacy Risks and Mitigations in Multi-Agent Collaboration [72.33801123508145]
  大規模言語モデル(LLM)はマルチエージェントシステムに不可欠なものである。 プライバシーリスクは、暗記、直接推論、シングルターン評価を超えて現れる。 特に、相互作用によって構成される一見無害な反応は、敵が機密情報の回復を累積的に行うことができる。
  論文  参考訳（メタデータ） (2025-09-16T16:57:25Z)
• RecPS: Privacy Risk Scoring for Recommender Systems [14.700807572189412]
  インタラクションとユーザレベルでのプライバシリスクを測定するために,MIAベースのプライバシスコア手法であるRecPSを提案する。 重要なコンポーネントは相互作用レベルMIAメソッドRecLiRAであり、高品質なメンバシップ推定を提供する。
  論文  参考訳（メタデータ） (2025-07-24T12:46:30Z)
• You Don't Bring Me Flowers: Mitigating Unwanted Recommendations Through Conformal Risk Control [17.919072158085754]
  本稿では、共形リスク制御を用いて、パーソナライズされたレコメンデーションにおいて、不必要なコンテンツを確実に拘束する直感的で、モデルに依存しない、かつ、配布不要な手法を提案する。 当社のアプローチは、最小限の努力で、効果的かつ制御可能な推奨事項の削減を保証します。
  論文  参考訳（メタデータ） (2025-07-09T21:27:35Z)
• Quantifying User Coherence: A Unified Framework for Cross-Domain Recommendation Analysis [69.37718774071793]
  本稿では,レコメンデーションシステムを理解するための新しい情報理論手法を提案する。 9つのデータセットで7つのレコメンデーションアルゴリズムを評価し、測定値と標準的なパフォーマンス指標の関係を明らかにする。
  論文  参考訳（メタデータ） (2024-10-03T13:02:07Z)
• Improving the Shortest Plank: Vulnerability-Aware Adversarial Training for Robust Recommender System [60.719158008403376]
  VAT(Vulnerability-aware Adversarial Training)は、レコメンデーションシステムにおける中毒攻撃に対する防御を目的とした訓練である。 VATは、システムの適合度に基づいて、ユーザの脆弱性を推定するために、新たな脆弱性認識機能を採用している。
  論文  参考訳（メタデータ） (2024-09-26T02:24:03Z)
• Poisoning Decentralized Collaborative Recommender System and Its Countermeasures [37.205493894131635]
  我々はPAMN(Adaptive Malicious Neighbors)によるPoisoningという新たな攻撃方法を提案する。 PAMNは、トップKレコメンデーションを攻撃目標とすることで、ターゲットアイテムのランクを複数の敵で効果的に引き上げる。 DecRecsの脆弱性が明らかになったことで、ユーザーレベルの勾配クリッピングとスペーサー付き更新に基づく専用の防御機構が提案されている。
  論文  参考訳（メタデータ） (2024-04-01T15:30:02Z)
• User-Controllable Recommendation via Counterfactual Retrospective and Prospective Explanations [96.45414741693119]
  本稿では,説明可能性と可制御性をシームレスに統合するユーザ制御型レコメンデータシステムを提案する。 反ファクト推論を通じて、ふりかえりと予測的な説明の両方を提供することで、ユーザーはシステムに対する制御をカスタマイズできる。
  論文  参考訳（メタデータ） (2023-08-02T01:13:36Z)
• PipAttack: Poisoning Federated Recommender Systems forManipulating Item Promotion [58.870444954499014]
  一般的な実践は、分散化された連邦学習パラダイムの下でレコメンデーターシステムをサブスクライブすることである。 本稿では,対象項目の促進のために,フェデレートされたレコメンデータシステムをバックドア化するための体系的アプローチを提案する。
  論文  参考訳（メタデータ） (2021-10-21T06:48:35Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。