論文の概要: Bias Mitigation for AI-Feedback Loops in Recommender Systems: A Systematic Literature Review and Taxonomy

• arxiv url: http://arxiv.org/abs/2509.00109v1
• Date: Thu, 28 Aug 2025 09:12:38 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-09-04 15:17:03.086356
• Title: Bias Mitigation for AI-Feedback Loops in Recommender Systems: A Systematic Literature Review and Taxonomy
• Title（参考訳）: RecommenderシステムにおけるAI-Feedbackループのバイアス軽減: 体系的文献レビューと分類学
• Authors: Theodor Stoecker, Samed Bayer, Ingo Weber,
• Abstract要約: 本稿では,バイアス緩和手法の体系的な文献レビューを行う。 彼らはAIフィードバックループを明示的に検討し、マルチラウンドシミュレーションやライブA/Bテストで検証される。 各研究は、緩和テクニック、バイアス対応、動的テストセットアップ、評価フォーカス、アプリケーションドメイン、MLタスクの6つの次元でコーディングされ、それらを再利用可能な分類に編成する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Recommender systems continually retrain on user reactions to their own predictions, creating AI feedback loops that amplify biases and diminish fairness over time. Despite this well-known risk, most bias mitigation techniques are tested only on static splits, so their long-term fairness across multiple retraining rounds remains unclear. We therefore present a systematic literature review of bias mitigation methods that explicitly consider AI feedback loops and are validated in multi-round simulations or live A/B tests. Screening 347 papers yields 24 primary studies published between 2019-2025. Each study is coded on six dimensions: mitigation technique, biases addressed, dynamic testing set-up, evaluation focus, application domain, and ML task, organising them into a reusable taxonomy. The taxonomy offers industry practitioners a quick checklist for selecting robust methods and gives researchers a clear roadmap to the field's most urgent gaps. Examples include the shortage of shared simulators, varying evaluation metrics, and the fact that most studies report either fairness or performance; only six use both.
• Abstract（参考訳）: Recommenderシステムは、自身の予測に対するユーザーの反応を継続的にリトレーニングし、バイアスを増幅し、時間とともに公正さを低下させるAIフィードバックループを作成します。 このよく知られたリスクにもかかわらず、ほとんどのバイアス緩和技術は静的な分割でのみテストされるため、複数の再訓練ラウンドにわたる長期的な公正性は不明確である。 そこで我々は,AIフィードバックループを明示的に考慮し,マルチラウンドシミュレーションやライブA/Bテストで検証されるバイアス軽減手法について,系統的な文献レビューを行った。 347の論文を閲覧すると、2019年から2025年の間に24の初等研究が発行される。 各研究は、緩和テクニック、バイアス対応、動的テストセットアップ、評価フォーカス、アプリケーションドメイン、MLタスクの6つの次元でコーディングされ、それらを再利用可能な分類に編成する。 この分類法は、業界関係者に堅牢な方法を選択するための簡単なチェックリストを提供し、研究者にこの分野の最も急激なギャップへの明確なロードマップを与える。 例えば、共有シミュレータの不足、様々な評価指標、そしてほとんどの研究が公正さまたはパフォーマンスを報告しているという事実がある。

関連論文リスト

• Take Care of Your Prompt Bias! Investigating and Mitigating Prompt Bias in Factual Knowledge Extraction [56.17020601803071]
  近年の研究では、事前学習言語モデル(PLM)が、事実知識抽出において「急激なバイアス」に悩まされていることが示されている。 本稿では,突発バイアスを徹底的に調査し緩和することにより,既存のベンチマークの信頼性を向上させることを目的とする。
  論文  参考訳（メタデータ） (2024-03-15T02:04:35Z)
• Bias Mimicking: A Simple Sampling Approach for Bias Mitigation [57.17709477668213]
  本稿では,新しいクラス条件サンプリング手法であるBias Mimickingを紹介する。 Bias Mimickingは、4つのベンチマークで3%の精度でサンプリングの精度を向上する。
  論文  参考訳（メタデータ） (2022-09-30T17:33:00Z)
• Bias Mitigation for Machine Learning Classifiers: A Comprehensive Survey [30.637712832450525]
  ML分類器のバイアス軽減に関する合計341の論文を収集する。 本論文では,既存のバイアス緩和手法について検討する。 収集した知見に基づいて,新たなバイアス緩和手法の開発と評価を行う上で,実践者を支援することを望む。
  論文  参考訳（メタデータ） (2022-07-14T17:16:45Z)
• An Investigation of Replay-based Approaches for Continual Learning [79.0660895390689]
  連続学習(CL)は機械学習(ML)の大きな課題であり、破滅的忘れ(CF)を伴わずに連続的に複数のタスクを学習する能力を記述する。 いくつかの解クラスが提案されており、その単純さと堅牢性から、いわゆるリプレイベースのアプローチは非常に有望であるように思われる。 連続学習におけるリプレイに基づくアプローチを実証的に検討し,応用の可能性を評価する。
  論文  参考訳（メタデータ） (2021-08-15T15:05:02Z)
• Are Bias Mitigation Techniques for Deep Learning Effective? [24.84797949716142]
  改良された評価プロトコル、有能なメトリクス、新しいデータセットを導入する。 我々は、同じネットワークアーキテクチャを用いて、7つの最先端アルゴリズムを評価する。 アルゴリズムは隠れバイアスを悪用し、複数の形式のバイアスにスケールできず、チューニングセットの選択に非常に敏感であることがわかった。
  論文  参考訳（メタデータ） (2021-04-01T00:14:45Z)
• Contrastive Learning for Debiased Candidate Generation in Large-Scale Recommender Systems [84.3996727203154]
  コントラスト損失の一般的な選択は、逆確率重み付けによる露光バイアスの低減と等価であることを示す。 我々はCLRecをさらに改良し、マルチCLRecを提案する。 提案手法は,少なくとも4ヶ月のオンラインA/Bテストとオフライン分析が実施され,大幅に改善されている。
  論文  参考訳（メタデータ） (2020-05-20T08:15:23Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。