論文の概要: Exploring the Escalation of Source Bias in User, Data, and Recommender System Feedback Loop
- arxiv url: http://arxiv.org/abs/2405.17998v2
- Date: Tue, 10 Jun 2025 07:35:41 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-06-11 15:11:38.464379
- Title: Exploring the Escalation of Source Bias in User, Data, and Recommender System Feedback Loop
- Title（参考訳）: ユーザ,データ,レコメンダシステムフィードバックループにおけるソースバイアスのエスカレーションの探索
- Authors: Yuqi Zhou, Sunhao Dai, Liang Pang, Gang Wang, Zhenhua Dong, Jun Xu, Ji-Rong Wen,
- Abstract要約: 我々は,AIGC(AIGC)がレコメンダシステムの性能と力学に与える影響について検討する。
短期的には、AIGCに対する偏見はLLMベースのコンテンツ作成を促進し、AIGCコンテンツを増大させ、不公平なトラフィック分散を引き起こす。
長期コンテンツエコシステムのバランスを維持するため,L1-loss最適化に基づくデバイアス化手法を提案する。
- 参考スコア（独自算出の注目度）: 65.23044868332693
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Recommender systems are essential for information access, allowing users to present their content for recommendation. With the rise of large language models (LLMs), AI-generated content (AIGC), primarily in the form of text, has become a central part of the content ecosystem. As AIGC becomes increasingly prevalent, it is important to understand how it affects the performance and dynamics of recommender systems. To this end, we construct an environment that incorporates AIGC to explore its short-term impact. The results from popular sequential recommendation models reveal that AIGC are ranked higher in the recommender system, reflecting the phenomenon of source bias. To further explore the long-term impact of AIGC, we introduce a feedback loop with realistic simulators. The results show that the model's preference for AIGC increases as the user clicks on AIGC rises and the model trains on simulated click data. This leads to two issues: In the short term, bias toward AIGC encourages LLM-based content creation, increasing AIGC content, and causing unfair traffic distribution. From a long-term perspective, our experiments also show that when AIGC dominates the content ecosystem after a feedback loop, it can lead to a decline in recommendation performance. To address these issues, we propose a debiasing method based on L1-loss optimization to maintain long-term content ecosystem balance. In a real-world environment with AIGC generated by mainstream LLMs, our method ensures a balance between AIGC and human-generated content in the ecosystem. The code and dataset are available at https://github.com/Yuqi-Zhou/Rec_SourceBias.
- Abstract（参考訳）: インフォメーションアクセスにはレコメンデーションシステムが不可欠であり、ユーザーはレコメンデーションのためにコンテンツを提示できる。
大規模言語モデル(LLM)の台頭に伴い、主にテキスト形式でAIGC(AI- generated content)がコンテンツエコシステムの中心となっている。
AIGCが普及するにつれて、レコメンダシステムのパフォーマンスやダイナミクスにどのように影響するかを理解することが重要である。
この目的のために,AIGCを組み込んだ環境を構築し,その短期的な影響を探究する。
一般的なシーケンシャルレコメンデーションモデルの結果、AIGCは、ソースバイアスの現象を反映して、レコメンダシステムで上位にランクされていることが明らかになった。
AIGCの長期的影響を探るため,現実的なシミュレータを用いたフィードバックループを導入する。
その結果、ユーザーがAIGCをクリックするとモデルがAIGCを好み、モデルがシミュレーションされたクリックデータでトレーニングすると、モデルがAIGCを好むことが示唆された。
短期的には、AIGCに対する偏見はLLMベースのコンテンツ作成を促進し、AIGCコンテンツを増大させ、不公平なトラフィック分散を引き起こす。
長期的な見地から、私たちの実験は、フィードバックループの後にAIGCがコンテンツエコシステムを支配している場合、レコメンデーションパフォーマンスが低下する可能性があることも示しています。
これらの課題に対処するため,L1-loss最適化に基づくデバイアス法を提案し,長期的コンテンツエコシステムのバランスを維持する。
主流のLLMが生成するAIGCを用いた実環境において,本手法はエコシステム内のAIGCと人為的コンテンツとのバランスを確保する。
コードとデータセットはhttps://github.com/Yuqi-Zhou/Rec_SourceBias.comで公開されている。
関連論文リスト
- Why am I seeing this? Towards recognizing social media recommender systems with missing recommendations [4.242821809663174]
グラフニューラルネットワーク(GNN)を用いた自動レコメンダ認識手法を提案する。
提案手法は,隠されたレコメンデータの正確な検出とユーザ行動への影響を可能にする。
この研究は、レコメンダが行動をどのように形成し、偏光と誤情報を減らすための努力を支援するかについての洞察を提供する。
論文 参考訳（メタデータ） (2025-04-15T09:16:17Z) - Collaborative Diffusion Model for Recommender System [52.56609747408617]
Recommender System (CDiff4Rec) のための協調拡散モデルを提案する。
CDiff4Recはアイテム機能から擬似ユーザを生成し、本物と偽の個人的隣人の両方から協調的な信号を利用する。
3つの公開データセットによる実験結果から、CDiff4Recは、パーソナライズされた情報の損失を効果的に軽減することで、競合より優れていることが示された。
論文 参考訳（メタデータ） (2025-01-31T10:05:01Z) - Debiased Recommendation with Noisy Feedback [41.38490962524047]
収集データ中のMNARとOMEから予測モデルの非バイアス学習に対する交差点脅威について検討する。
まず, OME-EIB, OME-IPS, OME-DR推定器を設計する。
論文 参考訳（メタデータ） (2024-06-24T23:42:18Z) - Causal Distillation for Alleviating Performance Heterogeneity in Recommender Systems [142.3424649008479]
歴史的相互作用の不均一な分布とレコメンダモデルのバイアス付きトレーニングを示す。
デバイアスドトレーニングの鍵は、ユーザの過去の行動と次の行動の両方に影響を与える共同創設者の影響を取り除くことである。
本稿では,非保守的共同設立者に対応するために,因果多教師蒸留フレームワーク(CausalD)を提案する。
論文 参考訳（メタデータ） (2024-05-31T05:31:00Z) - Managing multi-facet bias in collaborative filtering recommender systems [0.0]
アイテムグループ間のバイアスドレコメンデーションは、システムに対するユーザの不満を引き起こすとともに、アイテムプロバイダの利益を脅かす可能性がある。
本研究の目的は,最先端の協調フィルタリング推薦アルゴリズムの出力における地理的起源と人気に関する新たなタイプの交叉バイアスを管理することである。
2つの実世界の映画と書籍のデータセットに関する大規模な実験は、アイテムの生産大陸に富んだものであり、提案アルゴリズムが精度と上記のバイアスの両タイプの間に合理的なバランスをとっていることを示している。
論文 参考訳（メタデータ） (2023-02-21T10:06:01Z) - Breaking Feedback Loops in Recommender Systems with Causal Inference [99.22185950608838]
近年の研究では、フィードバックループが推奨品質を損なう可能性があり、ユーザの振る舞いを均質化している。
本稿では、因果推論を用いてフィードバックループを確実に破壊するアルゴリズムCAFLを提案する。
従来の補正手法と比較して,CAFLは推奨品質を向上することを示す。
論文 参考訳（メタデータ） (2022-07-04T17:58:39Z) - Cross Pairwise Ranking for Unbiased Item Recommendation [57.71258289870123]
我々はCPR(Cross Pairwise Ranking)という新しい学習パラダイムを開発する。
CPRは、露出メカニズムを知らずに不偏の推奨を達成する。
理論的には、この方法が学習に対するユーザ/イテムの適合性の影響を相殺することを証明する。
論文 参考訳（メタデータ） (2022-04-26T09:20:27Z) - Deep Causal Reasoning for Recommendations [47.83224399498504]
推薦システム研究の新たなトレンドは、共同創設者の影響を因果的観点から否定することである。
提案手法は多因性マルチアウトカム(MCMO)推論問題としてモデル化する。
MCMOモデリングは,高次元因果空間に付随する観測が不十分なため,高いばらつきをもたらす可能性があることを示す。
論文 参考訳（メタデータ） (2022-01-06T15:00:01Z) - Correcting the User Feedback-Loop Bias for Recommendation Systems [34.44834423714441]
本稿では,レコメンデーションシステムにおいて,ユーザのフィードバックループバイアスを修正するための系統的かつ動的手法を提案する。
本手法は,各ユーザの動的評価履歴の埋め込みを学習するためのディープラーニングコンポーネントを含む。
実世界のレコメンデーションシステムにおけるユーザフィードバックループバイアスの存在を実証的に検証した。
論文 参考訳（メタデータ） (2021-09-13T15:02:55Z) - Contrastive Learning for Debiased Candidate Generation in Large-Scale
Recommender Systems [84.3996727203154]
コントラスト損失の一般的な選択は、逆確率重み付けによる露光バイアスの低減と等価であることを示す。
我々はCLRecをさらに改良し、マルチCLRecを提案する。
提案手法は,少なくとも4ヶ月のオンラインA/Bテストとオフライン分析が実施され,大幅に改善されている。
論文 参考訳（メタデータ） (2020-05-20T08:15:23Z) - Modeling and Counteracting Exposure Bias in Recommender Systems [0.0]
本研究では,行列因数分解など,広く用いられている推奨戦略に固有のバイアスについて検討する。
本稿では,リコメンデータシステムのための新しいデバイアス対策を提案する。
その結果,レコメンダシステムにはバイアスがあり,ユーザの事前の露出に依存していることがわかった。
論文 参考訳（メタデータ） (2020-01-01T00:12:34Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。