論文の概要: Countering Mainstream Bias via End-to-End Adaptive Local Learning

• arxiv url: http://arxiv.org/abs/2404.08887v1
• Date: Sat, 13 Apr 2024 03:17:33 GMT
• ステータス: 処理完了
• システム内更新日: 2024-04-16 18:13:13.353906
• Title: Countering Mainstream Bias via End-to-End Adaptive Local Learning
• Title（参考訳）: エンド・ツー・エンド適応型ローカル学習による主流バイアスのカウンセリング
• Authors: Jinhao Pan, Ziwei Zhu, Jianling Wang, Allen Lin, James Caverlee,
• Abstract要約: CF(Collaborative Filtering)ベースのレコメンデーションは、主流のバイアスに悩まされる。 主流ユーザとニッチユーザの両方に高品質なレコメンデーションを提供するために,新しいエンドツーエンド適応型ローカル学習フレームワークを提案する。
• 参考スコア（独自算出の注目度）: 17.810760161534247
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Collaborative filtering (CF) based recommendations suffer from mainstream bias -- where mainstream users are favored over niche users, leading to poor recommendation quality for many long-tail users. In this paper, we identify two root causes of this mainstream bias: (i) discrepancy modeling, whereby CF algorithms focus on modeling mainstream users while neglecting niche users with unique preferences; and (ii) unsynchronized learning, where niche users require more training epochs than mainstream users to reach peak performance. Targeting these causes, we propose a novel end-To-end Adaptive Local Learning (TALL) framework to provide high-quality recommendations to both mainstream and niche users. TALL uses a loss-driven Mixture-of-Experts module to adaptively ensemble experts to provide customized local models for different users. Further, it contains an adaptive weight module to synchronize the learning paces of different users by dynamically adjusting weights in the loss. Extensive experiments demonstrate the state-of-the-art performance of the proposed model. Code and data are provided at \url{https://github.com/JP-25/end-To-end-Adaptive-Local-Leanring-TALL-}
• Abstract（参考訳）: コラボレーションフィルタリング(CF)ベースのレコメンデーションは、主流のユーザがニッチなユーザよりも好まれる主流のバイアスに悩まされ、多くのロングテールユーザにとって推奨品質が低下する。 本稿では,この主流バイアスの根本原因を2つ同定する。 (i)独特な好みを持つニッチなユーザを無視しながら、CFアルゴリズムが主流のユーザをモデリングすることに焦点を当てた不一致モデリング。 ニッチなユーザにとって,ピーク時のパフォーマンスを達成するためには,主流ユーザよりも多くのトレーニングエポックが必要なのだ。 これらの原因をターゲットとして,主流ユーザとニッチユーザの両方に高品質なレコメンデーションを提供するために,新しいエンドツーエンド適応型ローカル学習(TALL)フレームワークを提案する。 TALLは、損失駆動のMixture-of-Expertsモジュールを使用して、専門家を適応的にアンサンブルし、異なるユーザ向けにカスタマイズされたローカルモデルを提供する。 さらに、損失の重みを動的に調整することにより、異なるユーザの学習ペースを同期させる適応重みモジュールを含む。 大規模な実験により,提案モデルの最先端性能が実証された。 コードとデータは \url{https://github.com/JP-25/end-To-end-Adaptive-Local-Leanring-TALL-} で提供される。

関連論文リスト

• Client-Centric Federated Adaptive Optimization [78.30827455292827]
  Federated Learning(FL)は、クライアントが独自のデータをプライベートに保ちながら、協調的にモデルをトレーニングする分散学習パラダイムである。 本稿では,新しいフェデレーション最適化手法のクラスであるフェデレーション中心適応最適化を提案する。
  論文  参考訳（メタデータ） (2025-01-17T04:00:50Z)
• Few-shot Steerable Alignment: Adapting Rewards and LLM Policies with Neural Processes [50.544186914115045]
  大きな言語モデル(LLM)は、日々のアプリケーションにますます組み込まれています。 個人ユーザの多様な嗜好との整合性を確保することは、重要な課題となっている。 数発のステアライメントのための新しいフレームワークを提案する。
  論文  参考訳（メタデータ） (2024-12-18T16:14:59Z)
• ComPO: Community Preferences for Language Model Personalization [122.54846260663922]
  ComPOは、言語モデルにおける好みの最適化をパーソナライズする手法である。 ComPRedはRedditからコミュニティレベルの好みを持った質問応答データセットです。
  論文  参考訳（メタデータ） (2024-10-21T14:02:40Z)
• Personalizing Reinforcement Learning from Human Feedback with Variational Preference Learning [12.742158403867002]
  ヒューマンフィードバックからの強化学習は、基礎モデルを人間の価値観や好みに合わせるための強力なパラダイムである。 現在のRLHF技術は、多様な集団における個人の嗜好の自然に生じる相違を説明できない。 マルチモーダルなRLHF手法のクラスを開発し,多元的アライメントの必要性に対処する。
  論文  参考訳（メタデータ） (2024-08-19T15:18:30Z)
• Causal Structure Representation Learning of Confounders in Latent Space for Recommendation [6.839357057621987]
  ユーザの過去のフィードバックからユーザの好みを推測することは,レコメンデーションシステムにおいて重要な問題である。 我々は、共同創設者の影響を考慮し、潜在分野におけるユーザー嗜好から引き離し、相互依存をモデル化するために因果グラフを用いる。
  論文  参考訳（メタデータ） (2023-11-02T08:46:07Z)
• Separating and Learning Latent Confounders to Enhancing User Preferences Modeling [6.0853798070913845]
  我々は、推薦のための新しいフレームワーク、SLFR(Separating and Learning Latent Confounders for Recommendation)を提案する。 SLFRは、未測定の共同設立者の表現を取得し、ユーザ嗜好と未測定の共同設立者を遠ざけ、反実的なフィードバックを識別する。 5つの実世界のデータセットで実験を行い、本手法の利点を検証した。
  論文  参考訳（メタデータ） (2023-11-02T08:42:50Z)
• Linear Speedup in Personalized Collaborative Learning [69.45124829480106]
  フェデレート学習におけるパーソナライゼーションは、モデルのバイアスをトレーディングすることで、モデルの精度を向上させることができる。 ユーザの目的の最適化として、パーソナライズされた協調学習問題を定式化する。 分散の低減のためにバイアスを最適にトレードオフできる条件について検討する。
  論文  参考訳（メタデータ） (2021-11-10T22:12:52Z)
• Multi-Center Federated Learning [62.57229809407692]
  本稿では,フェデレート学習のための新しい多中心集約機構を提案する。 非IIDユーザデータから複数のグローバルモデルを学び、同時にユーザとセンタ間の最適なマッチングを導出する。 ベンチマークデータセットによる実験結果から,本手法はいくつかの一般的なフェデレーション学習法より優れていることが示された。
  論文  参考訳（メタデータ） (2020-05-03T09:14:31Z)
• Unsupervised Model Personalization while Preserving Privacy and Scalability: An Open Problem [55.21502268698577]
  本研究では,非教師なしモデルパーソナライゼーションの課題について検討する。 この問題を探求するための新しいDual User-Adaptation Framework(DUA)を提供する。 このフレームワークは、サーバ上のモデルパーソナライズとユーザデバイス上のローカルデータ正規化に柔軟にユーザ適応を分散させる。
  論文  参考訳（メタデータ） (2020-03-30T09:35:12Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。