論文の概要: Learning from a Learning User for Optimal Recommendations
- arxiv url: http://arxiv.org/abs/2202.01879v1
- Date: Thu, 3 Feb 2022 22:45:12 GMT
- ステータス: 処理完了
- システム内更新日: 2022-02-07 16:02:48.828265
- Title: Learning from a Learning User for Optimal Recommendations
- Title(参考訳): 最適勧告のための学習者からの学習
- Authors: Fan Yao, Chuanhao Li, Denis Nekipelov, Hongning Wang and Haifeng Xu
- Abstract要約: 我々は「学習ユーザ」を捕捉し、効率的なシステム側学習ソリューションを設計するためのモデルを定式化する。
ユーザ学習の収束率が悪化するにつれて,RAESの後悔は良好に悪化することを示す。
本研究は,リコメンデーション問題におけるフィードバックループのモデル化に関する新たな視点を提供する。
- 参考スコア(独自算出の注目度): 43.2268992294178
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: In real-world recommendation problems, especially those with a formidably
large item space, users have to gradually learn to estimate the utility of any
fresh recommendations from their experience about previously consumed items.
This in turn affects their interaction dynamics with the system and can
invalidate previous algorithms built on the omniscient user assumption. In this
paper, we formalize a model to capture such "learning users" and design an
efficient system-side learning solution, coined Noise-Robust Active Ellipsoid
Search (RAES), to confront the challenges brought by the non-stationary
feedback from such a learning user. Interestingly, we prove that the regret of
RAES deteriorates gracefully as the convergence rate of user learning becomes
worse, until reaching linear regret when the user's learning fails to converge.
Experiments on synthetic datasets demonstrate the strength of RAES for such a
contemporaneous system-user learning problem. Our study provides a novel
perspective on modeling the feedback loop in recommendation problems.
- Abstract(参考訳): 現実世界のレコメンデーション問題、特に非常に大きなアイテムスペースを持つ場合には、ユーザーは、以前消費されたアイテムに関する経験から、新しいレコメンデーションの効用を徐々に見積もる必要がある。
これはシステムとのインタラクションのダイナミクスに影響を与え、全能的なユーザの仮定に基づいて構築された以前のアルゴリズムを無効にすることができる。
本稿では,このような"学習ユーザ"をキャプチャするモデルを定式化し,ノイズロバストアクティブ楕円型探索(raes)という効率的なシステム側学習ソリューションを設計し,非定常フィードバックによる課題に対処した。
興味深いことに,ユーザ学習の収束率が悪化するにつれて,ユーザの学習が収束しない場合の線形後悔に達するまで,raesの後悔は優雅に低下する。
このような同時学習問題に対するRAESの強度を示す合成データセットの実験を行った。
本研究は,レコメンデーション問題におけるフィードバックループのモデル化に関する新しい視点を提供する。
関連論文リスト
- Improving the Validity of Automatically Generated Feedback via
Reinforcement Learning [50.067342343957876]
強化学習(RL)を用いた正当性と整合性の両方を最適化するフィードバック生成フレームワークを提案する。
具体的には、直接選好最適化(DPO)によるトレーニングのための拡張データセットにおいて、GPT-4のアノテーションを使用してフィードバックペアよりも好みを生成する。
論文 参考訳(メタデータ) (2024-03-02T20:25:50Z) - Learning from Negative User Feedback and Measuring Responsiveness for
Sequential Recommenders [13.762960304406016]
シーケンシャルレコメンデータのトレーニング目標に、明示的かつ暗黙的なネガティブなユーザフィードバックを導入する。
大規模産業レコメンデーションシステムを用いた実演実験により,本手法の有効性を実証する。
論文 参考訳(メタデータ) (2023-08-23T17:16:07Z) - Simulating Bandit Learning from User Feedback for Extractive Question
Answering [51.97943858898579]
教師付きデータを用いたフィードバックのシミュレーションにより,ユーザフィードバックからの学習を抽出的質問応答に適用する。
当初は少数の例でトレーニングしたシステムが,モデル予測された回答に対するユーザからのフィードバックを劇的に改善できることが示される。
論文 参考訳(メタデータ) (2022-03-18T17:47:58Z) - SURF: Semi-supervised Reward Learning with Data Augmentation for
Feedback-efficient Preference-based Reinforcement Learning [168.89470249446023]
我々は、大量のラベルなしサンプルとデータ拡張を利用する半教師付き報酬学習フレームワークSURFを提案する。
報奨学習にラベルのないサンプルを活用するために,選好予測器の信頼性に基づいてラベルのないサンプルの擬似ラベルを推定する。
本実験は, ロボット操作作業における嗜好に基づく手法のフィードバック効率を有意に向上させることを実証した。
論文 参考訳(メタデータ) (2022-03-18T16:50:38Z) - WSLRec: Weakly Supervised Learning for Neural Sequential Recommendation
Models [24.455665093145818]
我々は、WSLRecと呼ばれる新しいモデルに依存しないトレーニング手法を提案し、3段階のフレームワーク(事前学習、トップ$k$マイニング、本質的、微調整)を採用する。
WSLRec は、BR や ItemCF のようなモデルフリーメソッドから、余分な弱い監督のモデルを事前訓練することで、不完全性の問題を解決すると同時に、最上位の$k のマイニングを活用して、微調整のための弱い監督の信頼性の高いユーザ・イテム関連を検査することで、不正確な問題を解消する。
論文 参考訳(メタデータ) (2022-02-28T08:55:12Z) - Context Uncertainty in Contextual Bandits with Applications to
Recommender Systems [16.597836265345634]
本稿では,リカレントサーベイネットワーク(REN)と呼ばれる新しいタイプのリカレントニューラルネットワークを提案する。
我々の理論的分析は,RENが学習表現に不確実性がある場合でも,速度-線形準最適後悔を保てることを示す。
我々の実証研究は、RENが合成および実世界のレコメンデーションデータセットに満足な長期報酬を得られることを示した。
論文 参考訳(メタデータ) (2022-02-01T23:23:50Z) - Recency Dropout for Recurrent Recommender Systems [23.210278548403185]
本稿では,リコメンデータシステムにおけるリコメンデーションバイアスを軽減するために,簡易かつ効果的なデータ拡張手法であるリコメンデーションドロップアウト手法を提案する。
シミュレーション実験,オフライン実験,大規模産業レコメンデーションプラットフォームでのライブ実験など,各種実験環境における遅延降下の有効性を実証する。
論文 参考訳(メタデータ) (2022-01-26T15:50:20Z) - Top-N Recommendation with Counterfactual User Preference Simulation [26.597102553608348]
ユーザーランキングに基づく好みの学習を目的としたTop-Nレコメンデーションは、長い間、広範囲のアプリケーションにおいて基本的な問題だった。
本稿では,データ不足問題に対処するため,因果推論フレームワーク内での推薦タスクの再構築を提案する。
論文 参考訳(メタデータ) (2021-09-02T14:28:46Z) - Generative Inverse Deep Reinforcement Learning for Online Recommendation [62.09946317831129]
オンラインレコメンデーションのための新しい逆強化学習手法InvRecを提案する。
InvRecは、オンラインレコメンデーションのために、ユーザの行動から報酬関数を自動的に抽出する。
論文 参考訳(メタデータ) (2020-11-04T12:12:25Z) - Empowering Active Learning to Jointly Optimize System and User Demands [70.66168547821019]
我々は,アクティブラーニングシステムとユーザを協調的に(効率的に学習)するための,新しいアクティブラーニング手法を提案する。
本手法は,特定のユーザに対して,エクササイズの適切性を予測するために,学習を迅速かつ迅速に行う必要があるため,特に,この手法のメリットを生かした教育アプリケーションで研究する。
複数の学習戦略とユーザタイプを実際のユーザからのデータで評価し,代替手法がエンドユーザに適さない多くのエクササイズをもたらす場合,共同アプローチが両方の目標を満足できることを確認した。
論文 参考訳(メタデータ) (2020-05-09T16:02:52Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。