論文の概要: Conversational Generalized Linear Bandits with Hybrid Feedback
- arxiv url: http://arxiv.org/abs/2610.35262v1
- Date: Mon, 26 Oct 2026 11:42:04 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-27 22:27:13.845781
- Title: Conversational Generalized Linear Bandits with Hybrid Feedback
- Title(参考訳): ハイブリッドフィードバックを用いた会話型一般化線形帯域
- Abstract要約: 会話の帯域幅は、アイテムの嗜好を引き出すためにキータームについて積極的に質問することで推奨を改善する。
既存の手法は通常、絶対報酬またはペア比較を用いて、アイテムとキータームの同質なフィードバックを仮定する。
我々は、不均一なフィードバックから統一された信頼境界を構築し、キーの長期比較を適応的に選択するハイブリッドフィードバック(HyConUCB)を用いた会話型UTBを提案する。
- 参考スコア(独自算出の注目度): 6.283899598550086
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Conversational bandits improve recommendations by actively querying users about key-terms to elicit their item preferences. However, existing methods typically assume homogeneous feedback for items and key-terms, using either absolute rewards or pairwise comparisons. In practice, item feedback often takes the form of clicks or ratings, while comparisons are more natural for key-terms. To address this gap, we study conversational generalized linear bandits with hybrid feedback, combining absolute item rewards and relative key-term comparisons. We propose Conversational UCB with Hybrid Feedback (HyConUCB), which constructs unified confidence bounds from heterogeneous feedback and adaptively selects key-term comparisons by balancing information gain and directional coverage. Through a refined regret analysis that jointly exploits both feedback sources, we establish a regret bound that improves upon reward-only and adapted dueling-only benchmarks. Experiments on synthetic and real-world datasets validate the effectiveness of our algorithm.
- Abstract(参考訳): 会話の帯域幅は、アイテムの嗜好を引き出すためにキータームについて積極的に質問することで推奨を改善する。
しかし、既存の手法は通常、絶対報酬またはペア比較を用いて、アイテムとキータームの同質なフィードバックを仮定する。
実際には、アイテムフィードバックはクリックや評価の形式を取ることが多いが、キータームでは比較の方が自然である。
このギャップに対処するため、対話型一般化線形帯域幅をハイブリッドフィードバックで検討し、絶対アイテム報酬と相対キー-長期比較を組み合わせた。
我々は、異種フィードバックから統一された信頼境界を構築し、情報ゲインと指向性カバレッジのバランスをとることで、キーの長期比較を適応的に選択する、ハイブリッドフィードバック付き会話型UTB(HyConUCB)を提案する。
双方のフィードバック源を共同で活用する精巧な後悔分析を通じて、報酬のみに適応したデュエルのみのベンチマークを改善する後悔境界を確立する。
合成および実世界のデータセットの実験は、我々のアルゴリズムの有効性を検証する。
関連論文リスト
- When Pairwise Preferences Cycle: A Reliability-Anchored Preference Walk for Video GRPO [15.492622576528115]
各GRPO群に対する選好グラフをペアワイズ評価器で定義する。
循環的嗜好が普及し、トレーニングを通して持続していることが分かりました。
本稿では,勝利率からグローバルな選好信号を強化するグラフ対応アドバンテージアグリゲーション手法を提案する。
論文 参考訳(メタデータ) (2026-10-14T12:30:39Z) - Compare to Correct: Pairwise-Guided Logit Adjustment for LLM Test-Time Scaling [86.37409257444484]
回答レベル比較の利点を捉えるために,異なる回答をサポートする経路間の相互信頼度比較を導入する。
提案したPairwise-Guided Logit Adjustment (PGLA) フレームワークは,より弱い投票支援と投票ベースのランキングエラーの補正を可能にする。
論文 参考訳(メタデータ) (2026-10-13T15:46:15Z) - Search-Based Interaction For Conversation Recommendation via Generative Reward Model Based Simulated User [117.82681846559909]
会話レコメンデーションシステム(CRS)は、マルチターンインタラクションを使用してユーザの好みを捉え、パーソナライズされたレコメンデーションを提供する。
本稿では,CRSと自動インタラクションを行うための生成報酬モデルに基づくシミュレーションユーザGRSUを提案する。
論文 参考訳(メタデータ) (2025-04-29T06:37:30Z) - Beyond Thumbs Up/Down: Untangling Challenges of Fine-Grained Feedback for Text-to-Image Generation [67.88747330066049]
きめ細かいフィードバックは、画像の品質と迅速な調整におけるニュアンスドの区別を捉えます。
粗いフィードバックに対する優位性を示すことは、自動ではないことを示す。
きめ細かいフィードバックを抽出し活用する上で重要な課題を特定します。
論文 参考訳(メタデータ) (2024-06-24T17:19:34Z) - ROPO: Robust Preference Optimization for Large Language Models [59.10763211091664]
外部モデルの助けを借りずにノイズ耐性とノイズサンプルのフィルタリングを統合する反復アライメント手法を提案する。
Mistral-7BとLlama-2-7Bで広く使われている3つのデータセットの実験では、ROPOが既存の嗜好アライメント法を大幅に上回っていることが示されている。
論文 参考訳(メタデータ) (2024-04-05T13:58:51Z) - RLVF: Learning from Verbal Feedback without Overgeneralization [94.19501420241188]
本稿では,このような過度な一般化を伴わずに,言語フィードバックを取り入れることの課題について検討する。
制約付き選好最適化(C3PO)を用いた新しい文脈的批評手法を開発した。
提案手法は,他の文脈に対する既存行動を維持しながら,関連するシナリオに対して効果的な言語フィードバックを適用する。
論文 参考訳(メタデータ) (2024-02-16T18:50:24Z) - Hierarchical Conversational Preference Elicitation with Bandit Feedback [36.507341041113825]
提案システムでは,各ラウンドで推薦するキータームかアイテムのいずれかを選択することができる。
実世界のデータセットを調査・分析し、先行研究と異なり、キーターム報酬は主に代表品の報酬に影響されていることを確認する。
我々は、この観測結果とキータームとアイテム間の階層構造を利用する2つの帯域幅アルゴリズム、Hier-UCBとHier-LinUCBを提案する。
論文 参考訳(メタデータ) (2022-09-06T05:35:24Z) - Comparison-based Conversational Recommender System with Relative Bandit
Feedback [15.680698037463488]
比較に基づく会話推薦システムを提案する。
我々はRelativeConUCBと呼ばれる新しい帯域幅アルゴリズムを提案する。
合成および実世界の両方のデータセットに対する実験により,提案手法の利点が検証された。
論文 参考訳(メタデータ) (2022-08-21T08:05:46Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。