論文の概要: Provably Efficient Personalized Multi-Objective Bandits with Proactive Conversational Queries
- arxiv url: http://arxiv.org/abs/2606.08410v1
- Date: Sun, 07 Jun 2026 02:19:59 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-09 14:42:06.091556
- Title: Provably Efficient Personalized Multi-Objective Bandits with Proactive Conversational Queries
- Title(参考訳): Proactive Conversational Queries を用いたパーソナライズされた多目的帯域の検討
- Authors: Linfeng Cao, Ming Shi, Ness B. Shroff,
- Abstract要約: ユーザクエリが構造化された嗜好信号を提供する,プロアクティブなクエリベースのフレームワークを形式化する。
提案手法は,事前の嗜好を意識したMO-MAB法よりも,提案手法により優先推定が促進され,後悔のスケーリングが向上することを証明する。
- 参考スコア(独自算出の注目度): 24.496126767935937
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Personalized decision-making in multi-objective bandits requires learning user-specific trade-offs among competing objectives. Since arm utility depends on both unknown rewards and unknown preferences, existing methods infer preferences only from utility feedback, entangling preference learning with reward exploration. In practice, however, users often reveal their priorities through proactive conversational queries (e.g., "cheap and clean hotel"), yet this structured signal is not leveraged. We formalize a proactive query-based framework in which user queries provide structured preference signals. Modeling these signals via a Plackett-Luce subset choice model, we show that query-only learning is insufficient due to a fundamental shift-invariance barrier. To resolve this, we introduce MO-PQUCB, a hybrid algorithm that integrates query-based preference anchoring with bandit feedback through shift-invariant regularization and dual-exploration UCB. We prove that proactive queries accelerate preference estimation and yield improved regret scaling over prior preference-aware MO-MAB methods. Under corrupted queries, we further characterize statistical limits and design a robust estimator achieving near-optimal performance when the corruption is sparse. Experiments validate both theoretical and practical gains.
- Abstract(参考訳): 多目的バンディットにおけるパーソナライズされた意思決定には、競合する目標間のユーザ固有のトレードオフを学習する必要がある。
アームユーティリティは、未知の報酬と未知の嗜好の両方に依存するため、既存の方法は、ユーティリティフィードバックからのみ選好を推測し、報奨探索を伴う選好学習を絞る。
しかし、実際には、ユーザはプロアクティブな会話クエリ(例えば「チープでクリーンなホテル」)を通じて優先順位を明らかにすることが多いが、この構造化信号は利用されない。
ユーザクエリが構造化された嗜好信号を提供する,プロアクティブなクエリベースのフレームワークを形式化する。
これらの信号をPockett-Luceサブセット選択モデルを用いてモデル化することにより、基本的なシフト不変障壁のため、クエリのみの学習が不十分であることを示す。
この問題を解決するために、MO-PQUCBというハイブリッドアルゴリズムを導入し、このアルゴリズムは、シフト不変正規化と二重探索 UCB を通じて、クエリベースの優先度アンカーと帯域フィードバックを統合する。
提案手法は,事前の嗜好を意識したMO-MAB法よりも,提案手法により優先推定が促進され,後悔のスケーリングが向上することを証明する。
破損したクエリの下では、統計的限界をさらに特徴付け、破損が少ないときにほぼ最適性能を達成する頑健な推定器を設計する。
実験は理論と実用の両方の利得を検証する。
関連論文リスト
- RecThinker: An Agentic Framework for Tool-Augmented Reasoning in Recommendation [63.74915464611075]
RecThinkerはツール拡張推論を推奨するエージェントフレームワークである。
我々はRecThinker専用のツール群を開発し、モデルがユーザアイテム側および協調的な情報を取得することを可能にする。
論文 参考訳(メタデータ) (2026-03-10T16:07:17Z) - Verifiable Reasoning for LLM-based Generative Recommendation [106.7765000777685]
大規模言語モデル(LLM)における推論は、最近、生成的レコメンデーションの強化に強い可能性を示している。
本稿では,信頼性の高いフィードバックを提供するために,検証と推論をインターリーブする新しいTextbftextitreason-verify-recommendパラダイムを提案する。
4つの実世界のデータセットの実験は、VRecが効率を損なうことなく、推奨の有効性とスケーラビリティを大幅に向上することを示した。
論文 参考訳(メタデータ) (2026-03-08T16:55:45Z) - Are LLMs Vulnerable to Preference-Undermining Attacks (PUA)? A Factorial Analysis Methodology for Diagnosing the Trade-off between Preference Alignment and Real-World Validity [45.92643973404507]
我々は,協調型モデルが,操作的プロンプト戦略のクラスであるpreference-Undermining Attacks (PUA) に対して脆弱であるかどうかを検討する。
驚くべきことに、より高度なモデルは、時にはマニピュティブなプロンプトに影響を受けやすい。
論文 参考訳(メタデータ) (2026-01-10T15:16:23Z) - Robust Preference Alignment via Directional Neighborhood Consensus [13.313830197011983]
本稿では,指向性近傍のコンセンサスを利用したポストホックなトレーニングフリー手法であるRobust Preference Selection(RPS)を紹介する。
RPSは、関連する好みの地域からの複数の応答をサンプリングし、優れた候補プールを作成する。
本研究は, 嗜好整合モデルの信頼性を高めるための, 実用的, 理論的に基礎的なソリューションを提案する。
論文 参考訳(メタデータ) (2025-10-23T12:39:20Z) - STARec: An Efficient Agent Framework for Recommender Systems via Autonomous Deliberate Reasoning [54.28691219536054]
我々は、自律的な熟考的推論機能を備えたレコメンデータシステムを支援する、ゆっくり考えられた拡張エージェントフレームワークSTARecを紹介する。
我々は,先進的推論モデルと嗜好整合型報酬形成から構造化知識の蒸留を組み合わせた2段階のパラダイムであるアンカー強化訓練を開発する。
MovieLens 1MとAmazon CDsベンチマークの実験では、STARecは最先端のベースラインと比較して、大幅なパフォーマンス向上を実現している。
論文 参考訳(メタデータ) (2025-08-26T08:47:58Z) - Online Clustering of Dueling Bandits [59.09590979404303]
本稿では、優先フィードバックに基づく協調的な意思決定を可能にするために、最初の「デュエルバンディットアルゴリズムのクラスタリング」を導入する。
本稿では,(1)ユーザ報酬関数をコンテキストベクトルの線形関数としてモデル化する線形デューリング帯域のクラスタリング(COLDB)と,(2)ニューラルネットワークを用いて複雑な非線形ユーザ報酬関数をモデル化するニューラルデューリング帯域のクラスタリング(CONDB)の2つの新しいアルゴリズムを提案する。
論文 参考訳(メタデータ) (2025-02-04T07:55:41Z) - Cost-Effective Proxy Reward Model Construction with On-Policy and Active Learning [70.22819290458581]
人間のフィードバックによる強化学習(RLHF)は、現在の大規模言語モデルパイプラインにおいて広く採用されているアプローチである。
提案手法では,(1)OODを回避するためのオン・ポリシー・クエリと,(2)プライオリティ・クエリの最も情報性の高いデータを選択するためのアクティブ・ラーニングという2つの重要なイノベーションを導入している。
論文 参考訳(メタデータ) (2024-07-02T10:09:19Z) - Estimating Treatment Effects under Recommender Interference: A Structured Neural Networks Approach [32.55211271796683]
一般に採用されている差分推定器は、推奨者干渉による推定に大きく偏りがあることが示される。
干渉経路を明示的に表現した「推薦者選択モデル」を提案する。
Weixin短ビデオプラットフォーム上での大規模フィールド実験により本手法の有効性を検証した。
論文 参考訳(メタデータ) (2024-06-20T14:53:26Z) - Active recursive Bayesian inference using R\'enyi information measures [11.1748531496641]
本稿では,統合された推論とクエリ選択ステップを備えたベイズ推論フレームワークを提案する。
提案手法が相互情報などの従来の手法より優れていることを示す。
本稿では,レストランレコメンデーションとブレイン・コンピュータ・インタフェース(BCI)タイピングシステムの2つの応用に関する実証的および実験的性能評価を行う。
論文 参考訳(メタデータ) (2020-04-07T05:52:58Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。