論文の概要: Learning What to Ask for Tomorrow: Active Preference Acquisition for Long-Term Personalized Web Agents
- arxiv url: http://arxiv.org/abs/2610.31107v1
- Date: Thu, 22 Oct 2026 11:16:24 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-24 02:08:44.334593
- Title: Learning What to Ask for Tomorrow: Active Preference Acquisition for Long-Term Personalized Web Agents
- Title(参考訳): 明日に何を尋ねるかを学ぶ: 長期パーソナライズされたWebエージェントのためのアクティブな選好獲得
- Abstract要約: APA(Active Preference Acquisition)について検討する。
APAは、エージェント自身のタスクソルバを用いて、公開タスクプロトタイプにおける各候補選好の対実的なゲインを計算する。
隠れてクエリ可能なユーザプロファイルと、正確なタスクユーティリティを備えた、制御された縦断ベンチマークであるActiveWebPrefで評価する。
- 参考スコア(独自算出の注目度): 17.308193052189925
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Web agents increasingly serve the same user across repeated online tasks such as booking travel, shopping, and scheduling, so their long-term usefulness depends on how well they know the user's preferences. Passive memory and personalization methods cannot obtain preferences the user never reveals, and clarification methods that value a question by its benefit to the current task overlook the benefit of reusing the answer in later tasks. We study Active Preference Acquisition (APA): which missing preferences are worth the cost of asking? We define the Prospective Personalization Value (PPV) of a missing preference as its expected cumulative utility gain over future tasks minus the effort and disclosure-risk cost of asking, and select questions under a per-interaction budget. We characterize when cumulative reuse justifies acquisition despite insufficient single-task benefit, and evaluate this regime with an initial-profile diagnostic. APA computes the counterfactual gain of each candidate preference on public task prototypes with the agent's own task solver and aggregates it by the expected reuse of each task family. We evaluate it on ActiveWebPref, a controlled longitudinal benchmark with hidden but queryable user profiles and exact task utilities. At a horizon of 20 tasks, 34.4% of budget-feasible valuable missing preferences are amortization-dependent; APA acquires 80.3% of them, whereas current-task value of information acquires 5.1%. Under per-user asking-cost caps matched to APA's realized expenditure, APA achieves higher net utility than four heuristic selection baselines. In our cost setting, asking about every unknown preference yields lower net utility than not asking, while APA recovers 84.2% of its utility gain with 27.6% of its questions. The value of acquiring a user preference should account for its reuse across future tasks, not only its benefit to the task at hand.
- Abstract(参考訳): Webエージェントは、旅行、買い物、スケジュールなどのオンラインタスクを予約するなど、同じユーザーを頻繁に利用しているため、その長期的有用性は、ユーザの好みをどれだけよく知っているかによって異なる。
パッシブメモリとパーソナライズ手法は、ユーザが決して明らかにしない好みを得ることができず、現在のタスクの利点から質問を評価する方法が、後のタスクでその回答を再利用する利点を見落としている。
APA(Active Preference Acquisition)について検討する。
我々は、将来のタスクよりも期待される累積的ユーティリティゲインとして、未選好の先進的パーソナライズ価値(PPV)を定義し、インタラクション毎の予算の下で質問を選定する。
累積的再利用は,単一タスクの利点が不十分なにもかかわらず,獲得を正当化するものであり,初期診断で評価する。
APAは、エージェント自身のタスク解決器を用いて、公開タスクのプロトタイプにおける各候補選好の対実的なゲインを計算し、各タスクファミリーの期待された再利用によってそれを集約する。
隠れてクエリ可能なユーザプロファイルと、正確なタスクユーティリティを備えた、制御された縦断ベンチマークであるActiveWebPrefで評価する。
APAは80.3%を獲得し、現在のタスク価値は5.1%を獲得している。
ユーザ毎の要求コスト上限をAPAが実現した支出に合わせると、APAは4つのヒューリスティック選択ベースラインよりも高いネットユーティリティを実現する。
当社のコスト設定では、未知の選好を問うと、尋ねるよりも純益が低くなり、APAは84.2%の利得を27.6%で回復する。
ユーザの好みを取得する価値は、そのタスクに対する利益だけでなく、将来のタスクの再利用も考慮すべきである。
関連論文リスト
- Asking What Matters: Reward-Driven Clarification for Software Engineering Tasks [49.47167381167488]
我々は,どの情報がタスクの成功に最も影響するか,どの質問がシミュレーションユーザから有用な応答を引き出すのかを定量化する。
共有属性と分布比較を用いて,タスク関連性(成功を予測する情報)とユーザ応答性という,効果的な明確化の2つの重要な特性を同定する。
我々は,これらの特性を多段階強化学習報酬として運用し,GPT-5の分解能率と未特定問題との整合性を示す8Bパラメータ明確化モジュールであるCLARITIを訓練する。
論文 参考訳(メタデータ) (2026-04-16T05:11:02Z) - The PROPER Approach to Proactivity: Benchmarking and Advancing Knowledge Gap Navigation [17.97529450470058]
ほとんどの言語ベースのアシスタントはリアクティブなQ&Aパラダイムに従っており、ユーザは自身のニーズを明示的に表現する必要がある。
次元生成エージェント(DGA)と応答生成エージェント(RGA)を組み合わせた新しい2エージェントアーキテクチャであるProPerを紹介する。
RGAは明示的および暗黙的な次元のバランスをとり、タイムリーかつ積極的な介入でパーソナライズされた応答を調整する。
以上の結果から,ProPerはすべての領域における品質スコアと勝利率を改善し,シングルターン評価において最大84%,マルチターンインタラクションにおいて一貫した優位性を実現した。
論文 参考訳(メタデータ) (2026-01-14T23:13:01Z) - Learning Steerable Clarification Policies with Collaborative Self-play [67.67872810596839]
不明瞭なクエリを処理するために、AIアシスタントは不確実性を管理するためのポリシーが必要である。
我々は,この不確実性を管理するために,自己再生を用いて評価可能な政策を訓練することを提案する。
このことが、提供されたコストに応じて予測可能な振る舞いを変更する、評価可能なポリシーにつながることを示す。
論文 参考訳(メタデータ) (2025-12-03T18:49:54Z) - Pathways of Thoughts: Multi-Directional Thinking for Long-form Personalized Question Answering [57.12316804290369]
ユーザ固有の情報ニーズに質問応答システムを適用するためには,パーソナライゼーションが不可欠である。
本稿では,タスク固有の微調整を必要とせず,任意の大規模言語モデル (LLM) に適用可能な推論段階の方法として,思考の経路 (PoT) を提案する。
PoTは競争ベースラインを一貫して上回り、13.1%の相対的な改善を達成している。
論文 参考訳(メタデータ) (2025-09-23T14:44:46Z) - ADAPT: Actively Discovering and Adapting to Preferences for any Task [34.92667747380468]
エージェントが様々な家庭のタスクにまたがってユーザの嗜好に順応する能力を評価するためのベンチマークを,アクティブな質問を通じて導入する。
次に,大規模言語モデルを積極的に質問するタスクに適用するための新しい訓練手法であるReflection-DPOを提案する。
従来のLLMは疑わしい質問や誘惑された嗜好への固執が不十分であったため,ADAPTにおけるユーザの嗜好に十分従わないことが判明した。
論文 参考訳(メタデータ) (2025-04-05T03:16:22Z) - Cost-Effective Proxy Reward Model Construction with On-Policy and Active Learning [70.22819290458581]
人間のフィードバックによる強化学習(RLHF)は、現在の大規模言語モデルパイプラインにおいて広く採用されているアプローチである。
提案手法では,(1)OODを回避するためのオン・ポリシー・クエリと,(2)プライオリティ・クエリの最も情報性の高いデータを選択するためのアクティブ・ラーニングという2つの重要なイノベーションを導入している。
論文 参考訳(メタデータ) (2024-07-02T10:09:19Z) - Personalized Algorithmic Recourse with Preference Elicitation [20.78332455864586]
PEARは、エンドユーザーのニーズに合わせてパーソナライズされたアルゴリズムの講義を提供する。
PEARは、ベイジアン選好引用からの洞察に基づいて、ターゲットユーザに対して選択セットクエリを尋ねることで、アクションのコストを反復的に見積もる。
実世界のデータセットに対する実証的な評価は、PEARがいかに高品質なパーソナライズされたリコースをほんの数イテレーションで生成するかを強調します。
論文 参考訳(メタデータ) (2022-05-27T03:12:18Z) - Low-Cost Algorithmic Recourse for Users With Uncertain Cost Functions [74.00030431081751]
本稿では,ユーザ固有のコスト関数の概念を定式化し,ユーザのための行動可能なリコースを識別する新しい手法を提案する。
本手法は,強いベースライン法に比べて最大25.89パーセントのユーザを満足させる。
論文 参考訳(メタデータ) (2021-11-01T19:49:35Z) - Mining Implicit Relevance Feedback from User Behavior for Web Question
Answering [92.45607094299181]
本研究は,ユーザ行動と通過関連性との関連性を検討するための最初の研究である。
提案手法は,追加のラベル付きデータを使わずにパスランキングの精度を大幅に向上させる。
実際にこの研究は、グローバルな商用検索エンジンにおけるQAサービスの人為的ラベリングコストを大幅に削減する効果が証明されている。
論文 参考訳(メタデータ) (2020-06-13T07:02:08Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。