論文の概要: ToolRec: Calibrated Preference Alignment for Query Recommendation in On-Device Assistants
- arxiv url: http://arxiv.org/abs/2606.08466v1
- Date: Sun, 07 Jun 2026 06:06:38 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-09 14:42:06.122388
- Title: ToolRec: Calibrated Preference Alignment for Query Recommendation in On-Device Assistants
- Title(参考訳): ToolRec: オンデバイスアシスタントにおけるクエリ推奨のための校正された参照アライメント
- Authors: Zihan Luo, Lingkui Chen, Ruike Zhang, Hong Huang, Boyang Zhang, Ziniu Chen, Lizhong Wang,
- Abstract要約: デバイス上でのクエリレコメンデーションに適したリテラルアライメントフレームワークであるToolRecを提案する。
我々はまず,708のシステムツールの包括的なリポジトリであるSysToolKitを,コンテキスト認識ツール検索機構と組み合わせて構築した。
次に、生クリックデータを洗練し、ユーザの行動ノイズを効果的に軽減する2レベルキャリブレーション機構を提案する。
- 参考スコア(独自算出の注目度): 9.875012525177285
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Large Language Models (LLMs) have significantly advanced generative query recommendation. However, existing alignment methods primarily focus on standard chatbot scenarios, falling short in on-device intelligent assistants where users predominantly expect the rapid invocation of system-level tools. Moreover, directly aligning LLMs with real-world click logs introduces severe noise due to varying user activity levels and the failure to emphasize execution-oriented queries. To address these challenges, we propose ToolRec, a calibrated preference alignment framework tailored for on-device query recommendation. To ground query recommendation with executable actions, we first construct SysToolKit, a comprehensive repository of 708 system tools, paired with a context-aware tool retrieval mechanism to ensure recommendation relevance. We then propose a dual-level calibration mechanism to refine raw click data, effectively mitigating user behavioral noise by calibrating signals based on user activity levels, while simultaneously up-weighting click signals on system-level tool-invoking queries. Guided by these refined preference signals, we then align the model using a sample-level weighted Kahneman-Tversky Optimization (KTO). Extensive online A/B tests on our mobile assistant platform OPPO Xiaobu, which has over 150 million monthly active users, demonstrate that ToolRec can significantly improve Click-Through Rate (CTR) and total clicks volume over strong baselines while maintaining high query relevance.
- Abstract(参考訳): 大規模言語モデル(LLM)は、かなり高度な生成的クエリレコメンデーションを持つ。
しかし、既存のアライメント手法は主に標準的なチャットボットのシナリオに焦点を当てており、ユーザーがシステムレベルのツールの迅速な起動を期待するデバイス上のインテリジェントアシスタントでは不足している。
さらに,LLMと実世界のクリックログを直接整合させると,ユーザアクティビティのレベルが変化し,実行指向クエリが強調できないため,大きなノイズが発生する。
これらの課題に対処するために、デバイス上でのクエリレコメンデーション用に調整された優先順位調整フレームワークであるToolRecを提案する。
まず,708のシステムツールの包括的なリポジトリであるSysToolKitを,コンテクスト対応ツール検索機構と組み合わせて構築し,レコメンデーション関連性を確保する。
次に,システムレベルのツール呼び出しクエリ上でのクリック信号の重み付けを同時に行うとともに,ユーザアクティビティレベルに基づいた信号の校正により,ユーザの行動ノイズを効果的に軽減する,生クリックデータを洗練するための2レベルキャリブレーション機構を提案する。
これらの洗練された選好信号に導かれ、サンプルレベルの重み付けKTO(Kahneman-Tversky Optimization)を用いてモデルを整列する。
当社のモバイルアシスタントプラットフォームであるOPPO Xiaobuの大規模なオンラインA/Bテストでは、月間アクティブユーザーが1億5000万人を超えており、ToolRecはClick-Through Rate(CTR)を大幅に改善し、高いクエリ関連性を保ちながら、強力なベースラインを越えてトータルクリックボリュームを向上できることを示した。
関連論文リスト
- Embedding by Elicitation: Dynamic Representations for Bayesian Optimization of System Prompts [22.060204303535187]
システムプロンプトは、現代のAIシステムにおいて中心的な制御メカニズムであり、会話、タスク、ユーザ集団間での振る舞いを形作る。
本研究では,この集合フィードバック設定を,個別の可変長テキストに対するサンプル制約付きブラックボックス最適化として検討する。
本稿では,ベイズ最適化フレームワークReElicitを紹介する。
論文 参考訳(メタデータ) (2026-05-18T20:28:17Z) - RecThinker: An Agentic Framework for Tool-Augmented Reasoning in Recommendation [63.74915464611075]
RecThinkerはツール拡張推論を推奨するエージェントフレームワークである。
我々はRecThinker専用のツール群を開発し、モデルがユーザアイテム側および協調的な情報を取得することを可能にする。
論文 参考訳(メタデータ) (2026-03-10T16:07:17Z) - How Can Input Reformulation Improve Tool Usage Accuracy in a Complex Dynamic Environment? A Study on $τ$-bench [58.114899897566964]
マルチターンの会話環境では、大きな言語モデル(LLM)は、一貫性のある推論とドメイン固有のポリシーへの固執にしばしば苦労する。
本稿では,関連するドメインルールを付加したユーザクエリを自動的に再構成するIRMA(Input-Reformulation Multi-Agent)フレームワークを提案する。
IRMAはReAct、Function Calling、Self-Reflectionをそれぞれ16.1%、12.7%、19.1%で大きく上回っている。
論文 参考訳(メタデータ) (2025-08-28T15:57:33Z) - TTPA: Token-level Tool-use Preference Alignment Training Framework with Fine-grained Evaluation [27.71948796412585]
Token-level Tool-use Preference Orignment Training Framework (TTPA)
TTPAはトークンレベルのツール使用嗜好データセットを構築するためのトレーニングパラダイムである。
論文 参考訳(メタデータ) (2025-05-26T14:06:02Z) - Data-Efficient Massive Tool Retrieval: A Reinforcement Learning Approach for Query-Tool Alignment with Language Models [28.67532617021655]
外部ツールやAPIと統合された大規模言語モデル(LLM)は、コンテキスト内学習や微調整によって複雑なタスクにうまく対応している。
この進歩にもかかわらず、厳密な入力長制約のため、ツール検索の大規模化は依然として困難である。
本稿では,大規模なツール検索(MTR)タスクとして,大規模リポジトリからの事前検索戦略を提案する。
論文 参考訳(メタデータ) (2024-10-04T07:58:05Z) - Let Me Do It For You: Towards LLM Empowered Recommendation via Tool Learning [57.523454568002144]
大きな言語モデル(LLM)は、常識的な推論と外部ツールの活用の能力を示している。
ツール学習を通じてLLMを活用したレコメンデーションのためのフレームワークであるToolRecを紹介する。
属性の粒度を探索するプロセスとして推薦プロセスを定式化する。
属性指向ツールには,ランクツールと検索ツールの2種類がある。
論文 参考訳(メタデータ) (2024-05-24T00:06:54Z) - Supervised Embedded Methods for Hyperspectral Band Selection [12.09273192079783]
ハイパースペクトルイメージング(HSI)は、連続波長帯にわたる豊富なスペクトル情報をキャプチャする。
HSIは精密農業、環境モニタリング、自動運転の応用をサポートする。
タスク固有のHSI帯域選択のための2つの新しい教師付き組込み手法を提案する。
論文 参考訳(メタデータ) (2024-01-21T07:48:39Z) - Vague Preference Policy Learning for Conversational Recommendation [48.868921530958666]
会話レコメンデーションシステムは通常、ユーザが明確な好みを持っていると仮定し、潜在的に過度なフィルタリングにつながる。
本稿では,Vag Preference Multi-round Conversational Recommendation (VPMCR) シナリオを紹介する。
我々の研究は、ユーザの内在する曖昧さと相対的な意思決定プロセスを調整し、現実の応用性を向上させることでCRSを前進させます。
論文 参考訳(メタデータ) (2023-06-07T14:57:21Z) - Meta-Wrapper: Differentiable Wrapping Operator for User Interest
Selection in CTR Prediction [97.99938802797377]
クリックスルー率(CTR)予測は、ユーザーが商品をクリックする確率を予測することを目的としており、リコメンデーションシステムにおいてますます重要になっている。
近年,ユーザの行動からユーザの興味を自動的に抽出する深層学習モデルが大きな成功を収めている。
そこで我々は,メタラッパー(Meta-Wrapper)と呼ばれるラッパー手法の枠組みに基づく新しい手法を提案する。
論文 参考訳(メタデータ) (2022-06-28T03:28:15Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。