論文の概要: Collaborative Theory of Mind: Learning to Self-Revise by Anticipating User Responses
- arxiv url: http://arxiv.org/abs/2610.12872v1
- Date: Fri, 09 Oct 2026 02:01:05 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-13 04:06:29.347372
- Title: Collaborative Theory of Mind: Learning to Self-Revise by Anticipating User Responses
- Title(参考訳): 協調的心の理論:ユーザの反応を予測して自己改善を学ぶ
- Abstract要約: 大規模言語モデル(LLM)は、拡張されたマルチターンインタラクションにおいて、ユーザとのコラボレーションに苦労する。
ユーザの反応を予測するために,LLMを明示的に訓練するための協調的心の理論(CTOM)を提案する。
CToMはレスポンスをドラフトし、ユーザがどのように応答するかを予測し、この予測を使用して内部リビジョンをガイドする。
- 参考スコア(独自算出の注目度): 8.279503739767819
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Large language models (LLMs) demonstrate strong individual task performance, yet still struggle to collaborate with users over extended, multi-turn interactions, for example by attempting solutions before understanding the user's needs or by failing to revise mistaken assumptions after receiving feedback. We propose Collaborative Theory of Mind (CToM), a framework that addresses these challenges by explicitly training LLMs to anticipate user responses and to use those predictions to improve their own behavior. CToM drafts a response, predicts how the user will respond, and uses this prediction to guide internal revision before presenting a response. During training, the user's reply to each draft serves as the target for predicting the next turn, and we train the assistant to minimize the negative log-likelihood of that reply. We combine this prediction objective with group-relative policy optimization (GRPO) to optimize both task performance and interaction efficiency. Across mathematical reasoning, coding, and writing tasks, CToM achieves higher collaborative task performance than all baselines; for example, on a collaborative mathematical reasoning task, it improves final accuracy from 74.1% to 79.6% compared with naive GRPO. Ablations show that predicting user responses also makes collaboration more efficient: under the same reward, adding prediction supervision reduces the number of user replies by 8% on coding and 17% on writing while improving task performance. Behavioral analyses of interaction trajectories show that user-response predictions become more accurate after training, and that more accurate predictions are associated with larger improvements in collaborative task performance through self-revision.
- Abstract(参考訳): 大規模言語モデル(LLM)は、強い個々のタスクパフォーマンスを示すが、例えば、ユーザのニーズを理解する前にソリューションを試したり、フィードバックを受けた後に誤った仮定を修正できなかったりすることで、拡張されたマルチターンインタラクションに関して、ユーザとのコラボレーションに苦慮している。
我々は,これらの課題に対処するフレームワークである協調的心の理論(CToM)を提案する。
CToMはレスポンスをドラフトし、ユーザがどのように応答するかを予測し、この予測を使用して内部リビジョンをガイドし、レスポンスを提示する。
トレーニング中、各ドラフトに対するユーザの回答は、次のターンを予測するターゲットとして機能し、我々は、そのレスポンスの負のログライクさを最小限にするためにアシスタントを訓練する。
我々は,この予測目標とグループ相対的政策最適化(GRPO)を組み合わせることで,タスク性能とインタラクション効率を最適化する。
CToMは数学的な推論、コーディング、およびタスクを書くことで、全てのベースラインよりも高い協調的なタスク性能を達成する。例えば、協調的な数学的推論タスクでは、単純なGRPOと比較して74.1%から79.6%の精度で最終的な精度を向上させる。
同じ報酬の下で、予測監督を追加することで、コーディングが8%、書き込みが17%減少し、タスクのパフォーマンスが向上します。
インタラクション・トラジェクトリの行動分析は、学習後にユーザ応答予測がより正確になり、より正確な予測が、自己修正による協調作業性能の向上と関連していることを示している。
関連論文リスト
- Self-Augmented Mixture-of-Experts for QoS Prediction [9.607159299982559]
QoS(Quality of Service)予測は、サービスコンピューティングにおける最も基本的な問題の1つである。
予測における重要な課題は、ユーザとサービス間の相互作用が本質的に分散していることである。
本稿では,モデル自身の予測を反復的洗練のために活用する自己拡張型戦略を提案する。
論文 参考訳(メタデータ) (2026-01-16T07:02:52Z) - Agentic Predictor: Performance Prediction for Agentic Workflows via Multi-View Encoding [56.565200973244146]
Agentic Predictorは、効率的なエージェントワークフロー評価のための軽量な予測器である。
Agentic Predictorはタスク成功率の近似を学ぶことで、最適なエージェントワークフロー構成の迅速かつ正確な選択を可能にする。
論文 参考訳(メタデータ) (2025-05-26T09:46:50Z) - CollabLLM: From Passive Responders to Active Collaborators [109.39122516993362]
大規模な言語モデルは、通常、次のターン報酬で訓練され、長期的な相互作用のために最適化する能力を制限する。
マルチターン・ヒューマン・LLMコラボレーションを強化する新奇で汎用的なトレーニングフレームワークであるCollabLLMを紹介する。
また、201人の審査員による大規模なユーザスタディを実施し、CollabLLMはユーザの満足度を17.6%向上し、ユーザ使用時間を10.4%削減します。
論文 参考訳(メタデータ) (2025-02-02T03:05:52Z) - Gradient-Boosted Decision Tree for Listwise Context Model in Multimodal
Review Helpfulness Prediction [40.09991896766369]
マルチモーダルレビュー ヘルプフルネス予測は、予測された有用度スコアに基づいて製品レビューをランク付けすることを目的としている。
本稿ではMRHPランキングの文脈を明確に把握するリストワイズアテンションネットワークを提案する。
また,製品レビューの表現を効果的に分割するスコア予測木として,勾配ブースト決定木を提案する。
論文 参考訳(メタデータ) (2023-05-22T03:31:00Z) - Composite Learning for Robust and Effective Dense Predictions [81.2055761433725]
マルチタスク学習は、目標タスクを補助タスクと協調的に最適化することで、より優れたモデル一般化を約束する。
自己監督型(補助的)タスクと密接な予測(目標)タスクを共同でトレーニングすることで、目標タスクの性能を継続的に向上し、補助タスクのラベル付けの必要性を排除できることが判明した。
論文 参考訳(メタデータ) (2022-10-13T17:59:16Z) - Online Multi-Agent Forecasting with Interpretable Collaborative Graph
Neural Network [65.11999700562869]
複数の協調予測器からの予測を協調グラフに従って集約する新しい協調予測ユニット(CoPU)を提案する。
本手法は,3つのタスクの最先端処理を平均28.6%,17.4%,21.0%で上回っている。
論文 参考訳(メタデータ) (2021-07-02T08:20:06Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。