論文の概要: DRACULA: Hunting for the Actions Users Want Deep Research Agents to Execute
- arxiv url: http://arxiv.org/abs/2604.23815v1
- Date: Sun, 26 Apr 2026 17:32:39 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-28 17:12:07.569418
- Title: DRACULA: Hunting for the Actions Users Want Deep Research Agents to Execute
- Title(参考訳): DRACULA: ディープ・リサーチ・エージェントを駆除したいアクションを探す
- Authors: Nishant Balepur, Malachi Hamada, Varsha Kishore, Sergey Feldman, Amanpreet Singh, Pao Siangliulue, Joseph Chee Chang, Rachel Rudinger, Eunsol Choi, Jordan Lee Boyd-Graber, Doug Downey, Aakanksha Naik,
- Abstract要約: 我々は、Scientific Deep Research(DR)エージェントの中間動作に対するユーザフィードバックを備えた、最初のデータセットであるDRACULAを収集する。
ユーザは好みのアクションを選択し、出力レポートが自分の選択をうまく適用したかどうかを判断します。
シミュレーションによるユーザ優先行動の予測可能性について検討し,LLMがユーザの選択した行動の予測方法について検討した。
- 参考スコア(独自算出の注目度): 66.25314396197075
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Scientific Deep Research (DR) agents answer user queries by synthesizing research papers into multi-section reports. User feedback can improve their utility, but existing protocols only score the final report, making it hard to study and learn which intermediate actions DR agents should take to improve reports. We collect DRACULA, the first dataset with user feedback on intermediate actions for DR. Over five weeks, nineteen expert CS researchers ask queries to a DR system that proposes actions (e.g., "Add a section on datasets"). Our users select actions they prefer, then judge whether an output report applied their selections successfully, yielding 8,103 action preferences and 5,230 execution judgments. After confirming a DR agent can execute DRACULA's actions, we study the predictability of user-preferred actions via simulation-how well LLMs predict the actions users select-a step toward learning to generate useful actions. We discover: (1) LLM judges initially struggle to predict action selections, but improve most when using a user's full selection history, rather than self-reported or extrapolated user context signals; (2) Users' selections for the same query differ based on unstated goals, bottlenecking simulation and motivating affordances that let users steer reports; and (3) Our simulation results inform an online intervention that generates new actions based on the user's past interactions, which users pick most often in follow-up studies. Overall, while work extensively studies execution, DRACULA reveals a key challenge is deciding which actions to execute in the first place. We open-source DRACULA's study design, user feedback, and simulation tasks to spur future work on action feedback for long-horizon agents.
- Abstract(参考訳): Scientific Deep Research(DR)エージェントは、研究論文をマルチセクションレポートに合成することで、ユーザクエリに回答する。
ユーザからのフィードバックは有用性を改善することができるが、既存のプロトコルは最終レポートのみをスコアし、DRエージェントがレポートを改善するためにどの中間アクションをとるべきかを調査し学ぶのが困難である。
DRACULAは,DRの中間動作に関するユーザフィードバックを備えた最初のデータセットである。5週間にわたって,19人の専門家CS研究者が,アクションを提案するDRシステム(例:“データセットのセクションを付加する”)に問い合わせた。
ユーザは好みのアクションを選択し、出力レポートが自分の選択をうまく適用したかどうかを判断し、8,103のアクション嗜好と5,230の実行判断を得た。
DRエージェントがDRACULAの動作を実行可能であることを確認した後、シミュレーションによるユーザ優先アクションの予測可能性について検討する。
1) LLM の判断者は,まず行動選択の予測に苦慮するが,自己申告や外挿によるユーザコンテキスト信号ではなく,ユーザの完全な選択履歴を使用する場合,主に改善する。
全体としては、実行を幅広く研究する一方で、DRACULAは、最初にどのアクションを実行するかを決定することが重要な課題であることを明らかにしている。
我々はDRACULAの研究成果とユーザフィードバック,シミュレーションタスクをオープンソースとして公開した。
関連論文リスト
- IntentRL: Training Proactive User-intent Agents for Open-ended Deep Research via Reinforcement Learning [54.21689544323704]
Deep Research (DR)エージェントは、パラメトリック知識を超えてLarge Language Models (LLM)を拡張する。
リアルタイムの会話アシスタントとは異なり、DRは計算に高価で時間を要する。
IntentRLは、長期研究を始める前に、潜在ユーザ意図を明らかにするためにプロアクティブエージェントを訓練するフレームワークである。
論文 参考訳(メタデータ) (2026-02-03T12:43:09Z) - Bidirectional Decoding: Improving Action Chunking via Guided Test-Time Sampling [51.38330727868982]
動作チャンキングが学習者と実証者の間の分岐にどのように影響するかを示す。
動作チャンキングをクローズドループ適応でブリッジするテスト時間推論アルゴリズムである双方向デコーディング(BID)を提案する。
提案手法は、7つのシミュレーションベンチマークと2つの実世界のタスクにまたがって、最先端の2つの生成ポリシーの性能を向上させる。
論文 参考訳(メタデータ) (2024-08-30T15:39:34Z) - On Generative Agents in Recommendation [58.42840923200071]
Agent4Recは、Large Language Modelsに基づいたレコメンデーションのユーザーシミュレータである。
各エージェントは、ページ単位でパーソナライズされた推奨モデルと対話する。
論文 参考訳(メタデータ) (2023-10-16T06:41:16Z) - Explainable Active Learning for Preference Elicitation [0.0]
我々は、最小限のユーザ労力で情報取得を最大化することを目的として、この問題を解決するためにアクティブラーニング(AL)を採用している。
ALは、大きなラベルのない集合から情報的データを選択して、それらをラベル付けするオラクルを問い合わせる。
ベースとなる機械学習(ML)モデルを更新するために、ユーザからのフィードバック(提示された項目に関するシステムの説明のために)を情報的なサンプルから収集する。
論文 参考訳(メタデータ) (2023-09-01T09:22:33Z) - Personalized Algorithmic Recourse with Preference Elicitation [20.78332455864586]
PEARは、エンドユーザーのニーズに合わせてパーソナライズされたアルゴリズムの講義を提供する。
PEARは、ベイジアン選好引用からの洞察に基づいて、ターゲットユーザに対して選択セットクエリを尋ねることで、アクションのコストを反復的に見積もる。
実世界のデータセットに対する実証的な評価は、PEARがいかに高品質なパーソナライズされたリコースをほんの数イテレーションで生成するかを強調します。
論文 参考訳(メタデータ) (2022-05-27T03:12:18Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。