論文の概要: Steering LLMs via Scalable Interactive Oversight

• arxiv url: http://arxiv.org/abs/2602.04210v1
• Date: Wed, 04 Feb 2026 04:52:00 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-02-05 19:45:11.374024
• Title: Steering LLMs via Scalable Interactive Oversight
• Title（参考訳）: スケーラブルな対話的監視によるLCMのステアリング
• Authors: Enyu Zhou, Zhiheng Xi, Long Ma, Zhihao Zhang, Shihan Dou, Zhikai Lei, Guoteng Wang, Rui Zheng, Hang Yan, Tao Gui, Qi Zhang, Xuanjing Huang,
• Abstract要約: 大規模な言語モデルは、エンフェーブコーディングのような複雑で長期にわたるタスクをますます自動化し、監督のギャップが生まれています。 スケーラブルな監視において重要な課題は、人間が責任を持ってAIシステムを、特定または検証する能力を超えたタスクで操ることができることだ。
• 参考スコア（独自算出の注目度）: 74.12746881843044
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: As Large Language Models increasingly automate complex, long-horizon tasks such as \emph{vibe coding}, a supervision gap has emerged. While models excel at execution, users often struggle to guide them effectively due to insufficient domain expertise, the difficulty of articulating precise intent, and the inability to reliably validate complex outputs. It presents a critical challenge in scalable oversight: enabling humans to responsibly steer AI systems on tasks that surpass their own ability to specify or verify. To tackle this, we propose Scalable Interactive Oversight, a framework that decomposes complex intent into a recursive tree of manageable decisions to amplify human supervision. Rather than relying on open-ended prompting, our system elicits low-burden feedback at each node and recursively aggregates these signals into precise global guidance. Validated in web development task, our framework enables non-experts to produce expert-level Product Requirement Documents, achieving a 54\% improvement in alignment. Crucially, we demonstrate that this framework can be optimized via Reinforcement Learning using only online user feedback, offering a practical pathway for maintaining human control as AI scales.
• Abstract（参考訳）: 大規模言語モデルが \emph{vibe coding} のような複雑な長期タスクをますます自動化するにつれて、監督のギャップが生まれている。 モデルは実行時に優れているが、ドメインの専門知識が不十分なこと、正確な意図を明確にすることの難しさ、複雑なアウトプットを確実に検証できないことが原因で、ユーザはそれを効果的に導くのに苦労する。 スケーラブルな監視において重要な課題は、人間が責任を持ってAIシステムを、特定または検証する能力を超えたタスクで操ることができることだ。 これを解決するために,複雑な意図を再帰的に処理可能な決定木に分解し,人間の監督を増幅するフレームワークであるScalable Interactive Oversightを提案する。 オープンエンドのプロンプトに頼るのではなく、各ノードに低負荷フィードバックを付与し、これらの信号を再帰的に集約して正確なグローバルガイダンスを作成する。 我々のフレームワークは、Web開発タスクで検証され、専門家以外の者が専門家レベルの製品要求文書を作成できるようにし、調整の545%の改善を実現します。 重要なことは、このフレームワークがオンラインユーザフィードバックのみを使用して強化学習を通じて最適化できることを示し、AIスケールとして人間のコントロールを維持するための実践的な経路を提供する。

関連論文リスト

• Experience-Driven Multi-Agent Systems Are Training-free Context-aware Earth Observers [27.817039954088315]
  ツールレベルの専門知識を学習するための自己進化型マルチエージェントシステムである textbfGeoEvolver を紹介する。 GeoEvolverはエンドツーエンドのタスクの成功を継続的に改善し、複数のバックボーンで平均12%向上することを示す。
  論文  参考訳（メタデータ） (2026-01-30T15:11:07Z)
• Dialogue as Discovery: Navigating Human Intent Through Principled Inquiry [38.72208780072353]
  人間とAIのコラボレーションにおける基本的なボトルネックは「意図的表現ギャップ」である 本稿では,ユーザの意図に関する不確実性を解決するために,積極的に情報を探究するエージェントを提案する。 我々は、この調査政策の熟達のために訓練された、提案されたエージェント Nous を命名する。
  論文  参考訳（メタデータ） (2025-10-31T12:00:21Z)
• An Agentic Framework with LLMs for Solving Complex Vehicle Routing Problems [66.60904891478687]
  複雑な車両ルーティング問題を解決するために,LLM (AFL) を用いたエージェントフレームワークを提案する。 AFLは生の入力から知識を直接抽出し、自己完結型コード生成を可能にする。 AFLは、コード信頼性とソリューション実現性の両方において、既存のLCMベースのベースラインを大幅に上回っていることを示す。
  論文  参考訳（メタデータ） (2025-10-19T03:59:25Z)
• Improving Large Language Models Function Calling and Interpretability via Guided-Structured Templates [56.73907811047611]
  大規模言語モデル(LLM)は強力な推論とツール使用能力を示している。 LLMは、誤ったパラメータ化、悪いツールの選択、ユーザーの意図の誤解釈によって、現実世界のツールインタラクションで失敗することが多い。 我々は、構造化推論テンプレートを利用して、関数呼び出しを生成するためのより故意なステップバイステップ命令を通してLCMをガイドするカリキュラムに着想を得たフレームワークを提案する。
  論文  参考訳（メタデータ） (2025-09-22T17:55:14Z)
• WebSailor-V2: Bridging the Chasm to Proprietary Agents via Synthetic Data and Scalable Reinforcement Learning [73.91893534088798]
  WebSailorは、この重要な機能を組み込むように設計された、完全なポストトレーニング方法論である。 我々のアプローチは、構造化サンプリングと情報難読化によって、新しい、不確実なタスクを生成することである。 WebSailorは複雑な情報検索タスクにおいて、すべてのオープンソースエージェントを著しく上回る。
  論文  参考訳（メタデータ） (2025-09-16T17:57:03Z)
• WebSailor: Navigating Super-human Reasoning for Web Agent [72.5231321118689]
  WebSailorは、この重要な機能を組み込むように設計された、完全なポストトレーニング方法論である。 我々のアプローチは、構造化サンプリングと情報難読化によって、新しい、不確実なタスクを生成することである。 WebSailorは複雑な情報検索タスクにおいて、すべてのオープンソースエージェントを著しく上回っている。
  論文  参考訳（メタデータ） (2025-07-03T12:59:07Z)
• Divide and Conquer: Grounding LLMs as Efficient Decision-Making Agents via Offline Hierarchical Reinforcement Learning [32.260964481673085]
  大規模言語モデル(LLM)は、不十分な探索と長期クレジット割り当てのために、長期的な意思決定タスクに苦しむ。 本稿では, LLMポリシーにパラメータ効率が高く, 一般に適用可能な階層構造を導入する, 革新的なフレームワークを提案する。 我々は,低レベル制御器を抽象的なステップバイステップ計画で制御し,高レベル制御器で学習・指導する手法を開発した。
  論文  参考訳（メタデータ） (2025-05-26T09:43:40Z)
• Scaling Autonomous Agents via Automatic Reward Modeling And Planning [52.39395405893965]
  大規模言語モデル(LLM)は、様々なタスクにまたがる顕著な機能を示している。 しかし、彼らは多段階の意思決定と環境フィードバックを必要とする問題に苦戦している。 人間のアノテーションを使わずに環境から報酬モデルを自動的に学習できるフレームワークを提案する。
  論文  参考訳（メタデータ） (2025-02-17T18:49:25Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。