論文の概要: ScopeIF: Improving Scope-Aware Precise Instruction-Following in Large Language Models via Graded Reward Modeling

• arxiv url: http://arxiv.org/abs/2609.32189v1
• Date: Sat, 26 Sep 2026 03:28:07 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-07 19:03:46.559341
• Title: ScopeIF: Improving Scope-Aware Precise Instruction-Following in Large Language Models via Graded Reward Modeling
• Title（参考訳）: ScopeIF:グレード・リワード・モデリングによる大規模言語モデルにおけるスコープ対応精密命令フォローの改善
• Abstract要約: そこで本研究では,スコープ認識による高精度命令追跡のための新しいトレーニングフレームワークであるScopeIFを提案する。 我々はScopeIFが既存のメソッド、特に複雑なスコープ対応制約を一貫して上回ることを示す。
• 参考スコア（独自算出の注目度）: 76.01248761238874
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Precise instruction-following is a fundamental ability of large language models (LLMs), requiring their outputs to strictly satisfy objective constraints in input instructions. In complex application scenarios, these constraints often possess diverse scopes that govern specific response segments rather than the entire output. However, existing optimization methods often neglect constraint scope during data construction and rely on binary per-constraint rewards, yielding limited data diversity and sparse supervision for complex constraints. To this end, we propose ScopeIF, a novel training framework for scope-aware precise instruction-following. We first introduce a unified schema that factorizes objective constraints into three decoupled dimensions: Scope, Target, and Range. Grounded in this schema, we construct ScopeInstruct, a large-scale instruction dataset with diverse scope-aware constraints, and combine tool-grounded verification with graded reward modeling to quantify the violation degree of each constraint, providing dense supervision for policy optimization. Extensive experiments demonstrate that ScopeIF consistently outperforms existing methods, particularly on complex scope-aware constraints, while preserving general capabilities. Notably, it enables optimized Qwen3-4B and 8B models to rival or surpass strong frontier models such as Gemini-2.5-Pro and DeepSeek-V3.2, establishing an effective paradigm for advancing scope-aware instruction-following. Our code and data are available at https://github.com/thu-coai/ScopeIF.
• Abstract（参考訳）: 精密な命令追従は大きな言語モデル(LLM)の基本的な能力であり、入力命令の目的的制約を厳密に満たすために出力を必要とする。 複雑なアプリケーションシナリオでは、これらの制約は出力全体ではなく、特定の応答セグメントを管理する多様なスコープを持つことが多い。 しかし、既存の最適化手法は、データ構築中に制約範囲を無視することが多く、制約ごとの2進的な報酬に依存し、データ多様性と複雑な制約に対する疎い監督をもたらす。 そこで本研究では,スコープ認識による高精度命令追跡のための新しいトレーニングフレームワークであるScopeIFを提案する。 まず、対象制約を3つの分離次元(スコープ、ターゲット、レンジ)に分解する統合スキーマを導入する。 このスキーマを基盤として、多様なスコープ対応制約を持つ大規模命令データセットであるScopeInstructを構築し、ツールグラウンドによる検証とグレード付き報酬モデルを組み合わせることにより、各制約の違反度を定量化し、ポリシー最適化のための厳密な監視を提供する。 広範な実験により、ScopeIFは既存の手法、特に複雑なスコープ対応の制約を常に上回りながら、一般の能力を保っていることが示された。 特に、最適化されたQwen3-4Bと8Bモデルは、Gemini-2.5-ProやDeepSeek-V3.2のような強力なフロンティアモデルと競合したり、超えたりすることができる。 私たちのコードとデータはhttps://github.com/thu-coai/ScopeIF.comで公開されています。

関連論文リスト

• FSANet: Frequency-Spatial Aware Network for Image Segmentation [16.417179524863915]
  本稿では,周波数空間認識ネットワーク (FSANet) を提案する。 具体的には,(1)見過ごされた詳細を復元する構造優先モジュール,(2)ノイズを抑えながら健全な特徴を捉えるデュアルドメイン認識モジュール,(3)より正確なセグメンテーションのためにエッジ認識を強化するエッジ推定モジュールの3つの重要なモジュールを設計する。
  論文  参考訳（メタデータ） (2026-09-15T07:43:08Z)
• STAIF: A Stage-wise Optimization for Complex Instruction Following [50.48101504556211]
  STAIFは、客観的に検証可能な(ハード)制約の最適化から主観的(ソフト)制約のアライメントを分離する段階的な最適化フレームワークである。 この方法を支援するために,約31,000の複雑なマルチ制約命令からなる高品質なバイリンガル(英語,中国語)データセットであるSTAINSTRUCTを構築した。
  論文  参考訳（メタデータ） (2026-06-26T06:14:07Z)
• Stochastic Primal-Dual Decoding for Multiobjective Generative Recommender Systems [3.3756786725295065]
  近年のレコメンデーションシステムの進歩は、生成的モデリングによる大幅な性能向上を示している。 本稿では,多目的スレート生成をサポートする自己回帰生成RSを増強する軽量な推論時デコーディング層を提案する。 その結果,ユーザ満足度ゼロで達成した補助目標に対して,+1.8%の利得を含む多目的トレードオフが一貫した改善が見られた。
  論文  参考訳（メタデータ） (2026-05-26T15:05:06Z)
• CCTU: A Benchmark for Tool Use under Complex Constraints [66.87622847854337]
  複雑な制約下での大規模言語モデル(LLM)を評価するためのベンチマークであるCCTUを紹介する。 ベンチマークは、さまざまなツール使用シナリオに対して、慎重にキュレートされ、挑戦的なテストケースが200から成っている。 ステップレベルの検証を行い、コンプライアンスを強制する実行可能な制約検証モジュールを開発する。
  論文  参考訳（メタデータ） (2026-03-16T14:05:13Z)
• Overcoming Over-Fitting in Constraint Acquisition via Query-Driven Interactive Refinement [0.7874708385247353]
  Constraint Acquisition (CA)は、制約プログラミングにおける手動モデリングを自動化することを目的としている。 受動的CAメソッドは、過度に適合する傾向があり、しばしば、限られたデータでトレーニングされた時に、急激なグローバル制約を含むモデルを学習する。 本稿では,CAにおける過剰適合の課題に対処するために設計されたハイブリッドCAフレームワークを紹介する。
  論文  参考訳（メタデータ） (2025-09-29T09:02:16Z)
• OmniEVA: Embodied Versatile Planner via Task-Adaptive 3D-Grounded and Embodiment-aware Reasoning [50.45036742963495]
  我々は,先進的な具体的推論とタスクプランニングを可能にする,多元的多元的プランナーであるOmniEVAを紹介する。 Task-Adaptive 3D Groundingメカニズムは、様々な実施タスクに対してコンテキスト対応の3Dグラウンドを可能にする。 Embodiment-Aware Reasoningフレームワークは、タスクの目標と実施制約を推論ループに組み込む。
  論文  参考訳（メタデータ） (2025-09-11T10:32:22Z)
• A Multi-Dimensional Constraint Framework for Evaluating and Improving Instruction Following in Large Language Models [48.361839372110246]
  本研究では,制約拡張,競合検出,命令書き換えを行う自動命令生成パイプラインを開発する。 我々は、19の大規模言語モデルを評価し、制約形式間の性能のかなりの変動を明らかにする。 詳細な分析では、これらの利得は主にモデルのアテンションモジュールパラメータの変更に起因していることを示している。
  論文  参考訳（メタデータ） (2025-05-12T14:16:55Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。