論文の概要: Token Utility Is Selection-Conditioned: Coupled Selection of Prompt Context and Response Supervision for Efficient Instruction Tuning

• arxiv url: http://arxiv.org/abs/2609.22943v1
• Date: Sat, 19 Sep 2026 10:46:58 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-22 20:29:00.606153
• Title: Token Utility Is Selection-Conditioned: Coupled Selection of Prompt Context and Response Supervision for Efficient Instruction Tuning
• Title（参考訳）: Token Utility is Selection-Conditioned: Coupled Selection of Prompt Context and Response Supervision for Efficient Instruction Tuning
• Abstract要約: BRIDGEは、共有バリデーション指向のインタラクションサロゲートを通じて選択条件付きトークンユーティリティをキャプチャする。 構造認識プロジェクションは条件応答スコアをコヒーレントな監視スパンに変換する。 BRIDGEは、数学的推論、コード生成、命令フォローにおける全体的な選択方法の比較を導く。
• 参考スコア（独自算出の注目度）: 11.796634827510323
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Efficient large language model (LLM) instruction tuning requires selecting response supervision with supporting prompt context. Existing methods typically value both sides separately, risking selection-state mismatch between valuation and retained training subsets. BRIDGE (Budgeted Response-Prompt Interaction via Directional Gradient-guided Efficient Token Selection) captures selection-conditioned token utility through a shared validation-directed interaction surrogate valuing each side under the other's retained state. Budgeted alternating selection coordinates retained subsets by aggregating precomputed interactions over the current opposite-side subset to update conditional scores. Structure-aware projection converts conditional response scores into coherent supervision spans. Across three model families, BRIDGE leads compared selection methods overall in mathematical reasoning, code generation, and instruction following. In mathematical reasoning, its advantage over independent selection grows with compression.
• Abstract（参考訳）: 効率的な大規模言語モデル(LLM)命令チューニングには、プロンプトコンテキストをサポートする応答監視を選択する必要がある。 既存の方法は通常、両方の側面を別々に評価し、評価と保持されたトレーニングサブセットの間の選択状態のミスマッチを危険にさらす。 BRIDGE (Budgeted Response-Prompt Interaction via Directional Gradient-Guided Efficient Token Selection) は、選択条件付きトークンユーティリティを、他者の保持状態下で評価する共有バリデーション指向のインタラクションサロゲートを介してキャプチャする。 予算変更選択座標は、条件スコアを更新するために、現在の反対部分集合上の事前計算された相互作用を集約することで、サブセットを保持した。 構造認識プロジェクションは条件応答スコアをコヒーレントな監視スパンに変換する。 3つのモデルファミリにわたって、BRIDGEは、数学的推論、コード生成、命令従の全体的な選択方法の比較を導いている。 数学的推論では、独立選択に対する優位性は圧縮によって増大する。

関連論文リスト

• Contrastive Branch Policy Optimization [16.16893757028268]
  検証可能な報酬(RLVR)による強化学習は、言語モデルが外部ツールとのマルチターンインタラクションを学習することを可能にする。 既存の方法は、固定されたロールアウト予算を割り当て、分岐結果をトークンレベルのクレジットに変換する、という2つの異なる問題を分割する傾向があります。 本稿では,この2つの問題を解消し,それぞれに専用のメカニズムを割り当てる,コントラスト分岐政策最適化(CBPO)を紹介する。
  論文  参考訳（メタデータ） (2026-08-25T09:25:55Z)
• CROP: Task Relevance via Counterfactuals for Selective On-Policy Distillation [17.794507489166616]
  オンライン蒸留(CROP)の意義について紹介する。 CROPは、各応答位置を、タスク関連条件変化に対する感度によって測定し、その感度によって、意味保存リライトに対する感度によって調整する。 2つの教師学生設定で、CROPは最強の非CROPセレクタよりも1.92と2.96ポイントの集計性能を改善する。
  論文  参考訳（メタデータ） (2026-08-13T15:48:16Z)
• QUBO-Optimized Evidence Selection for Retrieval-Augmented Question Answering with Unconventional Solvers [1.8620637029128544]
  疑似非制約二項最適化問題としてエビデンス選択を定式化する。 提案手法は, 妥当性, 要件範囲, サポート強度, 冗長性, 相補性, コンパクト性のバランスをとるエネルギー関数を構成する。 低エネルギーのソリューションは、必要条件をカバーし、不要または反復的なコンテキストを避けながら、コンパクトなエビデンスサブセットに対応する。
  論文  参考訳（メタデータ） (2026-07-14T04:29:07Z)
• Selective Ensemble Based on Preference-Directed Multi-Objective Bandits [90.75513823660775]
  我々は、部分的に指定された線形選好の下で逐次決定問題を定式化する。 次に、嗜好指向の高信頼度境界(PrefUCB)アルゴリズムを提案する。 大規模な事前学習型モデル選択アンサンブルタスクと,機関委任下でのオンラインアセットアロケーションの実験により,本手法が検証された。
  論文  参考訳（メタデータ） (2026-06-20T07:52:46Z)
• Contextual Plackett-Luce: An Efficient Neural Model for Probabilistic Sequence Selection under Ambiguity [4.162695034027842]
  コンテキストプラケット・リュック(Contextual Plackett-Luce)は、配列選択のための構造化確率モデルである。 完全自己回帰予測と並列シーケンス選択のハイブリッドと見なすことができる。 強い平行基線に比べて構造整合性を改善し、曖昧な監督を受ける。
  論文  参考訳（メタデータ） (2026-05-09T18:52:53Z)
• Joint Semantic Token Selection and Prompt Optimization for Interpretable Prompt Learning [57.91658393667469]
  Interpretable Prompt Learningは、個別の意味トークンの選択と連続的なプロンプト最適化を交互に行うハイブリッドフレームワークである。 我々のフレームワークはプラグイン・アンド・プレイであり、既存の即興学習手法とシームレスに統合できる。
  論文  参考訳（メタデータ） (2026-05-06T02:38:59Z)
• Distilling a Small Utility-Based Passage Selector to Enhance Retrieval-Augmented Generation [110.610512800947]
  Retrieval-augmented Generation (RAG)は、取得した情報を組み込むことで、大規模言語モデル(LLM)を強化する。 RAGでは、重要度は実用性に移行し、正確な回答を生成するためのパスの有用性を考慮している。 提案手法は、ランク付けよりもユーティリティベースの選択に重点を置いており、固定しきい値を必要とせずに、特定のクエリに合わせた動的通過選択を可能にする。 本実験は, 実用性に基づく選択により, RAGの柔軟性とコスト効率が向上し, 計算コストが大幅に低減され, 応答品質が向上することを示した。
  論文  参考訳（メタデータ） (2025-07-25T09:32:29Z)
• A Systematic Examination of Preference Learning through the Lens of Instruction-Following [83.71180850955679]
  新たな合成データ生成パイプラインを用いて48,000の命令追従プロンプトを生成する。 合成プロンプトでは、リジェクションサンプリング(RS)とモンテカルロ木探索(MCTS)の2つの選好データセットキュレーション手法を用いる。 実験により、MCTSが生成した選好ペアにおける共有プレフィックスは、限界はあるが一貫した改善をもたらすことが明らかになった。 高コントラストの選好ペアは一般的に低コントラストのペアよりも優れているが、両者を組み合わせることで最高のパフォーマンスが得られることが多い。
  論文  参考訳（メタデータ） (2024-12-18T15:38:39Z)
• Automated Concatenation of Embeddings for Structured Prediction [75.44925576268052]
  本稿では, 埋め込みの自動結合(ACE)を提案し, 構造予測タスクにおける埋め込みのより優れた結合を見つけるプロセスを自動化する。 我々は、強化学習の戦略に従い、制御器のパラメータを最適化し、タスクモデルの精度に基づいて報酬を計算する。
  論文  参考訳（メタデータ） (2020-10-10T14:03:20Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。