論文の概要: Harness Compilation: Which Decisions Should a Small Vision-Language Model Keep?

• arxiv url: http://arxiv.org/abs/2610.11231v1
• Date: Thu, 08 Oct 2026 04:31:36 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-10 02:36:53.804569
• Title: Harness Compilation: Which Decisions Should a Small Vision-Language Model Keep?
• Title（参考訳）: ハーネスコンパイル:小さなビジョンランゲージモデルが保持すべき決定は?
• Abstract要約: 小さな視覚言語モデルは外部の証拠を読むことができ、それを得るのに苦労する。 我々は,凍結した小型VLMと外部ハーネスとの間の作業の分割を適応させるオフラインプロシージャであるHarness Compilation(HC)を紹介する。 HCは素人の生徒のスコアを9.9-23.9ポイント改善し、設定ごとに3つの独立したビルドで平均化している。
• 参考スコア（独自算出の注目度）: 5.4127728217682405
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Small vision-language models may be able to read external evidence yet struggle to obtain it. We introduce Harness Compilation (HC), an offline procedure that adapts the division of work between a frozen small VLM and its external harness. A large teacher uses student execution traces to revise reusable content and control, while a separate validation set selects the deployed harness. Deployment requires neither weight updates nor teacher calls. Across seven visual question-answering settings with students of at most 9B parameters, HC improves scores over bare students by 9.9-23.9 points, averaged over three independent builds per setting. Interventions on five runtime decision types (invocation, selection, argument generation, evidence integration and abstention) show why this allocation matters: requesting evidence and generating open queries can be costly, whereas bounded choices and reading supplied text can remain useful student work. Fact cards benefit all ten evaluated students, but decision policies transfer unevenly. Recompilation for a new student model helps when the transferred interface no longer fits the student. With 100 practice items, HC exceeds answer-only LoRA on three tasks. Larger training budgets can match or surpass a fixed harness, while combining the two improves SlideVQA beyond either alone. These findings support allocating work from measured student behavior rather than uniformly removing decisions.
• Abstract（参考訳）: 小さな視覚言語モデルは外部の証拠を読むことができ、それを得るのに苦労する。 我々は,凍結した小型VLMと外部ハーネスとの間の作業の分割を適応させるオフラインプロシージャであるHarness Compilation(HC)を紹介する。 大規模な教師は、再利用可能なコンテンツとコントロールを修正するために学生実行トレースを使用し、別の検証セットはデプロイされたハーネスを選択する。 デプロイにはウェイトアップも教師の呼び出しも必要ありません。 HCは、少なくとも9Bパラメーターの学生による7つの視覚的質問応答設定の中で、素人の生徒に対するスコアを9.9-23.9ポイント改善し、設定ごとに3つの独立したビルドを平均的に上回っている。 5つの実行時決定型(呼び出し、選択、引数生成、エビデンス統合、棄却)に対する介入は、なぜこの割り当てが重要なのかを示している。 ファクトカードは評価された生徒10人全員に恩恵を与えるが、決定ポリシーは不公平に伝達される。 新しい学生モデルの再コンパイルは、転送されたインターフェイスが学生に合わない場合に役立ちます。 HCは100の練習項目を持ち、3つのタスクで回答のみのLoRAを超える。 より大きな訓練予算は固定ハーネスに適合または超えるが、この2つの組み合わせはSlideVQAを単独で改善する。 これらの知見は、一様に意思決定を除去するのではなく、測定された学生の行動から仕事の割り当てを支援する。

関連論文リスト

• Is Better Teacher Supervision Enough? Unlocking Student-side Learning in Multimodal On-Policy Distillation [38.496745535296945]
  オンライン蒸留(OPD)は、学生自身の軌道上の教師からトークンレベルの監督を提供することにより、推論を改善する。 S-OPDは,学生の知覚学習を明示的に強化するシンプルなマルチモーダルオンライン蒸留フレームワークである。 我々のメソッドは既存のOPDフレームワークにシームレスにプラグインすることができ、追加のデータアノテーション、モデルパラメータ、推論操作を必要としない。
  論文  参考訳（メタデータ） (2026-09-30T06:55:48Z)
• Beyond Prompt Count: How Data Shapes Transfer in On-Policy Distillation [28.33005480931997]
  本稿では,RL-およびSFT-Continuationペアとクロスモデル設定を併用して,プロンプト量,ソース,選択について検討する。 4つのDAPOプロンプトは3,840個のDeepMathプロンプトと一致している。 実効的なデータ選択は、教師と学生のペアと目標能力に依存し、ランダムサンプリングは学習環境において競合するベースラインを提供する。
  論文  参考訳（メタデータ） (2026-09-29T12:30:10Z)
• Critical-State RL: Diagnosing Trainable States for Multi-Turn Tool Use [54.30773141960395]
  マルチターンインタラクションにおけるトレーニング可能な状態を特定するために、Critical-State RLを導入する。 それぞれの報酬がタスク成功に対するアクションの効果を捉えているかどうか、参照ポリシーよりも改善できるかどうかを評価する。 Berkeley Function Calling Leaderboard (BFCL) v4の実験では、診断選択された州でのトレーニングと代替州でのトレーニングを比較している。
  論文  参考訳（メタデータ） (2026-09-21T17:57:20Z)
• What Does Privileged Information Add to On-Policy Self-Distillation? [57.872246350931306]
  オンラインの自己蒸留(On-policy self-distillation)により、言語モデルは、答や解決方法を見る、自分自身の凍結したコピーから学ぶことができる。 AMPLE-Mathは、5,319の数学的問題からなる再利用可能なスイートで、同じ答えを6つの推論ビューで共有する。 直接応答型ロールアウトを監督する思考能力のある教師によって、Qwen3-1.7Bの改良の大部分は参照レス蒸留によるものである。
  論文  参考訳（メタデータ） (2026-09-17T15:57:10Z)
• Matching Supervision to the Student's Learning Capacity: A Unified Framework for On-Policy Self-Distillation [7.759584418408814]
  On-policy self-distillation (OPSD) は、特権付きコンテキストをモデルパラメータに内部化することにより、LLMの推論能力を向上させる。 ラグランジアンを解くための軽量オンラインアルゴリズムであるUnified On-Policy Self-Distillation (USD)を提案する。 USDは、様々なモデルスケールでOPSDやトークンやPI側のベースラインよりも優れたパフォーマンスを示している。
  論文  参考訳（メタデータ） (2026-08-08T15:13:07Z)
• Visual Contrastive Self-Distillation [61.298159957622886]
  本稿では,視覚的コントラスト自己蒸留法を提案する。 これと対照的に,本研究では,教師の具体的イメージ分布の明確化を図り,その結果のフルディストリビューション目標を学生に蒸留する。
  論文  参考訳（メタデータ） (2026-07-23T17:37:37Z)
• Multi-Turn On-Policy Distillation with Prefix Replay [73.10000453999088]
  エージェントタスクに対するReplayed-Prefix On-Policy Distillation (ReOPD)を提案する。 ReOPDは、プレコンパイルされた教師の軌跡を再生プレフィックスとして再利用する。 OPDレベルの精度を保存または改善し、学生のトレーニング中にゼロツールコールを使用し、PDよりもトレーニングステップあたり最低4$times$高速である。
  論文  参考訳（メタデータ） (2026-07-06T07:56:53Z)
• UCO: A Multi-Turn Interactive Reinforcement Learning Method for Adaptive Teaching with Large Language Models [59.693733170193944]
  大規模言語モデル(LLM)は、教育環境において、回答提供者からインテリジェントな家庭教師へとシフトしている。 最近の強化学習アプローチはこの制限に対処するが、2つの重要な課題に直面している。 これらの課題に対処するために一方向認知最適化法(UCO)を提案する。
  論文  参考訳（メタデータ） (2025-11-12T01:27:02Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。