論文の概要: AI4AI at Test-Time: Strong-to-Weak Capability Transfer via Harnesses
- arxiv url: http://arxiv.org/abs/2608.12307v1
- Date: Wed, 12 Aug 2026 17:53:18 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-13 19:07:54.665404
- Title: AI4AI at Test-Time: Strong-to-Weak Capability Transfer via Harnesses
- Title（参考訳）: AI4AIがテストタイムに:Harnesses経由での強弱の能力移行
- Abstract要約: 我々は、より強力なビルダーモデルが、より弱いターゲットモデルがパラメータを更新することなくタスクをより確実に解決するのに役立つ推論時ハーネスを構築することができるかどうか検討する。
実証的には、このテストタイム能力の伝達は非常に効果的であり、平均目標モデルの性能は0.49から0.91にほぼ倍増している。
構築者モデル推論の取り組みは、使用者の品質を単調に改善し、プラットフォーム効果は、構築者モデル自身の能力に対して控えめであり、より弱いターゲットモデルは最大の利益を得る。
- 参考スコア（独自算出の注目度）: 72.0777620499307
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Recent work on distillation transfers the capabilities of large models to smaller ones often by updating the latter's parameters, through teacher forcing, on-policy distillation, and related training-time methods. In this paper, we ask whether such transfer can instead occur at test time. We study strong-to-weak scaffolding: whether a stronger builder model can construct inference-time harnesses that help a weaker target model solve tasks more reliably without any parameter updates. Using four representative Theory-of-Mind benchmarks, each builder model uses 5% of the data as a validation set to iteratively refine its harness over multiple rounds, after which the finalized harness is evaluated on the full test set. Empirically, this form of test-time capability transfer is highly effective, nearly doubling average target-model performance from 0.49 to 0.91. Our analysis shows that the gains come primarily from offloading unstable model reasoning into deterministic code, benchmark-specific routing, and strict answer-format enforcement, rather than from encouraging the target model to reason more extensively or sample more broadly. We further find that builder-model reasoning effort improves harness quality monotonically, platform effects are modest relative to the builder model's own capability, and weaker target models receive the largest gains. These results suggest that inference-time harness design is an important complement to conventional training-time distillation, enabling strong models to transfer cognitive structure to weaker models without retraining.
- Abstract（参考訳）: 蒸留に関する最近の研究は、教師の強制、オンライン蒸留、および関連する訓練時間の方法を通じて、しばしば後者のパラメータを更新することで、大きなモデルの能力をより小さなものに伝達する。
本稿では,このような移行がテスト時に発生するかどうかを問う。
より強力なビルダーモデルが、より弱いターゲットモデルでパラメータを更新することなくタスクをより確実に解決するのに役立つ推論時ハーネスを構築することができるかどうかを調査する。
代表的な4つのベンチマークを用いて、各ビルダモデルでは、データの5%を検証セットとして使用し、複数のラウンドにまたがってハーネスを反復的に洗練させ、最終的なハーネスを全テストセットで評価する。
実証的には、このテストタイム能力の伝達は非常に効果的であり、平均目標モデルの性能は0.49から0.91にほぼ倍増している。
分析の結果,不安定なモデル推論を決定論的コードにオフロードすることや,ベンチマーク固有のルーティング,厳密な回答形式強制に置き換えることが,ターゲットモデルをより広範囲に推論すること,あるいはより広範囲にサンプリングすること,といったメリットが示唆された。
さらに、ビルダーモデル推論の取り組みは、ハーネスの品質を単調に改善し、プラットフォーム効果は、ビルダーモデル自身の能力に対して控えめであり、より弱いターゲットモデルは最大の利益を得る。
これらの結果から, 推論時ハーネス設計は従来の訓練時蒸留を補完する重要な手法であることが示唆された。
関連論文リスト
- FABSVer: Faster Training and Better Self-Verification for LLM Mathematical Reasoning [8.96133612398978]
自己検証モデルを備えた既存のアプローチは、解の生成と検証を2つの別々のタスクとして扱うのが一般的である。
本稿では,この2つのタスクを1世代パスに融合するFABSVerを提案する。
FABSVerは3つのモデルスケールで優れた自己検証と推論性能を実現する。
論文 参考訳（メタデータ） (2026-05-27T12:26:34Z) - On Predicting the Post-training Potential of Pre-trained LLMs [60.07459271263409]
本稿では,ポストトレーニング前のベースモデルの性能予測という,ポストトレーニング後の潜在能力を予測するための新しいタスクを紹介する。
本稿では,応答判別を活用することで,ベースモデルの生成ギャップを回避できる統一フレームワークであるRuDEを提案する。
実験では、トレーニング後のパフォーマンスと90%以上の相関を示す。
論文 参考訳（メタデータ） (2026-05-12T11:33:49Z) - Model Whisper: Steering Vectors Unlock Large Language Models' Potential in Test-time [6.741914038966904]
テスト時間ステアリングベクトル(TTSV, Test-Time Steering Vectors)という軽量なコンポーネントを導入し、モデルパラメータを完全に凍結したまま入力にプリコンパイルする。
TTSVは軽量かつ高効率で最適化できるので、プラグインとプレイの強化になる。
提案手法は, 操舵ベクトルを多種多様なタスクにまたがって高度に伝達可能であることを示すとともに, 堅牢な一般化を示す。
論文 参考訳（メタデータ） (2025-12-04T12:36:16Z) - Self-Improving LLM Agents at Test-Time [49.9396634315896]
言語モデル(LM)の1つのパラダイムは、大規模なトレーニングデータセットの作成に依存している。
実際には、大量のデータを集めることは非効率であり、それらのトレーニングは違法に高価である。
テスト時間自己改善(TT-SI)とテスト時間蒸留(TT-D)の2つのバリエーションについて検討する。
論文 参考訳（メタデータ） (2025-10-09T06:37:35Z) - Leveraging Reasoning Model Answers to Enhance Non-Reasoning Model Capability [16.441081996257576]
我々は、推論集約モデルを利用して、計算負荷の少ない非推論モデルを改善することを提案する。
我々は、様々なベンチマークで一貫した改善を示し、モデルが直接質問に答える能力を向上するこのアプローチの可能性を強調した。
論文 参考訳（メタデータ） (2025-04-13T16:26:56Z) - On the Diminishing Returns of Complex Robust RAG Training in the Era of Powerful LLMs [85.688901949146]
複雑な堅牢なトレーニング手法の利点は、言語モデルがより強力になるにつれて減少するのだろうか?
モデルキャパシティが増大するにつれて、高度なトレーニング戦略の限界ロバスト性利益は大幅に減少する。
さらなる調査により、より強力なモデルは、単純な訓練体制下であっても、より優れた信頼性キャリブレーション、クロスデータセットの一般化能力、より効果的な注意パターンを自然に示すことが示される。
論文 参考訳（メタデータ） (2025-02-17T03:34:31Z) - Large Pre-Training Datasets Don't Always Guarantee Robustness after Fine-Tuning [29.69990405081772]
我々は、微調整モデルにおけるロバストネスの保存性を評価するために、ロバストネス継承ベンチマーク(ImageNet-RIB)を提案する。
微調整は事前訓練されたモデル間の堅牢性を低下させる。
最大および最も多様なデータセットで事前訓練されたモデルは、小さなデータセットを微調整した後、より大きなロバスト性損失と低い絶対ロバスト性の両方を示す。
論文 参考訳（メタデータ） (2024-10-28T22:33:22Z) - A Cost-Aware Approach to Adversarial Robustness in Neural Networks [1.622320874892682]
本稿では,ハードウェア選択,バッチサイズ,エポック数,テストセット精度の影響を測定するために,高速化された故障時間モデルを提案する。
我々は、複数のGPUタイプを評価し、モデルの堅牢性を最大化し、モデル実行時間を同時に最小化するためにTree Parzen Estimatorを使用します。
論文 参考訳（メタデータ） (2024-09-11T20:43:59Z) - QualEval: Qualitative Evaluation for Model Improvement [82.73561470966658]
モデル改善のための手段として,自動定性評価による定量的スカラー指標を付加するQualEvalを提案する。
QualEvalは強力なLCM推論器と新しいフレキシブルリニアプログラミングソルバを使用して、人間の読みやすい洞察を生成する。
例えば、その洞察を活用することで、Llama 2モデルの絶対性能が最大15%向上することを示す。
論文 参考訳（メタデータ） (2023-11-06T00:21:44Z) - Voting based ensemble improves robustness of defensive models [82.70303474487105]
我々は、より堅牢性を高めるためのアンサンブルを作ることができるかどうか研究する。
最先端の先制防衛モデルを複数組み合わせることで,59.8%の堅牢な精度を達成できる。
論文 参考訳（メタデータ） (2020-11-28T00:08:45Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。