論文の概要: HeavySkill: Heavy Thinking as the Inner Skill in Agentic Harness
- arxiv url: http://arxiv.org/abs/2605.02396v1
- Date: Mon, 04 May 2026 09:37:04 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-05 20:33:50.224433
- Title: HeavySkill: Heavy Thinking as the Inner Skill in Agentic Harness
- Title(参考訳): ヘビースキル:エージェントハーネスの内面スキルとしてのヘビー思考
- Abstract要約: HeavySkillは、ヘビーシンキングをオーケストレーションハーネスにおける最小実行ユニットと見なす視点である。
この技術は2段階のパイプライン、すなわち並列推論と要約であり、任意のエージェントハーネスの下で動作することができる。
この内的スキルは従来のBest-of-N戦略より一貫して優れています。
- 参考スコア(独自算出の注目度): 29.376314110085243
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Recent advances in agentic harness with orchestration frameworks that coordinate multiple agents with memory, skills, and tool use have achieved remarkable success in complex reasoning tasks. However, the underlying mechanism that truly drives performance remains obscured behind intricate system designs. In this paper, we propose HeavySkill, a perspective that views heavy thinking not only as a minimal execution unit in orchestration harness but also as an inner skill internalized within the model's parameters that drives the orchestrator to solve complex tasks. We identify this skill as a two-stage pipeline, i.e., parallel reasoning then summarization, which can operate beneath any agentic harness. We present a systematic empirical study of HeavySkill across diverse domains. Our results show that this inner skill consistently outperforms traditional Best-of-N (BoN) strategies; notably, stronger LLMs can even approach Pass@N performance. Crucially, we demonstrate that the depth and width of heavy thinking, as a learnable skill, can be further scaled via reinforcement learning, offering a promising path toward self-evolving LLMs that internalize complex reasoning without relying on brittle orchestration layers.
- Abstract(参考訳): 複数のエージェントとメモリ、スキル、ツール使用を協調するオーケストレーションフレームワークによるエージェントハーネスの最近の進歩は、複雑な推論タスクにおいて顕著な成功を収めた。
しかし、真にパフォーマンスを駆動する基盤となるメカニズムは、複雑なシステム設計の裏にはいまだに見えていない。
本稿では,重度思考をオーケストレーションハーネスにおける最小実行単位としてだけでなく,オーケストレータが複雑なタスクを解くためのモデルパラメータの内部に内在する内部スキルとして見るヘビースキルを提案する。
この技術は2段階のパイプライン、すなわち並列推論と要約であり、任意のエージェントハーネスの下で動作することができる。
本稿では,多分野にわたるヘビースキルの体系的研究について述べる。
その結果、この内部スキルは従来のBest-of-N(BoN)戦略よりも優れており、特に強力なLLMはPass@Nパフォーマンスにもアプローチできることがわかった。
重要なことは、重み付けの深さと幅が、学習可能なスキルとして強化学習によってさらに拡大できることを示し、不安定なオーケストレーション層に頼らずに複雑な推論を内部化する自己進化型LLMへの有望な道を提供する。
関連論文リスト
- EASy: Towards Efficient LLM-Based Agentic System [54.10819421625103]
強化学習によるタスク性能と計算効率を協調的に最適化する訓練可能なエージェントフレームワークであるEASyを提案する。
EASyはLLMベースのオーケストレータに異種エグゼキュータの能力とコストプロファイルを明確に把握し、パフォーマンスのみのルーティング以上のコンテキスト依存的な調整を可能にする。
さらに、複雑なタスクを管理可能なマイルストーンに分解し、依存性を意識した実行グラフを構築し、適切なエグゼキュータを割り当て、その後の決定を中間的な結果に適用しながら、独立したステップを並列化するマイルストーン計画実行ワークフローも導入されている。
論文 参考訳(メタデータ) (2026-08-05T08:50:36Z) - Skill-MAS: Evolving Meta-Skill for Automatic Multi-Agent Systems [16.25298848475875]
大規模言語モデル(LLM)に基づく自動マルチエージェントシステム(MAS)生成は,複雑なタスクに対処するための重要なフロンティアとなっている。
推論時間MASは凍結フロンティアLLMを利用するが、過去の経験から学ぶことなく同じ検索を繰り返す。
トレーニングタイムMASは、勾配更新を通じてエクスペリエンスを内部化するが、より小さなモデルの低機能天井によって制約される。
Skill-MASは,高レベルのオーケストレーション機能を進化可能なメタスキルとして概念化し,パラメトリック更新から保持体験を分離する新しい第3のパスである。
論文 参考訳(メタデータ) (2026-06-17T09:12:50Z) - HyperLens: Quantifying Cognitive Effort in LLMs with Fine-grained Confidence Trajectory [10.351595331564353]
トランスアーキテクチャにおける本質的な拡大機構を同定する。
本稿では,信頼軌道の追跡を目的とした高分解能プローブHyperLensを紹介する。
データセット全体にわたって、HyperLensは、複雑なタスクと単純なタスクを分離する信頼性トラジェクトリの一貫性の相違を明らかにしている。
論文 参考訳(メタデータ) (2026-05-07T06:32:57Z) - MAS-Orchestra: Understanding and Improving Multi-Agent Reasoning Through Holistic Orchestration and Controlled Benchmarks [86.05918381895555]
関数呼び出し強化学習問題としてMASオーケストレーションを定式化する訓練時間フレームワークとしてMASOrchestraを提案する。
MAS-Orchestraでは、複雑なゴール指向のサブエージェントは呼び出し可能な関数として抽象化され、システム構造に対する大域的推論を可能にする。
分析の結果,MASはタスク構造や検証プロトコル,オーケストレータとサブエージェントの両方の機能に大きく依存していることが判明した。
論文 参考訳(メタデータ) (2026-01-21T04:57:02Z) - Satori: Reinforcement Learning with Chain-of-Action-Thought Enhances LLM Reasoning via Autoregressive Search [57.28671084993782]
大規模言語モデル(LLM)は、様々な領域にまたがる顕著な推論能力を示している。
近年の研究では、テスト時間計算の増加はLLMの推論能力を高めることが示されている。
そこで我々は,1)COAT推論形式を内部化するための小規模な形式調整段階,2)強化学習を活用した大規模自己改善段階を提案する。
論文 参考訳(メタデータ) (2025-02-04T17:26:58Z) - RILe: Reinforced Imitation Learning [60.63173816209543]
RILe(Reinforced Learning)は、模倣学習と逆強化学習の強みを組み合わせて、高密度報酬関数を効率的に学習するフレームワークである。
本フレームワークは, 直接模倣が複雑な動作を再現できないような高次元タスクにおいて, 高い性能のポリシーを生成する。
論文 参考訳(メタデータ) (2024-06-12T17:56:31Z) - Mixture of insighTful Experts (MoTE): The Synergy of Thought Chains and Expert Mixtures in Self-Alignment [103.05005690990271]
MoTE(Mixture of insightful Experts)は、推論チェーンとエキスパートミックスを組み合わせて自己調整を改善する新しいフレームワークである。
MoTEはモデルの安全性、脱獄耐性、過剰な拒否機能を大幅に改善し、OpenAIの最先端のo1モデルに匹敵するパフォーマンスを実現している。
論文 参考訳(メタデータ) (2024-05-01T15:06:05Z) - Corex: Pushing the Boundaries of Complex Reasoning through Multi-Model Collaboration [83.4031923134958]
Corexは,大規模言語モデルを自律エージェントに変換する,新たな汎用戦略スイートだ。
人間の振る舞いにインスパイアされたCorexは、Debate、Review、Retrieveモードといった多様なコラボレーションパラダイムによって構成されている。
我々は,複数のLDMを協調的に演奏することで,既存の手法に比べて性能が著しく向上することが実証された。
論文 参考訳(メタデータ) (2023-09-30T07:11:39Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。