論文の概要: SKILL2STEER: One-Pass Hypernetwork for Mapping Natural-Language Skills to Low-Rank Post-Block Activation Shifts
- arxiv url: http://arxiv.org/abs/2611.04497v1
- Date: Tue, 03 Nov 2026 08:25:23 GMT
- ステータス: 情報取得中
- システム内更新日: 2026-11-04 17:57:17.029199
- Title: SKILL2STEER: One-Pass Hypernetwork for Mapping Natural-Language Skills to Low-Rank Post-Block Activation Shifts
- Title（参考訳）: SKILL2STEER:自然界のスキルを低域のポストブロック活性化シフトにマッピングするためのワンパスハイパーネットワーク
- Abstract要約: 本稿では,ワンパスハイパーネットワークであるSKILL2STEERを紹介し,各デコーダブロックの出力に付加される低ランクのアクティベーションシフトにマッピングする。
それぞれのスキルは2.36Mパラメータにコンパイルされ、重量空間アダプタの9.25倍も小さく、ベースウェイトは凍結し、ジェネレータはコンパイル時にのみ動作する。
7つのデータセットのベンチマークであるSearchQAでは、SKILL2STEERは37.9の正確なマッチに達し、凍結モデルより9.8ポイント、重量空間法より2.3ポイント高く、1スキルあたり9.25倍のパラメータを出荷している。
- 参考スコア（独自算出の注目度）: 9.532858656287921
- License:
- Abstract: Compiling a natural-language agent skill into model parameters removes the skill text from the prompt and leaves behind a small artifact that can be distributed and reused. Existing methods differ in where they inject the compiled quantity, and all of them assume that the artifact carries the content of the skill. We test that assumption. Through three controls on a retrieval agent, we find that a compiled skill shift carries a domain-general behavioural prior, not the content of the skill. A wrong skill document performs on par with the correct one, a single averaged bundle matches per-skill routing under a two-sided equivalence test, and a same-norm random direction collapses to the no-injection baseline, which shows that the trained direction stays load-bearing. We then introduce SKILL2STEER, a one-pass hypernetwork that reads a skill document once and maps it to low-rank activation shifts added at the output of every decoder block. Each skill compiles to 2.36M parameters, 9.25 times fewer than a weight-space adapter, while the base weights stay frozen and the generator runs only at compile time. The shift can be scheduled across retrieval steps and deployed as one routing-free bundle. On SearchQA, a seven-dataset benchmark, SKILL2STEER reaches 37.9 exact match, 9.8 points above the frozen model and 2.3 points above a weight-space method that ships 9.25 times more parameters per skill.
- Abstract（参考訳）: 自然言語エージェントのスキルをモデルパラメータにコンパイルすることで、プロンプトからスキルテキストを取り除き、分散や再利用が可能な小さなアーティファクトを残します。
既存の方法は、コンパイルされた量を注入する場所によって異なり、これらはすべて、アーティファクトがスキルの内容を持っていると仮定している。
私たちはその仮定を試す。
検索エージェントの3つの制御により、コンパイルされたスキルシフトは、そのスキルの内容ではなく、ドメイン一般の振る舞いを先取りすることがわかった。
間違ったスキル文書は正しいものと同等に実行され、一方の平均バンドルは両側の等価性テストの下でスキル毎のルーティングに一致し、同じノーノームランダム方向はノーインジェクションベースラインに崩壊し、トレーニングされた方向がロードベアリングのままであることを示す。
次に、ワンパスハイパーネットワークであるSKILL2STEERを紹介し、各デコーダブロックの出力に付加される低ランクのアクティベーションシフトにマッピングする。
それぞれのスキルは2.36Mパラメータにコンパイルされ、重量空間アダプタの9.25倍も小さく、ベースウェイトは凍結し、ジェネレータはコンパイル時にのみ動作する。
このシフトは、検索ステップにまたがってスケジュールされ、1つのルーティングフリーバンドルとしてデプロイされる。
7つのデータセットのベンチマークであるSearchQAでは、SKILL2STEERは37.9の正確なマッチに達し、凍結モデルより9.8ポイント、重量空間法より2.3ポイント高く、1スキルあたり9.25倍のパラメータを出荷している。
関連論文リスト
- The Router Within: Eliciting Native Skill Routing from a Frozen LLM [36.31894794808421]
スキルはエージェントのパラメトリックな知識を拡張し、彼らが約束する利益は正しい知識を選ぶことにかかっている。
凍結剤LLMは、既に独自の前方通過路でルーティング信号を搬送していることを示す。
一見すると、各スキルの中間層状態が2つのマップを通して投影される。
評決はその後、ショートリスト化されたスキルのフォワードパスを再開し、モデル自身の可能性とイエス/ノー判定を読み取る。
論文 参考訳（メタデータ） (2026-09-14T17:58:27Z) - SkillSeam: Six Principles for Auditing Agent Skill Collections [0.0]
SkillSeamは個々のスキルファイルがシステムになる関係を監査する。
それぞれのコレクションレベルの原則を、障害メカニズム、最強の可観測性、制御された摂動テストにマッピングする。
私たちは、他のスキルシステムが同じ障害チャンネルを計測できるように、バイト差のバリエーション、タスクスライス、ロールアップ、ワンスクリーンデザインチェックリストをリリースします。
論文 参考訳（メタデータ） (2026-09-10T19:59:07Z) - KV-Skill: Forging Expertise in the Model's Native Language [11.163527899001295]
KV-Skillは、フリーズ言語モデルが軽量インターフェースを通じて読み取る外部因子化演算子の設計空間である。
登録は、著者によるテキストスキルをテキスト由来のオペレータに変換し、バックボーン毎の共有インターフェースをトレーニングする。
Qwen3.5-4B LiveMathでは、ソーステキストスキルが23.4、SkillOptが52.0、SoftSkillが64.5と、登録精度が77.2に達した。
論文 参考訳（メタデータ） (2026-08-05T23:46:56Z) - Toward Skill-Native LLMs: Skill Entropy for Benchmarking and Training Long-Horizon Reasoning [72.09826781730662]
ロングホライゾン推論は、モデルが推論チェーン内の異なるスキルを切り替えることを要求する。
スキル・エントロピー(Skill Entropy)とは、あるスキルから別のスキルに切り替えることの難しさを測る尺度である。
本稿では,RLフレームワークであるSkill-Entropy RLを提案する。
論文 参考訳（メタデータ） (2026-08-05T17:57:16Z) - Generative Skill Composition for LLM Agents [58.47191648555256]
LLMエージェントは複雑なタスクを解決するためのスキルの恩恵を受ける。
スキルライブラリが成長するにつれて、適切なスキル構成を選択することが中心的なボトルネックとして現れている。
本稿では,タスク条件付きスキルシーケンス予測として構造化されたスキルコンポジションをインスタンス化するSkillComposerを提案する。
論文 参考訳（メタデータ） (2026-06-30T17:53:09Z) - Beyond Domains: Reusing Web Skills via Transferable Interaction Patterns [68.0603867264595]
SkillMigratorは再利用可能なWebスキルを学習し、特定の要素参照ではなくレイアウト構造にマッチしてサイト間でそれらを転送する。
WebArenaとMind2Webの両方において、成功軌道上の平均LCM-アクション数を、一致した成功速度で8-10%削減する。
論文 参考訳（メタデータ） (2026-06-16T08:04:35Z) - Skill-to-LoRA: From Using Skills to Learning Behaviors for Token-Efficient LLM Agents [4.313916831146957]
エージェントスキルは一般的にSKILL.mdファイルとして配布される。
本稿では,実行時スキルテキストをスキル固有のLoRAアダプタに置き換える,行動中心のスキル表現であるSkill-to-LoRAを提案する。
論文 参考訳（メタデータ） (2026-06-15T14:17:39Z) - Skill-as-Pseudocode: Refactoring Skill Libraries to Pseudocode for LLM Agents [50.78646963535282]
Skill-as-Pseudocode (SaP) はマークダウンスキルライブラリの型付き擬似コードへの自動変換である。
1つ以上のスキルから引き出された類似の手続きパスのクラスタごとに、SaPは型付きコントラクトを抽出し、それを4チェック決定性検証器を通じてフィルタリングする。
プロモートされた契約は、復元された具体的なアクションテンプレートと共に書き直されたスキルスケルトンにインライン化され、エージェントは2つの補完的な信号を与える。
論文 参考訳（メタデータ） (2026-05-27T04:48:40Z) - Under the Hood of SKILL.md: Semantic Supply-chain Attacks on AI Agent Skill Registry [49.83108591873481]
SKILL.md - エージェントスキルライフサイクルの3つのステージを対象とするアタックのみを調査する。
SKILL.mdは受動的ドキュメントではなく、サードパーティのエージェントが発見し、信頼し、使用する機能を形成する運用テキストであることを示す。
論文 参考訳（メタデータ） (2026-05-12T02:11:54Z) - SkillsBench: Benchmarking How Well Agent Skills Work Across Diverse Tasks [61.89812116484928]
エージェントスキルは、LLMエージェントを推論時に増強する手続き的知識の構造化パッケージである。
SkillsBenchは、11のドメインにわたる86のタスクのベンチマークであり、キュレートされたスキルと決定論的検証との組み合わせを示す。
キュレートされたスキルは平均パスレートを16.2ポイント(pp)上昇させるが、効果は領域によって大きく異なる。
自己生成スキルは平均的に何の利益も与えず、モデルが消費から得られる手続き的な知識を確実に説明できないことを示している。
論文 参考訳（メタデータ） (2026-02-13T07:06:06Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。