論文の概要: Up and Down the Abstraction Ladder: Code-Based Skills for Language Agents
- arxiv url: http://arxiv.org/abs/2609.31076v1
- Date: Fri, 25 Sep 2026 10:15:45 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-28 18:27:51.335974
- Title: Up and Down the Abstraction Ladder: Code-Based Skills for Language Agents
- Title(参考訳): 抽象ラダーの上下 - 言語エージェントのためのコードベースのスキル
- Abstract要約: コードに基づくアクション抽象化が,言語エージェントの性能,推論コスト,学習に与える影響について検討する。
私たちは、コードベースのスキルと自然言語記述のライブラリであるCodeHackを使って、プリミティブに制限されたエージェントと、セマンティックスキルのみまたはプリミティブと組み合わせたエージェントを比較します。
NetHackでの広範囲なゼロショット評価では、プリミティブと比較して、スキルは3倍近く向上し、エピソード当たりの推論コストは86%削減された。
- 参考スコア(独自算出の注目度): 29.097949717192737
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Language agents struggle to act and learn in environments that require long sequences of low-level actions. Code-based abstractions can make these agents more productive by letting them invoke reusable skills instead of repeatedly selecting individual actions. The code handles recurring local decisions, while the language model decides which skills to use and how to combine them. Yet abstractions are leaky, and situations beyond a skill's capabilities may require a return to primitive actions. Motivated by this tradeoff between productivity and flexibility, we systematically study how code-based action abstraction affects the performance, inference cost, and learning of language agents. We study this in NetHack, a challenging, long-horizon game environment, using CodeHack, our library of code-based skills with natural-language descriptions. We use this library to compare agents restricted to primitives with those using semantic skills alone or in combination with primitives. We evaluate these agents in three settings: zero-shot prompting, supervised fine-tuning, and reinforcement learning. Across a broad zero-shot evaluation on NetHack, we find that compared with primitives, skills nearly triple game progression, while reducing inference cost per episode by 86%. Combining skills with primitives retains much of this benefit while preserving a path back down to low-level actions. Finally, in RL, we find that skill-based agents learn significantly faster than agents acting on primitives, achieving a 7.2x larger average gain in dungeon level over the same training budget. These results show that a supplied skill library can improve performance, efficiency, and learning, while retaining primitives provides flexibility when the library is insufficient. We release CodeHack together with training and evaluation code.
- Abstract(参考訳): 言語エージェントは、低レベルのアクションの長いシーケンスを必要とする環境で行動し、学ぶのに苦労する。
コードベースの抽象化は、個々のアクションを繰り返し選択するのではなく、再利用可能なスキルを呼び出すことによって、これらのエージェントをより生産的にする。
言語モデルはどのスキルを使うか、どのように組み合わせるかを決定する。
しかし抽象化は漏洩しており、スキルの能力を超えた状況ではプリミティブなアクションに戻る必要があるかもしれない。
生産性と柔軟性のトレードオフによって、コードベースのアクション抽象化がパフォーマンス、推論コスト、言語エージェントの学習にどのように影響するかを体系的に研究する。
我々は、言語記述を伴うコードベースのスキルのライブラリであるCodeHackを使って、難易度の高い長期ゲーム環境であるNetHackでこれを研究している。
このライブラリを使って、プリミティブに制限されたエージェントと、セマンティックスキルのみまたはプリミティブと組み合わせたエージェントを比較します。
我々はこれらのエージェントを,ゼロショットプロンプト,教師付き微調整,強化学習の3つの設定で評価した。
NetHackでの広範囲なゼロショット評価では、プリミティブと比較して、スキルは3倍近く向上し、エピソード当たりの推論コストは86%削減された。
プリミティブとスキルを組み合わせることは、低レベルなアクションへのパスを保ちながら、このメリットの大部分を保持します。
最後に、RLでは、スキルベースのエージェントはプリミティブに作用するエージェントよりもはるかに速く学習し、同じトレーニング予算でダンジョンレベルの平均利得を7.2倍に向上させる。
これらの結果から,提供されるスキルライブラリは性能,効率,学習性を向上し,プリミティブの保持はライブラリが不十分な場合に柔軟性を提供することが示された。
トレーニングと評価のコードと一緒にCodeHackをリリースします。
関連論文リスト
- Evo-Harness: Context-to-Harness Skill Compilation for Self-Evolving Agents [67.97365535829098]
経験から学ぶことは、有能で自己改善型の大規模言語モデル(LLM)エージェントの開発に不可欠である。
Evo-Harnessは、ノイズの多いシングルショット実行を、クロスドメインとトピックレベルの適応のための再利用可能なスキルハーネスに蒸留する。
本分析は,エボ・ハーネスの有効性を実証し,LLMエージェントがリアルタイムで効果的に学習する方法の原理的理解を提供する。
論文 参考訳(メタデータ) (2026-08-15T06:43:56Z) - SkillComposer: Learning to Evolve Agent Skills for Specification and Generalization [99.18305770138677]
エージェントスキルは、エージェントの推論とアクションをガイドする再利用可能な戦略である。
現在の技術構築手法は、問題を一発抽出として扱う。
本稿では,スキル構築を3つの学習可能な操作に分解するフレームワークであるSkillComposerを紹介する。
論文 参考訳(メタデータ) (2026-06-04T12:16:08Z) - SkillGraph: Skill-Augmented Reinforcement Learning for Agents via Evolving Skill Graphs [70.1970574147839]
有向グラフのノードとして再利用可能なスキルを表現するフレームワークであるSKILLGRAPHを提案する。
SKILLGRAPHは個々のスキルだけでなく、多段階意思決定をガイドできる順序付きスキルサブグラフも取得する。
実験により,SKILLGRAPHはメモリ拡張RL法に対して最先端の性能を実現することが示された。
論文 参考訳(メタデータ) (2026-05-12T12:21:49Z) - SKILL0: In-Context Agentic Reinforcement Learning for Skill Internalization [61.37478254738943]
推論時のスキル向上は基本的に制限されている。
SKILL0は,スキル内部化のためのコンテキスト内強化学習フレームワークである。
SKILL0は標準のRLベースラインよりも大幅に改善されている。
論文 参考訳(メタデータ) (2026-04-02T17:03:05Z) - SkillRL: Evolving Agents via Recursive Skill-Augmented Reinforcement Learning [83.98129545309277]
生経験と政策改善のギャップを埋めるフレームワークであるSkillRLを提案する。
本手法では,階層型スキルライブラリであるSkillBankを構築するために,経験に基づく蒸留機構を導入する。
ALF、WebShop、および7つの検索強化タスクの実験結果は、SkillRLが最先端のパフォーマンスを達成することを示す。
論文 参考訳(メタデータ) (2026-02-09T03:17:17Z) - Reinforcement Learning for Self-Improving Agent with Skill Library [14.717149089634718]
大規模言語モデル(LLM)に基づくエージェントは、複雑な推論とマルチターン相互作用において顕著な機能を示した。
有望なアプローチの1つは、エージェントが新しいスキルを学び、検証し、適用できるスキルライブラリを実装することである。
スキルライブラリによるエージェントの自己改善能力を高めるための強化学習(RL)に基づくアプローチを提案する。
論文 参考訳(メタデータ) (2025-12-18T21:58:19Z) - CONCORD: Clone-aware Contrastive Learning for Source Code [64.51161487524436]
セルフ教師付き事前トレーニングは、多くのダウンストリームSEタスクに価値のあるジェネリックコード表現を学ぶための牽引役になった。
汎用的な表現学習のために、開発者が日々どのようにコードをコーディングするかは、要因としても不可欠である、と私たちは主張する。
特に,表現空間に良性クローンを近づける自己教師型コントラスト学習戦略であるCONCORDを提案する。
論文 参考訳(メタデータ) (2023-06-05T20:39:08Z) - Hierarchical Kickstarting for Skill Transfer in Reinforcement Learning [27.69559938165733]
実践とホーミングのスキルは、人間の学習の基本的な要素だが、人工エージェントは、それらを実行するために特別に訓練されることはめったにない。
複雑な環境下での強化学習(RL)エージェントの訓練に、どのようにスキルを組み込むことができるかを検討する。
本実験により, 複雑な問題に対するエージェントの性能向上に寄与することが示唆された。
論文 参考訳(メタデータ) (2022-07-23T19:23:29Z) - Skill Machines: Temporal Logic Skill Composition in Reinforcement Learning [13.049516752695613]
本稿では,エージェントがその環境におけるすべてのハイレベルな目標を達成するのに十分なスキルプリミティブのセットを学習するフレームワークを提案する。
エージェントは論理的にも時間的にも柔軟に構成でき、任意の正規言語で時間論理の仕様を確実に達成することができる。
これによりエージェントは、複雑な時間論理タスクの仕様から、ほぼ最適な振る舞いをゼロショットにマッピングできる。
論文 参考訳(メタデータ) (2022-05-25T07:05:24Z) - Grounded Language Learning Fast and Slow [23.254765095715054]
本研究では,従来の強化学習アルゴリズムを用いて訓練すると,実施エージェントが類似したワンショット単語学習を行うことができることを示す。
特定の訓練条件下では、エージェントのワンショットワードオブジェクト結合は、同じShapeNetカテゴリ内の新しい例に一般化される。
さらに、二重符号化メモリを本質的なモチベーションの信号として利用し、エージェントが後続の命令を実行するのに有用なオブジェクトの名前を検索するように促す方法を示す。
論文 参考訳(メタデータ) (2020-09-03T14:52:03Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。