論文の概要: LLM as a Tool, Not an Agent: Code-Mined Tree Transformations for Neural Architecture Search

• arxiv url: http://arxiv.org/abs/2604.16555v1
• Date: Fri, 17 Apr 2026 07:56:26 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-21 21:52:52.070018
• Title: LLM as a Tool, Not an Agent: Code-Mined Tree Transformations for Neural Architecture Search
• Title（参考訳）: エージェントではなくツールとしてのLLM:ニューラルアーキテクチャ検索のためのコードマイニングツリー変換
• Authors: Masakazu Yoshimura, Zitang Sun, Yuiko Sakuma, Junji Otsuka, Atsushi Irie, Takeshi Ohashi,
• Abstract要約: 安定かつオープンなモデル進化のための階層木に基づくNASフレームワークを提案する。 CIFAR-10, CIFAR-100, ImageNet16-120において既存のNAS法を0.69, 1.83, 2.68ポイント改善する。
• 参考スコア（独自算出の注目度）: 8.58441788229967
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Neural Architecture Search (NAS) aims to automatically discover high-performing deep neural network (DNN) architectures. However, conventional algorithm-driven NAS relies on carefully hand-crafted search spaces to ensure executability, which restricts open-ended exploration. Recent coding-based agentic approaches using large language models (LLMs) reduce manual design, but current LLMs struggle to reliably generate complex, valid architectures, and their proposals are often biased toward a narrow set of patterns observed in their training data. To bridge reliable algorithmic search with powerful LLM assistance, we propose LLMasTool, a hierarchical tree-based NAS framework for stable and open-ended model evolution. Our method automatically extracts reusable modules from arbitrary source code and represents full architectures as hierarchical trees, enabling evolution through reliable tree transformations rather than code generation. At each evolution step, coarse-level planning is governed by a diversity-guided algorithm that leverages Bayesian modeling to improve exploration efficiency, while the LLM resolves the remaining degrees of freedom to ensure a meaningful evolutionary trajectory and an executable generated architecture. With this formulation, instead of fully agentic LLM approaches, our method explores diverse directions beyond the inherent biases in the LLM. Our method improves over existing NAS methods by 0.69, 1.83, and 2.68 points on CIFAR-10, CIFAR-100, and ImageNet16-120, demonstrating its effectiveness.
• Abstract（参考訳）: Neural Architecture Search (NAS)は、ハイパフォーマンスなディープニューラルネットワーク(DNN)アーキテクチャを自動的に発見することを目的としている。 しかし、従来のアルゴリズム駆動のNASは、実行可能性を確保するために手作りの検索スペースに依存しており、これはオープンエンド探索を制限している。 大規模言語モデル(LLM)を用いた最近のコーディングベースのエージェントアプローチは手動設計を減らしているが、現在のLLMは複雑で有効なアーキテクチャを確実に生成するのに苦労しており、それらの提案はトレーニングデータに見られる狭いパターンに偏っていることが多い。 安定かつオープンなモデル進化のための階層木ベースのNASフレームワークであるLLMasToolを提案する。 本手法は,任意のソースコードから再利用可能なモジュールを自動的に抽出し,完全なアーキテクチャを階層木として表現することで,コード生成よりも信頼性の高いツリー変換による進化を可能にする。 各進化段階において、粗いレベルの計画はベイズモデルを利用して探索効率を向上させるダイバーシティ誘導アルゴリズムによって管理され、一方LLMは残りの自由度を解決し、意味のある進化軌道と実行可能なアーキテクチャを確実にする。 この定式化では, LLM の完全エージェント的アプローチの代わりに, LLM の固有バイアスを超えた多様な方向を探索する。 CIFAR-10, CIFAR-100, ImageNet16-120において既存のNAS法を0.69, 1.83, 2.68点改善し, その有効性を示した。

関連論文リスト

• Closed-Loop LLM Discovery of Non-Standard Channel Priors in Vision Models [48.83701310501069]
  大規模言語モデル(LLM)はニューラルアーキテクチャサーチ(NAS)に対する変換的アプローチを提供する 我々は、LLMが性能テレメトリに基づいてアーキテクチャ仕様を洗練する条件付きコード生成タスクのシーケンスとして検索を定式化する。 AST(Abstract Syntax Tree)変異を用いて,有効かつ整合性のあるアーキテクチャの膨大なコーパスを生成する。 CIFAR-100の実験結果は、この手法の有効性を検証し、精度の統計的に有意な改善をもたらすことを示した。
  論文  参考訳（メタデータ） (2026-01-13T13:00:30Z)
• LM-Searcher: Cross-domain Neural Architecture Search with LLMs via Unified Numerical Encoding [55.5535016040221]
  LM-Searcherは、クロスドメインニューラルネットワーク最適化のための新しいフレームワークである。 我々のアプローチの中心は、ニューラルネットワークのための普遍的な数値文字列表現であるNCodeである。 我々のデータセットは、幅広いアーキテクチャとパフォーマンスのペアを含み、堅牢で伝達可能な学習を促進する。
  論文  参考訳（メタデータ） (2025-09-06T09:26:39Z)
• TreeLoRA: Efficient Continual Learning via Layer-Wise LoRAs Guided by a Hierarchical Gradient-Similarity Tree [52.44403214958304]
  本稿では階層的な勾配の類似性を利用して階層型アダプタを構築する新しい手法であるTreeLoRAを紹介する。 タスク類似度推定の計算負担を軽減するために,より低い信頼度境界に基づくアルゴリズムを開発するために,バンド手法を用いる。 視覚変換器 (ViTs) と大規模言語モデル (LLMs) の両方を用いた実験により, 提案手法の有効性と有効性を示す。
  論文  参考訳（メタデータ） (2025-06-12T05:25:35Z)
• Search for Efficient Large Language Models [52.98684997131108]
  大規模言語モデル(LLMs)は、人工知能研究の領域で長い間停滞してきた。 軽量プルーニング、量子化、蒸留がLLMの圧縮に取り入れられ、メモリの削減と推論の加速を狙った。 ほとんどのモデル圧縮技術は、最適アーキテクチャの探索を見越して重量最適化に重点を置いている。
  論文  参考訳（メタデータ） (2024-09-25T21:32:12Z)
• LLMatic: Neural Architecture Search via Large Language Models and Quality Diversity Optimization [4.951599300340954]
  大きな言語モデル(LLM)は、幅広いタスクをこなせる強力なツールとして登場した。 本稿では、LLMの符号化機能を用いて、ニューラルネットワークを定義するコードに意味のあるバリエーションを導入することを提案する。 本稿では,LLMのコード生成能力とQDソリューションの多様性と堅牢性を融合させることで,ニューラルネットワーク探索(NAS)アルゴリズムであるtextttLLMaticを導入する。
  論文  参考訳（メタデータ） (2023-06-01T19:33:21Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。