Fugu-MT 論文翻訳(概要): LLM as a Tool, Not an Agent: Code-Mined Tree Transformations for Neural Architecture Search

論文の概要: LLM as a Tool, Not an Agent: Code-Mined Tree Transformations for Neural Architecture Search

arxiv url: http://arxiv.org/abs/2604.16555v1
Date: Fri, 17 Apr 2026 07:56:26 GMT
ステータス: 翻訳完了
システム内更新日: 2026-04-21 21:52:52.070018
Title: LLM as a Tool, Not an Agent: Code-Mined Tree Transformations for Neural Architecture Search
Title（参考訳）: エージェントではなくツールとしてのLLM:ニューラルアーキテクチャ検索のためのコードマイニングツリー変換
Abstract要約: 安定かつオープンなモデル進化のための階層木に基づくNASフレームワークを提案する。 CIFAR-10, CIFAR-100, ImageNet16-120において既存のNAS法を0.69, 1.83, 2.68ポイント改善する。
参考スコア（独自算出の注目度）: 8.58441788229967
License: http://creativecommons.org/licenses/by/4.0/
Abstract: Neural Architecture Search (NAS) aims to automatically discover high-performing deep neural network (DNN) architectures. However, conventional algorithm-driven NAS relies on carefully hand-crafted search spaces to ensure executability, which restricts open-ended exploration. Recent coding-based agentic approaches using large language models (LLMs) reduce manual design, but current LLMs struggle to reliably generate complex, valid architectures, and their proposals are often biased toward a narrow set of patterns observed in their training data. To bridge reliable algorithmic search with powerful LLM assistance, we propose LLMasTool, a hierarchical tree-based NAS framework for stable and open-ended model evolution. Our method automatically extracts reusable modules from arbitrary source code and represents full architectures as hierarchical trees, enabling evolution through reliable tree transformations rather than code generation. At each evolution step, coarse-level planning is governed by a diversity-guided algorithm that leverages Bayesian modeling to improve exploration efficiency, while the LLM resolves the remaining degrees of freedom to ensure a meaningful evolutionary trajectory and an executable generated architecture. With this formulation, instead of fully agentic LLM approaches, our method explores diverse directions beyond the inherent biases in the LLM. Our method improves over existing NAS methods by 0.69, 1.83, and 2.68 points on CIFAR-10, CIFAR-100, and ImageNet16-120, demonstrating its effectiveness.
Abstract（参考訳）: Neural Architecture Search (NAS)は、ハイパフォーマンスなディープニューラルネットワーク(DNN)アーキテクチャを自動的に発見することを目的としている。しかし、従来のアルゴリズム駆動のNASは、実行可能性を確保するために手作りの検索スペースに依存しており、これはオープンエンド探索を制限している。大規模言語モデル(LLM)を用いた最近のコーディングベースのエージェントアプローチは手動設計を減らしているが、現在のLLMは複雑で有効なアーキテクチャを確実に生成するのに苦労しており、それらの提案はトレーニングデータに見られる狭いパターンに偏っていることが多い。安定かつオープンなモデル進化のための階層木ベースのNASフレームワークであるLLMasToolを提案する。本手法は,任意のソースコードから再利用可能なモジュールを自動的に抽出し,完全なアーキテクチャを階層木として表現することで,コード生成よりも信頼性の高いツリー変換による進化を可能にする。各進化段階において、粗いレベルの計画はベイズモデルを利用して探索効率を向上させるダイバーシティ誘導アルゴリズムによって管理され、一方LLMは残りの自由度を解決し、意味のある進化軌道と実行可能なアーキテクチャを確実にする。この定式化では, LLM の完全エージェント的アプローチの代わりに, LLM の固有バイアスを超えた多様な方向を探索する。 CIFAR-10, CIFAR-100, ImageNet16-120において既存のNAS法を0.69, 1.83, 2.68点改善し, その有効性を示した。

関連論文リスト

Closed-Loop LLM Discovery of Non-Standard Channel Priors in Vision Models [48.83701310501069]
大規模言語モデル(LLM)はニューラルアーキテクチャサーチ(NAS)に対する変換的アプローチを提供する我々は、LLMが性能テレメトリに基づいてアーキテクチャ仕様を洗練する条件付きコード生成タスクのシーケンスとして検索を定式化する。 AST(Abstract Syntax Tree)変異を用いて,有効かつ整合性のあるアーキテクチャの膨大なコーパスを生成する。 CIFAR-100の実験結果は、この手法の有効性を検証し、精度の統計的に有意な改善をもたらすことを示した。
論文参考訳（メタデータ） (2026-01-13T13:00:30Z)
LM-Searcher: Cross-domain Neural Architecture Search with LLMs via Unified Numerical Encoding [55.5535016040221]
LM-Searcherは、クロスドメインニューラルネットワーク最適化のための新しいフレームワークである。我々のアプローチの中心は、ニューラルネットワークのための普遍的な数値文字列表現であるNCodeである。我々のデータセットは、幅広いアーキテクチャとパフォーマンスのペアを含み、堅牢で伝達可能な学習を促進する。
論文参考訳（メタデータ） (2025-09-06T09:26:39Z)
Agentic Reinforced Policy Optimization [66.96989268893932]
検証可能な報酬付き大規模強化学習(RLVR)は,大規模言語モデル(LLM)を単一ターン推論タスクに活用する効果を実証している。現在のRLアルゴリズムは、モデル固有のロングホライゾン推論能力と、マルチターンツールインタラクションにおけるその習熟性のバランスが不十分である。エージェント強化ポリシー最適化(ARPO: Agentic Reinforced Policy Optimization)は,マルチターンLDMエージェントを学習するためのエージェントRLアルゴリズムである。
論文参考訳（メタデータ） (2025-07-26T07:53:11Z)
TreeLoRA: Efficient Continual Learning via Layer-Wise LoRAs Guided by a Hierarchical Gradient-Similarity Tree [52.44403214958304]
本稿では階層的な勾配の類似性を利用して階層型アダプタを構築する新しい手法であるTreeLoRAを紹介する。タスク類似度推定の計算負担を軽減するために,より低い信頼度境界に基づくアルゴリズムを開発するために,バンド手法を用いる。視覚変換器 (ViTs) と大規模言語モデル (LLMs) の両方を用いた実験により, 提案手法の有効性と有効性を示す。
論文参考訳（メタデータ） (2025-06-12T05:25:35Z)
LLM-Guided Evolution: An Autonomous Model Optimization for Object Detection [0.0]
機械学習では、ニューラルネットワークサーチ(NAS)はモデル設計のドメイン知識と、有望なパフォーマンスを達成するために大量の試行錯誤を必要とする。 Large Language Model (LLM)-Guided Evolution (GE)フレームワークは、CIFARデータ上の画像分類アルゴリズムのモデルソースコードを直接修正するためにLLMを組み込むことによって、このアプローチを変革した。 LLM-GEは平均平均精度を92.5%から94.5%に向上させるなど,大幅な性能向上を図った。
論文参考訳（メタデータ） (2025-04-03T05:06:06Z)
ZeroLM: Data-Free Transformer Architecture Search for Language Models [54.83882149157548]
現在の自動プロキシ発見アプローチは、検索時間の拡張、データの過度なオーバーフィットへの感受性、構造的な複雑さに悩まされている。本稿では,効率的な重み統計によるモデルキャパシティの定量化を目的とした,新しいゼロコストプロキシ手法を提案する。本評価は,FlexiBERT ベンチマークで Spearman's rho 0.76 と Kendall's tau 0.53 を達成し,このアプローチの優位性を示すものである。
論文参考訳（メタデータ） (2025-03-24T13:11:22Z)
Instructing the Architecture Search for Spatial-temporal Sequence Forecasting with LLM [18.649295352998546]
大規模言語モデル(LLM)に基づくSTSFのための新しいNAS手法を提案する。提案手法は,STSFの既存のNAS法に対して,より優れた効率で競合効率を実現することができる。
論文参考訳（メタデータ） (2025-03-23T08:59:04Z)
Search for Efficient Large Language Models [52.98684997131108]
大規模言語モデル(LLMs)は、人工知能研究の領域で長い間停滞してきた。軽量プルーニング、量子化、蒸留がLLMの圧縮に取り入れられ、メモリの削減と推論の加速を狙った。ほとんどのモデル圧縮技術は、最適アーキテクチャの探索を見越して重量最適化に重点を置いている。
論文参考訳（メタデータ） (2024-09-25T21:32:12Z)
LLMatic: Neural Architecture Search via Large Language Models and Quality Diversity Optimization [4.951599300340954]
大きな言語モデル(LLM)は、幅広いタスクをこなせる強力なツールとして登場した。本稿では、LLMの符号化機能を用いて、ニューラルネットワークを定義するコードに意味のあるバリエーションを導入することを提案する。本稿では,LLMのコード生成能力とQDソリューションの多様性と堅牢性を融合させることで,ニューラルネットワーク探索(NAS)アルゴリズムであるtextttLLMaticを導入する。
論文参考訳（メタデータ） (2023-06-01T19:33:21Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。