論文の概要: GraphIR: Architecture-Level Search States for LLM-Guided Neural Architecture Evolution
- arxiv url: http://arxiv.org/abs/2608.01633v1
- Date: Mon, 03 Aug 2026 03:06:58 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-04 21:56:46.375034
- Title: GraphIR: Architecture-Level Search States for LLM-Guided Neural Architecture Evolution
- Title(参考訳): GraphIR: LLM-Guided Neural Architecture Evolutionのためのアーキテクチャレベル検索ステート
- Authors: Zhen Liu, Wanqi Zhou, Shuanghao Bai, Yuhan Liu, Jinjun Wang, Jingwen Fu,
- Abstract要約: 大規模言語モデル(LLM)は、実行可能ニューラルネットワークプログラム上でのニューラルネットワーク探索(NAS)を可能にする。
LLMはテンソルの依存関係、編集可能なコンポーネント、実装の詳細からの互換性の制約を推論しなければならない。
アーキテクチャを意識した中間表現であるGraphIRを提案する。
- 参考スコア(独自算出の注目度): 34.415252210308466
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Large language models (LLMs) enable neural architecture search (NAS) directly over executable neural network programs. However, code-level flexibility does not provide the architecture state needed for effective mutation: LLMs must infer tensor dependencies, editable components, and compatibility constraints from implementation details. To address this representation mismatch, we propose GraphIR, an architecture-aware intermediate representation that supplements executable programs with a mutation-aligned candidate state. GraphIR organizes each candidate through three complementary views: a computation skeleton describing tensor flow, a mutation surface exposing editable modules and operations, and a validity envelope capturing interface contracts, propagated shapes, and downstream dependencies. To evaluate our method, we construct NAS-Dependency, a 120-question benchmark covering six complementary dependency-reasoning dimensions. The diagnostic shows that GraphIR is particularly effective at identifying exact producer occurrences, tracing dependency propagation, and diagnosing interface and failure risks. Across six downstream benchmarks including CLRS, GraphIR achieves the best overall search performance while maintaining comparable model size and favorable end-to-end NAS efficiency when integrated into OpenEvolve. These results show that a mutation-oriented architecture state provides an effective interface between executable neural programs and LLM-guided architecture evolution.
- Abstract(参考訳): 大規模言語モデル(LLM)は、実行可能ニューラルネットワークプログラム上で直接NAS(Neural Architecture Search)を可能にする。
しかし、コードレベルの柔軟性は、効果的な突然変異に必要なアーキテクチャ状態を提供していない: LLMは、テンソルの依存関係、編集可能なコンポーネント、実装の詳細からの互換性の制約を推論する必要がある。
この表現ミスマッチに対処するために、アーキテクチャを意識した中間表現であるGraphIRを提案する。
GraphIRは、テンソルフローを記述する計算スケルトン、編集可能なモジュールと操作を公開する突然変異面、インターフェイスコントラクトをキャプチャする妥当性のあるエンベロープ、伝播形状、下流依存性の3つの補完的なビューを通じて、各候補を整理する。
提案手法を評価するために,6つの相補的依存関係推論次元をカバーする120のクェクション・ベンチマークであるNAS-Dependencyを構築した。
この診断は、GraphIRが特に正確なプロデューサ発生の特定、依存性の伝搬のトレース、インターフェースと障害リスクの診断に有効であることを示している。
CLRSを含む6つのダウンストリームベンチマークにおいて、GraphIRは、OpenEvolveに統合された場合、同等のモデルサイズと好ましいエンドツーエンドNAS効率を維持しながら、全体的な検索性能を最高のものにしている。
これらの結果は、突然変異指向アーキテクチャ状態が、実行可能なニューラルプログラムとLLM誘導アーキテクチャ進化の間の効果的なインターフェースを提供することを示している。
関連論文リスト
- VeriGraphi: A Multi-Agent Framework of Hierarchical RTL Generation for Large Hardware Designs [5.354071922171165]
本稿では,RTL生成パイプラインを駆動するアーキテクチャ基板として,仕様記述型知識グラフを導入するフレームワークであるVeriGraphiを紹介する。
VeriGraphi は RISC-V に対する人間の介入を最小限に抑え, 信頼性の高い階層型 RTL 生成を可能にする。
論文 参考訳(メタデータ) (2026-04-16T02:30:57Z) - CARD: Towards Conditional Design of Multi-agent Topological Structures [83.18278008173746]
CARD(Conditional Agentic Graph Designer)は、アダプティブマルチエージェント通信のためのプロトコルであるAMACPをインスタンス化する、条件付きグラフ生成フレームワークである。
CARDは、モデル能力やリソース可用性の変化に対して効果的かつレジリエントな通信構造を生成する。
論文 参考訳(メタデータ) (2026-03-01T13:02:36Z) - Closed-Loop LLM Discovery of Non-Standard Channel Priors in Vision Models [48.83701310501069]
大規模言語モデル(LLM)はニューラルアーキテクチャサーチ(NAS)に対する変換的アプローチを提供する
我々は、LLMが性能テレメトリに基づいてアーキテクチャ仕様を洗練する条件付きコード生成タスクのシーケンスとして検索を定式化する。
AST(Abstract Syntax Tree)変異を用いて,有効かつ整合性のあるアーキテクチャの膨大なコーパスを生成する。
CIFAR-100の実験結果は、この手法の有効性を検証し、精度の統計的に有意な改善をもたらすことを示した。
論文 参考訳(メタデータ) (2026-01-13T13:00:30Z) - GLOW: Graph-Language Co-Reasoning for Agentic Workflow Performance Prediction [51.83437071408662]
本稿では,AW性能予測のための統合フレームワークGLOWを提案する。
GLOWは、GNNのグラフ構造モデリング能力とLLMの推論能力を組み合わせる。
FLORA-Benchの実験では、GLOWは予測精度とランキングユーティリティにおいて最先端のベースラインを上回っている。
論文 参考訳(メタデータ) (2025-12-11T13:30:46Z) - GILT: An LLM-Free, Tuning-Free Graph Foundational Model for In-Context Learning [50.40400074353263]
グラフニューラルネットワーク(GNN)は、リレーショナルデータを先行する強力なツールであるが、しばしば目に見えないグラフに一般化するのに苦労する。
textbfGraph textbfIn-context textbfL textbfTransformer (GILT)を導入する。
論文 参考訳(メタデータ) (2025-10-06T08:09:15Z) - Learning Efficient and Generalizable Graph Retriever for Knowledge-Graph Question Answering [75.12322966980003]
大規模言語モデル(LLM)は、様々な領域にわたって強い帰納的推論能力を示している。
既存のRAGパイプラインのほとんどは非構造化テキストに依存しており、解釈可能性と構造化推論を制限する。
近年,知識グラフ解答のための知識グラフとLLMの統合について検討している。
KGQAにおける効率的なグラフ検索のための新しいフレームワークであるRAPLを提案する。
論文 参考訳(メタデータ) (2025-06-11T12:03:52Z) - Scalability Matters: Overcoming Challenges in InstructGLM with Similarity-Degree-Based Sampling [1.2805157669888096]
提案するSDM-InstructGLMは,GNNに依存することなく,拡張性と効率を向上する命令調整グラフ言語モデル(InstructGLM)フレームワークである。
本手法では,ノード間類似度と次数集中度に基づいてグラフ情報を選択的にサンプリングし,符号化する,類似度に基づくバイアス付きランダムウォーク機構を提案する。
本結果は,LLMのみのグラフ処理の実現可能性を示し,命令ベースの微調整によって最適化されたスケーラブルかつ解釈可能なグラフ言語モデル(GLM)を実現する。
論文 参考訳(メタデータ) (2025-05-02T06:08:21Z) - LASE: Learned Adjacency Spectral Embeddings [9.227991604045416]
グラフ入力から結節隣接スペクトル埋め込み(ASE)を学習する。
LASEは解釈可能で、パラメータ効率が高く、未観測のエッジを持つ入力に対して堅牢である。
LASEレイヤは、Graph Convolutional Network (GCN)と完全に接続されたGraph Attention Network (GAT)モジュールを組み合わせる。
論文 参考訳(メタデータ) (2024-12-23T17:35:19Z) - DepGraph: Towards Any Structural Pruning [68.40343338847664]
我々は、CNN、RNN、GNN、Transformersのような任意のアーキテクチャの一般的な構造解析について研究する。
本稿では,階層間の依存関係を明示的にモデル化し,包括的にグループ化してプルーニングを行う汎用かつ完全自動な手法であるemphDependency Graph(DepGraph)を提案する。
本研究では,画像用ResNe(X)t,DenseNet,MobileNet,Vision Transformer,グラフ用GAT,3Dポイントクラウド用DGCNN,言語用LSTMなど,さまざまなアーキテクチャやタスクに関する手法を広範囲に評価し,言語用LSTMと並行して示す。
論文 参考訳(メタデータ) (2023-01-30T14:02:33Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。