論文の概要: Bi-EZP: LLM-Guided Bilevel Program Evolution for Ensemble Zero-Cost Proxy Discovery
- arxiv url: http://arxiv.org/abs/2608.21927v1
- Date: Sat, 22 Aug 2026 11:34:35 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-25 13:29:43.536243
- Title: Bi-EZP: LLM-Guided Bilevel Program Evolution for Ensemble Zero-Cost Proxy Discovery
- Title(参考訳): Bi-EZP: Zero-Cost Proxy Discovery をアンサンブルする LLM-Guided Bilevel Program Evolution
- Abstract要約: Bi-EZPは、プログラム発見と数値キャリブレーションを分離するバイレベルフレームワークである。
その結果,プログラム発見と数値キャリブレーションの分離は,ゼロコストプロキシの自動アンサンブル構築に有効な手法であることが示唆された。
- 参考スコア(独自算出の注目度): 2.751603258501323
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Zero-cost proxies enable neural architecture search (NAS) to rank candidate networks from statistics computed at initialization, avoiding repeated training. However, different proxies capture different properties and often produce inconsistent rankings across search spaces. Ensemble proxies can combine complementary signals, but automated discovery must optimize both discrete aggregation structures and their continuous coefficients, making structural quality difficult to separate from parameter calibration. We propose Bi-EZP, a bilevel framework that decouples these decisions. At the upper level, a large language model generates executable aggregation programs over four complementary base proxies with program-specific parameter bounds. At the lower level, covariance matrix adaptation evolution strategy (CMA-ES) optimizes the continuous parameters of each fixed program on an inner training split. The calibrated programs are then evaluated using Kendall's rank correlation on a disjoint validation split, enabling evolutionary selection to favor structures that generalize beyond their calibration data. Experiments on NATS-Bench and Network Design Spaces evaluate ranking performance across heterogeneous search spaces, and DARTS experiments assess downstream architecture search. Results show that separating program discovery from numerical calibration provides an effective approach to automated ensemble zero-cost proxy construction. The source code is available at: https://anonymous.4open.science/r/Bi-EZP-318D
- Abstract(参考訳): ゼロコストプロキシにより、ニューラルネットワークサーチ(NAS)は、初期化時に計算された統計から候補ネットワークをランク付けし、繰り返しトレーニングを避けることができる。
しかし、異なるプロキシは異なる特性をキャプチャし、しばしば検索空間全体にわたって一貫性のないランキングを生成する。
アンサンブルプロキシは相補的な信号を組み合わせることができるが、自動的な発見は離散的な集合構造とその連続係数の両方を最適化し、構造的品質をパラメータキャリブレーションから切り離すのが困難である。
これらの決定を分離するバイレベルフレームワークであるBi-EZPを提案する。
上位レベルでは、プログラム固有のパラメータ境界を持つ4つの相補的ベースプロキシ上で実行可能アグリゲーションプログラムを生成する。
下位レベルでは、共分散行列適応進化戦略 (CMA-ES) は、内部トレーニング分割上で各固定プログラムの連続パラメータを最適化する。
キャリブレーションされたプログラムは、不整合検証分割に対してケンドールのランク相関を用いて評価され、進化的選択はキャリブレーションデータを超えて一般化される構造を選択することができる。
NATS-BenchとNetwork Design Spacesの実験は、異種検索空間におけるランキング性能を評価し、DARTS実験は下流アーキテクチャサーチを評価する。
その結果,プログラム発見と数値キャリブレーションの分離は,ゼロコストプロキシの自動アンサンブル構築に有効な手法であることが示唆された。
ソースコードは、https://anonymous.4open.science/r/Bi-EZP-318Dで入手できる。
関連論文リスト
- Localized Anomaly Detection via Differentiable D-vine Copulas [3.071933369858584]
そこで本研究では,完全微分可能実装によって実現された勾配に基づく最大推定をビーム探索戦略と組み合わせた新しい推定手法を提案する。
適応D-vine上に構築された局所的異常検出フレームワークは,階層的分解を利用してグローバルな異常スコアとエッジレベルの説明を生成する。
提案するフレームワークを,ベンチマークと実世界の両方のデータセットで評価し,不確実性を伴う異常検出の解釈の有効性を実証した。
論文 参考訳(メタデータ) (2026-07-27T19:29:26Z) - Convergence Theory for Iterative LLM-Based Neural Architecture Search: A Parametric Cross-Entropy Framework with Closed-Form Proxy Reliability [48.83701310501069]
大規模言語モデル(LLM)は、反復型ニューラルアーキテクチャサーチ(NAS)におけるジェネレータとしてますます使われている。
我々は,LCM-NASを,実行可能プログラム上でのパラメトリッククロスエントロピー(CE)法としてモデル化する。
我々は,(1)エリートアーキテクチャの反復LEM微調整は,LLMファミリーに制限されたCE更新と同等であり,(2)期待されるアーキテクチャ品質はサイクル毎に単調に低下せず,(3)エリートセットの確率は幾何率で一定点に収束する,という6つの結果を示した。
論文 参考訳(メタデータ) (2026-05-28T15:45:19Z) - AgenticRS-EnsNAS: Ensemble-Decoupled Self-Evolving Architecture Search [10.111487060179252]
この記事では、Ensemble-Decoupled Architecture Searchを紹介します。
シングルラーナー評価からシステムレベルの性能を予測する。
候補毎の検索コストをO(M)からO(1)に削減し、O(M)のデプロイメントコストは評価された勝者に限られる。
論文 参考訳(メタデータ) (2026-03-20T14:57:15Z) - Accelerating Benchmarking of Functional Connectivity Modeling via Structure-aware Core-set Selection [8.347306013377041]
そこで我々は,SCLCS (Contrastive Learning for Core-set Selection) をランキングサブセット選択問題として定式化する。
SCLCSは、トップkランキング、構造摂動スコア、密度バランスサンプリング戦略を通じて安定したサンプルを識別する。
大規模なREST-meta-MDDデータセットでは、SCLCSはデータの10%しかデータに基幹モデルランキングを保持しておらず、ランキング一貫性(nDCG@k)が最大23.2%向上するSOTA(State-of-the-art)コアセット選択方法よりも優れています。
論文 参考訳(メタデータ) (2026-02-05T13:50:39Z) - Towards Zero-Shot Point Cloud Registration Across Diverse Scales, Scenes, and Sensor Setups [41.033896572767496]
ゼロショット一般化を実現するトレーニングフリー登録フレームワークであるBUFFER-Xを提案する。
提案手法は階層型マルチスケールマッチングを用いて,局所,中,大域の受容領域にまたがる対応を抽出する。
効率クリティカルなアプリケーションでは、BUFFER-X-Liteを導入し、総時間を43%削減する。
論文 参考訳(メタデータ) (2026-01-06T06:51:24Z) - Learning Discrete Bayesian Networks with Hierarchical Dirichlet Shrinkage [52.914168158222765]
我々はDBNを学習するための包括的なベイズ的フレームワークについて詳述する。
我々は、並列ランゲヴィン提案を用いてマルコフ連鎖モンテカルロ(MCMC)アルゴリズムを新たに提案し、正確な後続サンプルを生成する。
原発性乳癌検体から予後ネットワーク構造を明らかにするために本手法を適用した。
論文 参考訳(メタデータ) (2025-09-16T17:24:35Z) - Adaptive and Robust DBSCAN with Multi-agent Reinforcement Learning [53.527506374566485]
本稿では,多エージェント強化学習クラスタフレームワーク,すなわちAR-DBSCANを用いた新しいAdaptive and Robust DBSCANを提案する。
我々は、AR-DBSCANが、NMIおよびARIメトリクスの最大144.1%と175.3%のクラスタリング精度を向上するだけでなく、支配的なパラメータを確実に見つけることができることを示した。
論文 参考訳(メタデータ) (2025-05-07T11:37:23Z) - MOKD: Cross-domain Finetuning for Few-shot Classification via Maximizing Optimized Kernel Dependence [97.93517982908007]
NCCは、ドメイン間数ショットの分類において、少数ショットの分類が可能なメートル法空間を構築するために表現を学ぶことを目的としている。
本稿では,異なるクラスから得られた2つの標本の NCC 学習表現に高い類似性があることを見出した。
ラベル付きデータによって示されるクラスタ構造にマッチするクラス固有の表現の集合を学習するために、最適化されたカーネル依存(MOKD)を最大化する二段階最適化フレームワークを提案する。
論文 参考訳(メタデータ) (2024-05-29T05:59:52Z) - SC^2-PCR: A Second Order Spatial Compatibility for Efficient and Robust
Point Cloud Registration [32.87420625579577]
本稿では,2次空間整合性(SC2)尺度を提案する。
この測定に基づいて,我々の登録パイプラインは,初期対応から信頼性の高い種子を見つけるために,グローバルスペクトル技術を用いている。
提案手法では,サンプリングを少なくすることで,一定の数の外れ値のないコンセンサス集合を見つけることが保証される。
論文 参考訳(メタデータ) (2022-03-28T02:41:28Z) - Optimal Clustering with Bandit Feedback [57.672609011609886]
本稿では,バンディットフィードバックを用いたオンラインクラスタリングの問題点について考察する。
これは、NPハード重み付きクラスタリング問題をサブルーチンとして解決する必要性を回避するための、シーケンシャルなテストのための新しい停止規則を含む。
合成および実世界のデータセットの広範なシミュレーションを通して、BOCの性能は下界と一致し、非適応的ベースラインアルゴリズムよりも大幅に優れることを示す。
論文 参考訳(メタデータ) (2022-02-09T06:05:05Z) - Neural Ensemble Search for Uncertainty Estimation and Dataset Shift [67.57720300323928]
ニューラルネットワークのアンサンブルは、データセットシフトに対する精度、不確実性キャリブレーション、堅牢性の観点から、スタンドアロンネットワークよりも優れたパフォーマンスを実現する。
本稿では,アンサンブルをアンサンブルで自動構築する2つの手法を提案する。
得られたアンサンブルは、精度だけでなく、不確実なキャリブレーションやデータセットシフトに対する堅牢性の観点からも、深いアンサンブルよりも優れていることを示す。
論文 参考訳(メタデータ) (2020-06-15T17:38:15Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。