論文の概要: RiPPLE: Cross-Space Performance Prediction from Early Training for Neural Architecture Search
- arxiv url: http://arxiv.org/abs/2609.12418v1
- Date: Fri, 11 Sep 2026 04:12:18 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-15 07:38:31.619319
- Title: RiPPLE: Cross-Space Performance Prediction from Early Training for Neural Architecture Search
- Title（参考訳）: RiPPLE: ニューラルネットワーク検索の早期トレーニングによるクロススペースパフォーマンス予測
- Abstract要約: 我々は、小さなアンカーのカバレッジセットのためのラベルのソースとして部分トレーニングを扱うRiPPLEを紹介した。
RiPPLEはこれらのアンカーを早期のプレフィックスに訓練し、ラベルをサロゲートするために学習曲線を外挿し、ラベルのないアーキテクチャ機能よりもラベルを伝播する。
探索空間の4つのファミリーとより大きなDARTS空間の12個のベンチマークセルについて評価を行った。
- 参考スコア（独自算出の注目度）: 9.443798158626539
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Neural architecture search (NAS) evaluates candidate networks, but fully training enough architectures to rank an entire space is expensive. Zero-cost proxies score architectures at initialization, yet their ranking quality varies across search spaces. Learned predictors reduce evaluation cost but typically require fully trained labels or partial-training features for individual candidates. We introduce $\textbf{RiPPLE}$, $\underline{\textbf{R}}$anking v$\underline{\textbf{i}}$a $\underline{\textbf{P}}$refix-$\underline{\textbf{P}}$ropagated $\underline{\textbf{L}}$abel $\underline{\textbf{E}}$xtrapolation, which treats partial training as a source of labels for a small coverage set of anchors. RiPPLE trains these anchors to an early prefix, extrapolates their learning curves to surrogate labels, and propagates the labels over label-free architecture features. The early-training signal remains a label on the anchors rather than a per-candidate feature. Feature, readout, and encoding rules are selected without held-out accuracy and reused across search spaces. We evaluate the method on twelve benchmark cells from four search-space families and on the larger DARTS space. The results examine ranking quality, label efficiency, architecture selection, and the roles of readout, coverage, and propagation. RiPPLE provides a whole-space ranking from a fractional anchor-training budget, with comparisons interpreted under their respective evaluation and cost protocols.
- Abstract（参考訳）: ニューラルアーキテクチャサーチ(NAS)は、候補ネットワークを評価するが、全空間をランク付けするのに十分なアーキテクチャを十分に訓練することは高価である。
ゼロコストプロキシは初期化時にアーキテクチャをスコアするが、そのランク付け品質は検索空間によって異なる。
学習した予測器は評価コストを削減しますが、一般的には個々の候補に対して、完全に訓練されたラベルや部分的なトレーニング機能が必要です。
私たちは$\textbf{RiPPLE}$, $\underline{\textbf{R}}$anking v$\underline{\textbf{i}}$a $\underline{\textbf{P}}$refix-$\underline{\textbf{P}}$ropagated $\underline{\textbf{L}}$abel $\underline{\textbf{E}}$xtrapolationを紹介します。
RiPPLEはこれらのアンカーを早期のプレフィックスに訓練し、ラベルをサロゲートするために学習曲線を外挿し、ラベルのないアーキテクチャ機能よりもラベルを伝播する。
早期訓練信号は、候補ごとの特徴ではなく、アンカーのラベルとして残っている。
特徴、読み出し、符号化ルールは、保持された精度で選択され、検索空間全体で再利用される。
探索空間の4つのファミリーとより大きなDARTS空間の12個のベンチマークセルについて評価を行った。
その結果、ランキングの質、ラベルの効率、アーキテクチャの選択、読み出し、カバレッジ、伝播の役割について検討した。
RiPPLEは、各評価プロトコルとコストプロトコルで解釈された、分数的なアンカートレーニング予算から全空間ランキングを提供する。
関連論文リスト
- AAC: Admissible-by-Architecture Differentiable Landmark Compression for ALT [1.2891210250935148]
AAC は ALT (A*, Landmarks, Triangle) のショートパスのための差別化可能なランドマーク選択モジュールである。
これは古典的な探索における圧縮時適応の伝統の最初の微分可能な例である。
論文 参考訳（メタデータ） (2026-04-22T16:31:21Z) - HopRank: Self-Supervised LLM Preference-Tuning on Graphs for Few-Shot Node Classification [34.92914341967866]
本稿では,テキスト分散グラフ上でノード分類を行う完全自己教師型フレームワークHopRankを提案する。
本稿では,HopRankが完全に教師付きGNNと一致し,従来のグラフ-LLM法よりも大幅に優れていたことを示す。
論文 参考訳（メタデータ） (2026-04-19T05:58:38Z) - Holistic Optimal Label Selection for Robust Prompt Learning under Partial Labels [57.91658393667468]
Holistic Optimal Label Selection (HopS) は、大規模な事前学習された視覚言語モデルを下流タスクに適用するためのパラメータ効率の高いアプローチである。
HopSは、部分的な監視の下でパフォーマンスを継続的に改善し、すべてのベースラインを上回ります。
論文 参考訳（メタデータ） (2026-04-08T02:49:19Z) - Geodesic Semantic Search: Learning Local Riemannian Metrics for Citation Graph Retrieval [0.0]
gss はローランク計量テンソル $mL_i を各ノードの Rd 倍 r$ で学習し、局所正の半定計量 $mG_i mL_itop + eps mI$ を誘導する。
169Kの論文による引用予測ベンチマークでは、gssはSPECTER+FAISSベースラインに対するRecall@20の相対的な改善を23%達成している。
k平均プールによる階層的粗粒度探索は計算コストを4$times$比較する
論文 参考訳（メタデータ） (2026-02-27T04:17:41Z) - Retraining with Predicted Hard Labels Provably Increases Model Accuracy [77.71162068832108]
リトレーニングは、与えられた(ノイズの多い)ラベルで最初にトレーニングすることで得られる人口の精度を向上させることができる。
予測ラベルが与えられたラベルにマッチするサンプルを選択的に再トレーニングすることで、余分なプライバシコストを伴わずにラベルDPトレーニングを大幅に改善できることを実証的に示す。
論文 参考訳（メタデータ） (2024-06-17T04:53:47Z) - Rank-Aware Negative Training for Semi-Supervised Text Classification [3.105629960108712]
半教師付きテキスト分類ベースのパラダイム(SSTC)は通常、自己学習の精神を用いる。
本稿では,SSTCを雑音ラベル方式で学習する上で,RNT(Range-Aware Negative Training)フレームワークを提案する。
論文 参考訳（メタデータ） (2023-06-13T08:41:36Z) - ProtoCon: Pseudo-label Refinement via Online Clustering and Prototypical
Consistency for Efficient Semi-supervised Learning [60.57998388590556]
ProtoConは信頼性に基づく疑似ラベル作成の新しい手法である。
ProtoConのオンライン版では、データセット全体のラベル履歴を1回のトレーニングサイクルで活用することができる。
最先端のデータセットよりも大幅に向上し、より高速に収束する。
論文 参考訳（メタデータ） (2023-03-22T23:51:54Z) - Exploring the Common Principal Subspace of Deep Features in Neural
Networks [50.37178960258464]
我々は、同じデータセットでトレーニングされた異なるディープニューラルネットワーク(DNN)が、潜在空間において共通の主部分空間を共有することを発見した。
具体的には、DNNで学んだ深い機能の主部分空間を表すために、$mathcalP$-vectorを新たに設計する。
異なるアルゴリズム/アーキテクチャで訓練された2つのDNNの比較では、小さな角度(コサインが1.0ドルに近い)が見つかっている。
論文 参考訳（メタデータ） (2021-10-06T15:48:32Z) - Cross-domain Speech Recognition with Unsupervised Character-level
Distribution Matching [60.8427677151492]
2つの領域における各文字間の微粒化適応を行うための文字レベルの分布マッチング手法であるCMatchを提案する。
Libri-Adaptデータセットを用いた実験の結果,提案手法はクロスデバイスとクロス環境の両方で14.39%,16.50%の単語誤り率(WER)を低減できることがわかった。
論文 参考訳（メタデータ） (2021-04-15T14:36:54Z) - SOLD2: Self-supervised Occlusion-aware Line Description and Detection [95.8719432775724]
単一深層ネットワークにおける回線セグメントの最初の共同検出と記述について紹介します。
我々の手法は注釈付き行ラベルを必要としないため、任意のデータセットに一般化することができる。
複数のマルチビューデータセットにおいて,従来の行検出と記述方法に対するアプローチを評価した。
論文 参考訳（メタデータ） (2021-04-07T19:27:17Z) - Self-Supervised Tuning for Few-Shot Segmentation [82.32143982269892]
Few-shotのセグメンテーションは、アノテートされたサンプルがほとんどない各画像ピクセルにカテゴリラベルを割り当てることを目的としている。
既存のメタラーニング手法では, 画像から抽出した視覚的特徴を埋め込み空間に埋め込むと, カテゴリー別識別記述子の生成に失敗する傾向にある。
本稿では,複数のエピソードにまたがる潜在特徴の分布を,自己分割方式に基づいて動的に調整する適応型フレームワークチューニングを提案する。
論文 参考訳（メタデータ） (2020-04-12T03:53:53Z) - NeuCrowd: Neural Sampling Network for Representation Learning with
Crowdsourced Labels [19.345894148534335]
本稿では,クラウドソースラベルから教師付き表現学習(SRL)を実現する統一フレームワークであるemphNeuCrowdを提案する。
提案手法は1つの実世界のデータセットと3つの実世界のデータセットで評価される。
論文 参考訳（メタデータ） (2020-03-21T13:38:18Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。