論文の概要: CAGE-NAS: Certified Functional Descent for Efficient Model Growth

• arxiv url: http://arxiv.org/abs/2610.01173v1
• Date: Thu, 01 Oct 2026 06:46:47 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-03 01:19:23.950785
• Title: CAGE-NAS: Certified Functional Descent for Efficient Model Growth
• Title（参考訳）: CAGE-NAS: 効率的なモデル成長のための認定機能染料
• Abstract要約: CAGE-NASは、現在の表現が最適化に十分な時間と拡張すべき時間を決定する。 表現が保証された機能的なグラディエントDescentステップを可能にする限り、アーキテクチャは固定されているままである。 CAGE-NASは正確な認証で制御された設定で、保持されたRMSEによって99.8番目の性能パーセンタイルの上に配置されたアーキテクチャを生成する。
• 参考スコア（独自算出の注目度）: 1.4037095606573826
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: The progressive growth of neural networks requires deciding when the current representation remains sufficient for optimization and when it should be expanded. CAGE-NAS formulates this decision in function space through an admissibility criterion on approximations of the functional gradient. As long as a representation enables a certified Functional Gradient Descent step, the architecture remains fixed; when the criterion fails, a function-preserving expansion is applied and the resulting representation is evaluated again. As the main instance, we study the family induced by the tangent space, using a regularized projection of the functional gradient. In a controlled setting with exact certification, CAGE-NAS produces architectures positioned above the 99.8th performance percentile by held-out RMSE among all admissible alternatives within the same parameter budget, without enumerating them during the growth trajectory.
• Abstract（参考訳）: ニューラルネットワークのプログレッシブな成長には、現在の表現が最適化に十分であり、いつ拡張されるべきなのかを決定する必要がある。 CAGE-NASは関数空間におけるこの決定を、関数勾配の近似の許容基準によって定式化する。 表現が保証された関数グラディエントDescentステップを可能にする限り、アーキテクチャは固定され、クレーターがフェールした場合、関数保存拡張が適用され、結果の表現が再び評価される。 主な例として、関数勾配の正規化射影を用いて、接空間によって誘導される族を研究する。 CAGE-NASは、正確な認証で制御された設定で、成長軌道中にそれらを列挙することなく、同じパラメータ予算内で全ての許容可能な代替品の中でRMSEを保留することで、99.8番目のパフォーマンスパーセンタイルの上位に位置するアーキテクチャを生成する。

関連論文リスト

• Function-Space Transformer with Adaptive Anchors [1.5469452301122175]
  本稿では,FST(Function-Space Transformer)を提案する。 PDEBench BurgersとDarcy Flowを用いたPDEソリューション予測では、FSTはPerceiver IOベースラインを大幅に上回る。 ImageNet-1Kでは、FSTはVision Transformerベースラインよりも高い分類精度を達成する。
  論文  参考訳（メタデータ） (2026-09-29T18:10:22Z)
• Structured Neural SDEs for Functional Calibration [1.2107297090229683]
  構造化線形層から構築されたニューラルSDEモデルのファミリーであるSLiSDEを紹介する。 層レベルでパラレル・イン・タイム・シミュレーションを行い, ゲート・イン・フロー・スタックリングにより表現性を回復する。 機能キャリブレーションベンチマークの実験では、構造化されたモデルは完全な神経性SDEベースラインよりも優れていた。
  論文  参考訳（メタデータ） (2026-09-28T10:25:03Z)
• Full-Gradient Successor Feature Representations [0.0]
  一般化政策改善(GPI)と組み合わせた継承的特徴(SF)は、強化学習(RL)における伝達学習のための堅牢な枠組みを提供する 本稿では,完全次数継承特徴表現Q-Learning(FG-SFRQL)を提案する。 本稿では,FG-SFRQLのほぼ完全収束の理論的証明と,完全残留の最小化が試料効率と転写性能の向上につながることを実証的に証明する。
  論文  参考訳（メタデータ） (2026-04-01T09:44:13Z)
• Projective Kolmogorov Arnold Neural Networks (P-KANs): Entropy-Driven Functional Space Discovery for Interpretable Machine Learning [0.0]
  Kolmogorov-Arnold Networks (KAN) は学習可能な非線形性をノードからエッジに移動させる。 現在のkanは、高次元スプラインパラメータ空間の冗長性に起因する基本的な非効率性に悩まされている。 本稿では,エッジ関数発見を導く新しいトレーニングフレームワークであるProjective Kolmogorov-Arnold Networks (P-KANs)を紹介する。
  論文  参考訳（メタデータ） (2025-09-24T12:15:37Z)
• FuncGenFoil: Airfoil Generation and Editing Model in Function Space [63.274584650021744]
  本稿では,FuncGenFoilについて紹介する。FuncGenFoilは,翼形状を関数曲線として直接再構成する関数空間生成モデルである。 実証的な評価は、FuncGenFoilが翼生成における最先端の手法を改善することを示している。
  論文  参考訳（メタデータ） (2025-02-15T07:56:58Z)
• ENN: A Neural Network with DCT Adaptive Activation Functions [2.2713084727838115]
  離散コサイン変換(DCT)を用いて非線形活性化関数をモデル化する新しいモデルであるExpressive Neural Network(ENN)を提案する。 このパラメータ化は、トレーニング可能なパラメータの数を低く保ち、勾配ベースのスキームに適合し、異なる学習タスクに適応する。 ENNのパフォーマンスは、いくつかのシナリオにおいて40%以上の精度のギャップを提供する、アートベンチマークの状態を上回ります。
  論文  参考訳（メタデータ） (2023-07-02T21:46:30Z)
• Promises and Pitfalls of the Linearized Laplace in Bayesian Optimization [73.80101701431103]
  線形化ラプラス近似(LLA)はベイズニューラルネットワークの構築に有効で効率的であることが示されている。 ベイズ最適化におけるLLAの有用性について検討し,その性能と柔軟性を強調した。
  論文  参考訳（メタデータ） (2023-04-17T14:23:43Z)
• Active Nearest Neighbor Regression Through Delaunay Refinement [79.93030583257597]
  近接回帰に基づく能動関数近似アルゴリズムを提案する。 我々のActive Nearest Neighbor Regressor (ANNR) は計算幾何学の Voronoi-Delaunay フレームワークに頼り、空間を一定の関数値のセルに分割する。
  論文  参考訳（メタデータ） (2022-06-16T10:24:03Z)
• DAIS: Automatic Channel Pruning via Differentiable Annealing Indicator Search [55.164053971213576]
  畳み込みニューラルネットワークは,計算オーバーヘッドが大きいにもかかわらず,コンピュータビジョンタスクの実行において大きな成功を収めている。 構造的(チャネル)プルーニングは、通常、ネットワーク構造を保ちながらモデルの冗長性を低減するために適用される。 既存の構造化プルーニング法では、手作りのルールが必要であり、これは大きなプルーニング空間に繋がる可能性がある。
  論文  参考訳（メタデータ） (2020-11-04T07:43:01Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。