論文の概要: Scaling Closed-Loop Feature Channel Configuration with LLMs
- arxiv url: http://arxiv.org/abs/2607.20516v1
- Date: Tue, 07 Jul 2026 22:31:53 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-02 22:55:38.927879
- Title: Scaling Closed-Loop Feature Channel Configuration with LLMs
- Title(参考訳): LLMによる閉ループ特徴チャネル構成のスケールアップ
- Abstract要約: この分析では,8サイクルから2000件の候補が生成され,タスクおよびメタデータフィルタリング後のCIFAR-100の評価結果が462件得られた。
最良のモデルは11.8Mパラメータで0.3676に達し、初期のハイパフォーマンスモデルは0.3144で166.5Mパラメータである。
検証された候補の41.8%で2つのチャネル幅の非パワーが発生し、最強のモデルではチャネル配置パターンが共有される。
- 参考スコア(独自算出の注目度): 48.83701310501069
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Promising initial results in closed-loop large-language-model-based channel-configuration search demonstrated that neural-network widths can be optimized directly through executable code generation and accuracy feedback. However, those results were obtained from a relatively sparse set of valid evaluations, leaving open whether the observed optimization behavior transfers to a denser sampling regime and whether additional architectural regularities emerge when more generated networks are evaluated. To test this, the same search setting is scaled to 250 candidate networks per fine-tuning cycle. The analysis covers 2000 generated candidates from 8 complete cycles, yielding 462 verified CIFAR-100 evaluations after task and metadata filtering. Per-cycle mean accuracy exhibits a positive linear trend with slope 9.87e-4 (p=0.043), while the high-performing frontier improves more strongly: the best observed accuracy increases from 0.3144 to 0.3676, and both the top-5 and top-10 cycle-level means exhibit positive trends. The scaled run also reveals improved parameter efficiency. The best model reaches 0.3676 with 11.8M parameters, compared with an early high-performing model at 0.3144 with 166.5M parameters. Beyond accuracy, the larger sample exposes architectural regularities that were difficult to assess from sparse observations. Non-power-of-two channel widths occur in 41.8% of verified candidates, and the strongest models share structured channel-allocation patterns characterized by moderate early widths and expanded middle or later blocks. These findings indicate that the channel-search signal observed in the initial study transfers
- Abstract(参考訳): クローズドループ大言語モデルに基づくチャネル構成探索の初期結果は、ニューラルネットワーク幅を直接最適化できることを、実行可能コード生成と精度フィードバックによって証明した。
しかし、これらの結果は比較的まばらな評価結果から得られ、観測された最適化動作がより高密度なサンプリングシステムに転送されるかどうか、さらに多くのネットワークが評価されるとアーキテクチャ上の規則性が出現するかどうかを未然に残した。
これをテストするために、同じ検索設定を微調整サイクル毎に250の候補ネットワークにスケールする。
この分析では,8サイクルから2000件の候補が生成され,タスクおよびメタデータフィルタリング後のCIFAR-100の評価結果が462件得られた。
サイクル当たり平均精度は傾斜9.87e-4(p=0.043)で正の線形傾向を示す一方、高い性能のフロンティアはより強く向上する: 最高の観測精度は0.3144から0.3676に増加し、トップ5とトップ10のサイクルレベルの両方が正の傾向を示す。
スケールした実行ではパラメータ効率も改善されている。
最良のモデルは11.8Mパラメータで0.3676に達し、初期のハイパフォーマンスモデルは0.3144で166.5Mパラメータである。
精度以上の大きなサンプルは、スパース観測から評価するのが困難だったアーキテクチャ上の規則性を明らかにする。
検証対象者の41.8%に2つのチャネル幅があり、最強のモデルでは、適度な初期幅と中・後期ブロックが特徴の構造化チャネル配置パターンを共有する。
これらの結果から,初期研究におけるチャネル探索信号が観察されたことが示唆された。
関連論文リスト
- How Much Capacity Does EEG Denoising Need? Ultra-Compact Networks reveal Benchmark Saturation and Metric-Utility Gap [0.0]
深層学習EEG(Deep Learning EEG Denoising Architectures)は、数万から数千万のパラメータに拡張されているが、実験変数としてモデルキャパシティを分離した以前の研究はない。
アーキテクチャ,損失,データ分割,トレーニングレシピの両ギャップに対処し,最小限の深さ分離可能な畳み込みU-Netで1.05Kから40.26Kパラメータまでのチャネル幅を網羅する。
論文 参考訳(メタデータ) (2026-06-07T12:17:25Z) - Entropy Across the Bridge: Conditional-Marginal Discretization for Flow and Schrödinger Samplers [68.9946633641494]
フローマッチングとシュルディンガーブリッジは確率を定義するが、その推論格子は通常一点拡散から受け継がれる。
終端条件付き橋梁形状を境界流の進化から分離し, 橋梁を識別する条件付きエントロピーレートを導出する。
EDM/CIFAR-10では、エントロピックな時間分散は5段階のFID(186.3 pm 4.0対200.5 pm 2.9対cosineの238.0 pm 5.3)が最適である。
論文 参考訳(メタデータ) (2026-05-15T16:11:10Z) - ArcGate: Adaptive Arctangent Gated Activation [62.5098969984518]
本稿では,アクティベーション形状の広いスペクトルを生成するフレキシブルな定式化であるAdaptive Arctangent Gated Activation関数を提案する。
我々は、PatternNet、UC Merced Land Use、13バンドのEuroSAT MSIマルチスペクトルデータセットの3つのリモートセンシングベンチマークでArcGateを評価した。
論文 参考訳(メタデータ) (2026-05-14T08:00:46Z) - Image Rotation Angle Estimation: Comparing Circular-Aware Methods [0.0]
本研究では,大域的向き推定のための5つの円形認識手法について包括的に検討する。
円損失による直角回帰,角双晶による分類,単位ベクトル回帰,位相シフトコーダ,円形ガウス分布について検討した。
我々は、これらの手法を16の近代建築に適用し、その出力ヘッドを回転固有予測に適用する。
論文 参考訳(メタデータ) (2026-03-26T11:57:28Z) - Structure-Informed Estimation for Pilot-Limited MIMO Channels via Tensor Decomposition [51.56484100374058]
本稿では、スパース観測から低ランクテンソル完備化としてパイロットリミテッドチャネル推定を定式化する。
合成チャネル実験による最小二乗平均二乗誤差(NMSE)の最小二乗平均誤差(LS)に対する改善
DeepMIMO線トレーシングチャネルの評価では、純粋なテンソル法よりも24-44%NMSEが減少している。
論文 参考訳(メタデータ) (2026-02-03T23:38:05Z) - From Memorization to Creativity: LLM as a Designer of Novel Neural-Architectures [48.83701310501069]
大規模言語モデル(LLM)は、プログラム合成において優れているが、ニューラルネットワーク設計(信頼性、性能、構造的ノベルティ)を自律的にナビゲートする能力は、未調査のままである。
コード指向LLMをクローズドループ合成フレームワークに配置し、22の教師付き微調整サイクルの進化を解析することによって、この問題に対処する。
論文 参考訳(メタデータ) (2026-01-06T13:20:28Z) - Evaluating Embedding Models and Pipeline Optimization for AI Search Quality [0.0]
我々は,AI駆動検索システムにおける各種テキスト埋め込みモデルとパイプライン構成の性能を評価する。
11,975対のクエリチャンクペアのカスタム評価データセットを,米国市議会の会議記録から合成した。
論文 参考訳(メタデータ) (2025-11-27T09:09:39Z) - A Comprehensive Forecasting-Based Framework for Time Series Anomaly Detection: Benchmarking on the Numenta Anomaly Benchmark (NAB) [0.0]
時系列異常検出は、現代のデジタルインフラにとって重要である。
本稿では,従来の手法をディープラーニングアーキテクチャと統合した予測ベースのフレームワークを提案する。
Numenta Anomaly Benchmark の最初の完全評価を行う。
論文 参考訳(メタデータ) (2025-10-13T08:31:42Z) - MRS-YOLO Railroad Transmission Line Foreign Object Detection Based on Improved YOLO11 and Channel Pruning [2.6795746856835785]
YOLO11に基づく改良アルゴリズム MRS-YOLOを提案する。
MRS-YOLOアルゴリズムのmAP50とmAP50:95はそれぞれ94.8%と86.4%に改善されている。
論文 参考訳(メタデータ) (2025-10-12T11:38:09Z) - A Meta-Learning Approach to Predicting Performance and Data Requirements [163.4412093478316]
本稿では,モデルが目標性能に達するために必要なサンプル数を推定する手法を提案する。
モデル性能を推定するデファクト原理であるパワー法則が,小さなデータセットを使用する場合の誤差が大きいことが判明した。
本稿では,2つのデータを異なる方法で処理するPPL法について紹介する。
論文 参考訳(メタデータ) (2023-03-02T21:48:22Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。