論文の概要: An Amortized Efficiency Threshold for Comparing Neural and Heuristic Solvers in Combinatorial Optimization
- arxiv url: http://arxiv.org/abs/2605.14624v2
- Date: Fri, 15 May 2026 20:33:00 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-19 17:57:46.00348
- Title: An Amortized Efficiency Threshold for Comparing Neural and Heuristic Solvers in Combinatorial Optimization
- Title(参考訳): 組合せ最適化におけるニューラルネットワークとヒューリスティックな解の比較のための補正効率閾値
- Authors: Sohaib Afifi,
- Abstract要約: ニューラル最適化ソルバの一般的な批判は、それらはCPUメタヒューリスティックスよりもエネルギー効率が低いことである。
本稿では,「トレーニングは高価」から「ニューラルソルバはネット非効率」への推論ステップについて検討する。
2つの解法間の累積エネルギー比は, ネットワークがインスタンス毎に勝利するたびに, 常に1以下となる傾向を示す。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: A common critique of neural combinatorial-optimization solvers is that they are less energy-efficient than CPU metaheuristics, given the operational energy cost of training them on GPUs. This paper examines the inferential step from "training is expensive" to "neural solvers are net-inefficient", which is where the critique actually goes wrong. Training the network costs a large fixed amount of GPU energy; running the metaheuristic costs a small amount of CPU energy on every instance, repeated as long as the solver is deployed. The two are not commensurable until a deployment volume is fixed. We define the Amortized Efficiency Threshold (AET) as the deployment volume above which a neural solver breaks even with a heuristic baseline in total energy or carbon, under an explicit constraint on solution quality. We show that the cumulative-energy ratio between the two solvers tends to a constant strictly below one whenever the network wins per instance, and that this limit does not depend on how the training cost was measured. An embodied-carbon term amortizes hardware fabrication symmetrically on both sides. We instantiate the framework on the CVRP environment at n=50 customers with the attention-based autoregressive solver of Kool et al. (2019), trained for 100 epochs on 20,000 instances over five random seeds, and HGS via PyVRP as the heuristic baseline. The measured operational crossover sits near 4.56e3 deployed instances at the median of a six-point baseline-budget sweep; the per-instance neural-to-heuristic ratio is 2.29e-3. The contribution is the framework, the open instrumentation, and the end-to-end measurement protocol. Code and benchmark pipeline are available at https://github.com/sohaibafifi/aet.
- Abstract(参考訳): ニューラル組合せ最適化ソルバの一般的な批判は、GPUでそれらをトレーニングする運用エネルギーコストを考えると、CPUメタヒューリスティックよりもエネルギー効率が低いことである。
本稿では,「トレーニングは高価」から「ニューラルソルバはネット非効率」への推論ステップについて検討する。
ネットワークのトレーニングには大量のGPUエネルギがかかり、メタヒューリスティックの実行には、ソルバがデプロイされる限り、各インスタンスで少量のCPUエネルギが費やされる。
配置ボリュームが固定されるまでは、この2つは計算不可能である。
我々は、AET(Amortized Efficiency Threshold)を、ニューラルネットワークが全エネルギーや炭素のヒューリスティックベースラインでも破壊する展開体積として定義する。
本研究では,2つの解法間の累積エネルギー比が,ネットワークがインスタンス毎に勝利するたびに一定以下になる傾向にあり,この制限はトレーニングコストの計測方法に依存しないことを示す。
具現化炭素項は、両面に対称にハードウェア製造を補正する。
我々は,5つのランダムシード上で20,000のインスタンス上で100のエポックをトレーニングし,PyVRPを介してHGSをヒューリスティックベースラインとする,Cool et al (2019)の注意に基づく自己回帰解法を用いて,n=50顧客におけるCVRP環境のフレームワークをインスタンス化する。
測定された運用クロスオーバーは6ポイントのベースライン予算の中央値に4.56e3のデプロイインスタンスが配置されており、インスタンスごとのニューラル・ツー・ヒューリスティック比は2.29e-3である。
コントリビューションは、フレームワーク、オープンインスツルメンテーション、エンドツーエンドの測定プロトコルである。
コードとベンチマークパイプラインはhttps://github.com/sohaibafi/aet.comから入手できる。
関連論文リスト
- Ge$^\text{2}$mS-T: Multi-Dimensional Grouping for Ultra-High Energy Efficiency in Spiking Transformer [84.8831358775386]
スパイキングニューラルネットワーク(SNN)は、ニューラルネットワーク(ANN)よりも優れたエネルギー効率を提供する
ANN-SNN ConversionやSpatial-Temporal Backpropagation (STBP)といった既存のパラダイムは、固有の制限に悩まされている。
Ge$text2$mS-Tを提案する。これは時間的・空間的・ネットワーク的構造次元にまたがるグループ計算を実装した新しいアーキテクチャである。
論文 参考訳(メタデータ) (2026-04-10T02:58:46Z) - ODAR: Principled Adaptive Routing for LLM Reasoning via Active Inference [60.958331943869126]
ODAR-Expertは、原則化されたリソース割り当てによる精度と効率のトレードオフを最適化する適応的なルーティングフレームワークである。
我々は、MATHの98.2%の精度、HumanityのLast Examの54.8%を含む、強く一貫した利得を示している。
論文 参考訳(メタデータ) (2026-02-27T05:22:01Z) - PT$^2$-LLM: Post-Training Ternarization for Large Language Models [52.4629647715623]
大きな言語モデル(LLM)は、様々なタスクにまたがる印象的な機能を示しているが、その大きなメモリと計算能力は、デプロイメントを妨げている。
PT$2$-LLMを提案する。
その中核は2段精製パイプラインを備えた非対称3次量子化器である。
論文 参考訳(メタデータ) (2025-09-27T03:01:48Z) - Limitations of tensor network approaches for optimization and sampling: A comparison to quantum and classical Ising machines [0.0]
We developed a tensor network (TN) based algorithm to reveal the low-Energy spectrum of Ising spin-glass systems。
我々の決定論的アプローチは、枝と枝の探索戦略と、TNの収縮による辺縁の近似計算を組み合わせたものである。
ペガサスグラフとゼファーグラフで定義されたランダムな問題に対して、最大数千スピンのアプローチをベンチマークする。
論文 参考訳(メタデータ) (2024-11-25T14:35:14Z) - Optimal Decentralized Smoothed Online Convex Optimization [9.449153668916098]
マルチエージェントSmoothed Online Convex Optimization(SOCO)問題について検討し,通信グラフを通してN$エージェントが対話する。
そこで本研究では,マルチエージェントSOCOのための,真に分散化されたアルゴリズムACORDを提案する。
通信グラフが時間とともに任意かつ適応的に変化する場合でも,我々の結果は維持される。
論文 参考訳(メタデータ) (2024-11-13T05:59:04Z) - On the Convergence of Federated Averaging under Partial Participation for Over-parameterized Neural Networks [13.2844023993979]
フェデレートラーニング(FL)は、ローカルデータを共有せずに複数のクライアントから機械学習モデルを協調的に作成するための分散パラダイムである。
本稿では,FedAvgが世界規模で世界規模で収束していることを示す。
論文 参考訳(メタデータ) (2023-10-09T07:56:56Z) - Learning a Consensus Sub-Network with Polarization Regularization and One Pass Training [2.895034191799291]
プルーニングスキームは、静的プルーニングのための反復的なトレーニングと微調整、動的プルーニンググラフの繰り返し計算によって、余分なオーバーヘッドを生み出す。
本稿では,より軽量なサブネットワークを学習するためのパラメータ解析手法を提案する。
CIFAR-10, CIFAR-100, Tiny Imagenet で得られた結果から, ディープネットワークにおける接続の50%を, 1%の分類精度で除去できることが示唆された。
論文 参考訳(メタデータ) (2023-02-17T09:37:17Z) - Neural Capacitance: A New Perspective of Neural Network Selection via
Edge Dynamics [85.31710759801705]
現在の実践は、性能予測のためのモデルトレーニングにおいて高価な計算コストを必要とする。
本稿では,学習中のシナプス接続(エッジ)上の制御ダイナミクスを解析し,ニューラルネットワーク選択のための新しいフレームワークを提案する。
我々のフレームワークは、ニューラルネットワークトレーニング中のバックプロパゲーションがシナプス接続の動的進化と等価であるという事実に基づいて構築されている。
論文 参考訳(メタデータ) (2022-01-11T20:53:15Z) - ProgFed: Effective, Communication, and Computation Efficient Federated Learning by Progressive Training [65.68511423300812]
本稿では,効率的なフェデレート学習のためのプログレッシブトレーニングフレームワークであるProgFedを提案する。
ProgFedは計算と双方向通信のコストを本質的に低減し、最終モデルの強力な性能を維持している。
以上の結果から, ProgFed はフルモデルの標準トレーニングと同等の速度で収束することがわかった。
論文 参考訳(メタデータ) (2021-10-11T14:45:00Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。