論文の概要: Large Neighborhood Search meets Iterative Neural Constraint Heuristics
- arxiv url: http://arxiv.org/abs/2603.20801v1
- Date: Sat, 21 Mar 2026 12:53:02 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-03-24 19:11:39.090779
- Title: Large Neighborhood Search meets Iterative Neural Constraint Heuristics
- Title(参考訳): 大近傍探索は反復的ニューラル制約ヒューリスティックスと出会う
- Authors: Yudong W. Xu, Wenhao Li, Scott Sanner, Elias B. Khalil,
- Abstract要約: 我々は,既存のニューラルネットワーク満足度手法-Former-Cons-in-the Large Neighborhood Search (LNS) に適応する。
得られたニューラルLSSを,破壊・修復演算子という2つの標準成分に分解する。
演算子を壊すという一貫した設計パターンを観察する一方、グリージーな修復はサンプリングベースの修復よりも、単一の高品質な割り当てを見つけるのに効果的である。
- 参考スコア(独自算出の注目度): 38.15136719718213
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Neural networks are being increasingly used as heuristics for constraint satisfaction. These neural methods are often recurrent, learning to iteratively refine candidate assignments. In this work, we make explicit the connection between such iterative neural heuristics and Large Neighborhood Search (LNS), and adapt an existing neural constraint satisfaction method-ConsFormer-into an LNS procedure. We decompose the resulting neural LNS into two standard components: the destroy and repair operators. On the destroy side, we instantiate several classical heuristics and introduce novel prediction-guided operators that exploit the model's internal scores to select neighborhoods. On the repair side, we utilize ConsFormer as a neural repair operator and compare the original sampling-based decoder to a greedy decoder that selects the most likely assignments. Through an empirical study on Sudoku, Graph Coloring, and MaxCut, we find that adapting the neural heuristic to an LNS procedure yields substantial gains over its vanilla settings and improves its competitiveness with classical and neural baselines. We further observe consistent design patterns across tasks: stochastic destroy operators outperform greedy ones, while greedy repair is more effective than sampling-based repair for finding a single high-quality feasible assignment. These findings highlight LNS as a useful lens and design framework for structuring and improving iterative neural approaches.
- Abstract(参考訳): ニューラルネットワークは、制約満足度のためのヒューリスティックとしてますます利用されている。
これらのニューラルメソッドは、しばしば繰り返し、反復的に候補の割り当てを洗練することを学ぶ。
本研究では,そのような反復的ニューラルヒューリスティックスとLNS(Large Neighborhood Search)の関連性を明確化し,既存のニューラル制約満足度手法-ConsFormer-in to an LNSの手順を適用する。
得られたニューラルLSSを,破壊・修復演算子という2つの標準成分に分解する。
破壊側では、いくつかの古典的ヒューリスティックをインスタンス化し、モデルの内部スコアを利用した新しい予測誘導演算子を導入し、地区を選択する。
修復側では、ConsFormerを神経修復演算子として使用し、元のサンプリングベースのデコーダと、最も可能性の高い割り当てを選択するgreedyデコーダとの比較を行う。
Sudoku、Graph Coloring、MaxCutの実証研究により、LNS手順に神経ヒューリスティックを適用することで、バニラ設定よりも大幅に向上し、古典的およびニューラルベースラインとの競争性を向上させることが判明した。
我々はさらに,タスク間の一貫した設計パターンを観察する: 確率的破壊演算子がグリーディ演算子より優れているのに対して,グリーディ補修は1つの高品質な課題を見つけるためのサンプリングベース補修よりも効果的である。
これらの知見は、反復神経アプローチの構造化と改善に有用なレンズおよび設計の枠組みとしてLSNを際立たせている。
関連論文リスト
- Optimization over Trained (and Sparse) Neural Networks: A Surrogate within a Surrogate [5.718611740982005]
ニューラルネットワーク自体のサロゲートを生成するために、ネットワークプルーニングを使用します。
分類性能の悪い刈り取られたネットワークは、それでも良い(そしてより効率的な)サロゲートであることを示す。
論文 参考訳(メタデータ) (2025-05-04T04:49:19Z) - Efficient kernel surrogates for neural network-based regression [0.8030359871216615]
ニューラルタンジェントカーネル(NTK)の効率的な近似である共役カーネル(CK)の性能について検討する。
CK性能がNTKよりもわずかに劣っていることを示し、特定の場合において、CK性能が優れていることを示す。
NTKの代わりにCKを使用するための理論的基盤を提供するだけでなく,DNNの精度を安価に向上するためのレシピを提案する。
論文 参考訳(メタデータ) (2023-10-28T06:41:47Z) - A Hybrid Neural Coding Approach for Pattern Recognition with Spiking
Neural Networks [53.31941519245432]
脳にインスパイアされたスパイクニューラルネットワーク(SNN)は、パターン認識タスクを解く上で有望な能力を示している。
これらのSNNは、情報表現に一様神経コーディングを利用する同質ニューロンに基づいている。
本研究では、SNNアーキテクチャは異種符号化方式を組み込むよう、均質に設計されるべきである、と論じる。
論文 参考訳(メタデータ) (2023-05-26T02:52:12Z) - Permutation Equivariant Neural Functionals [92.0667671999604]
この研究は、他のニューラルネットワークの重みや勾配を処理できるニューラルネットワークの設計を研究する。
隠れた層状ニューロンには固有の順序がないため, 深いフィードフォワードネットワークの重みに生じる置換対称性に着目する。
実験の結果, 置換同変ニューラル関数は多種多様なタスクに対して有効であることがわかった。
論文 参考訳(メタデータ) (2023-02-27T18:52:38Z) - Self-Organized Operational Neural Networks for Severe Image Restoration
Problems [25.838282412957675]
畳み込みニューラルネットワーク(CNN)に基づく離散学習は、ノイズとクリーンのイメージペアのトレーニング例から学習することで、画像復元を行うことを目的としている。
これは畳み込みに基づく変換の本質的な線形性によるものであり、深刻な復元問題に対処するには不十分である。
画像復元のための自己組織型ONN(Self-ONN)を提案する。
論文 参考訳(メタデータ) (2020-08-29T02:19:41Z) - Exploiting Heterogeneity in Operational Neural Networks by Synaptic
Plasticity [87.32169414230822]
最近提案されたネットワークモデルであるオペレーショナルニューラルネットワーク(ONN)は、従来の畳み込みニューラルネットワーク(CNN)を一般化することができる。
本研究では, 生体ニューロンにおける本質的な学習理論を示すSynaptic Plasticityパラダイムに基づいて, ネットワークの隠蔽ニューロンに対する最強演算子集合の探索に焦点をあてる。
高難易度問題に対する実験結果から、神経細胞や層が少なくても、GISベースのONNよりも優れた学習性能が得られることが示された。
論文 参考訳(メタデータ) (2020-08-21T19:03:23Z) - Effective and Efficient Computation with Multiple-timescale Spiking
Recurrent Neural Networks [0.9790524827475205]
本稿では,新しいタイプの適応スパイクリカレントニューラルネットワーク(SRNN)が,最先端の性能を実現する方法を示す。
我々は、従来のRNNよりも難しいタスクにおいて、SRNNの100倍のエネルギー改善を計算します。
論文 参考訳(メタデータ) (2020-05-24T01:04:53Z) - Self-Organized Operational Neural Networks with Generative Neurons [87.32169414230822]
ONNは、任意の非線型作用素をカプセル化できる一般化されたニューロンモデルを持つ異種ネットワークである。
我々は,各接続の結節演算子を適応(最適化)できる生成ニューロンを有する自己組織型ONN(Self-ONNs)を提案する。
論文 参考訳(メタデータ) (2020-04-24T14:37:56Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。