論文の概要: T-SKM-Net: Trainable Neural Network Framework for Linear Constraint Satisfaction via Sampling Kaczmarz-Motzkin Method
- arxiv url: http://arxiv.org/abs/2512.10461v1
- Date: Thu, 11 Dec 2025 09:35:13 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-12-12 16:15:42.304464
- Title: T-SKM-Net: Trainable Neural Network Framework for Linear Constraint Satisfaction via Sampling Kaczmarz-Motzkin Method
- Title(参考訳): T-SKM-Net: Smpling Kaczmarz-Motzkin法による線形制約満足度トレーニング可能なニューラルネットワークフレームワーク
- Authors: Haoyu Zhu, Yao Zhang, Jiashen Ren, Qingchun Hou,
- Abstract要約: この研究は、T-SKM-Motzkin Network(T-SKM-Net)フレームワークを提案し、SKM型手法をニューラルネットワーク制約満足度に体系的に統合した。
本稿では,非バイアス勾配推定器に基づく予測およびエンドツーエンドのトレーニング性保証における後処理の有効性の理論的証明について述べる。
- 参考スコア(独自算出の注目度): 9.757445749974364
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Neural network constraint satisfaction is crucial for safety-critical applications such as power system optimization, robotic path planning, and autonomous driving. However, existing constraint satisfaction methods face efficiency-applicability trade-offs, with hard constraint methods suffering from either high computational complexity or restrictive assumptions on constraint structures. The Sampling Kaczmarz-Motzkin (SKM) method is a randomized iterative algorithm for solving large-scale linear inequality systems with favorable convergence properties, but its argmax operations introduce non-differentiability, posing challenges for neural network applications. This work proposes the Trainable Sampling Kaczmarz-Motzkin Network (T-SKM-Net) framework and, for the first time, systematically integrates SKM-type methods into neural network constraint satisfaction. The framework transforms mixed constraint problems into pure inequality problems through null space transformation, employs SKM for iterative solving, and maps solutions back to the original constraint space, efficiently handling both equality and inequality constraints. We provide theoretical proof of post-processing effectiveness in expectation and end-to-end trainability guarantees based on unbiased gradient estimators, demonstrating that despite non-differentiable operations, the framework supports standard backpropagation. On the DCOPF case118 benchmark, our method achieves 4.27ms/item GPU serial forward inference with 0.0025% max optimality gap with post-processing mode and 5.25ms/item with 0.0008% max optimality gap with joint training mode, delivering over 25$\times$ speedup compared to the pandapower solver while maintaining zero constraint violations under given tolerance.
- Abstract(参考訳): ニューラルネットワークの制約満足度は、電力系統最適化、ロボット経路計画、自律運転などの安全上重要なアプリケーションに不可欠である。
しかし、既存の制約満足度法は、高い計算複雑性または制約構造上の制約的仮定のいずれかに苦しむハード制約法により、効率-適用性トレードオフに直面している。
Sampling Kaczmarz-Motzkin (SKM) 法は、収束性の良い大規模線形不等式を解くためのランダム化反復アルゴリズムである。
この研究は、T-SKM-Motzkin Network(T-SKM-Net)フレームワークを提案し、SKM型手法をニューラルネットワーク制約満足度に体系的に統合した。
このフレームワークは、混合制約問題を null 空間変換を通じて純粋不等式問題に変換し、反復的な解法として SKM を用い、解を元の制約空間に写像し、等式と不等式の両方の制約を効率的に扱う。
本研究では,非微分不可能な操作にもかかわらず,標準のバックプロパゲーションをサポートすることを実証し,非バイアス勾配推定器に基づく予測とエンドツーエンドのトレーニング性保証における後処理の有効性の理論的証明を提案する。
DCOPF case118ベンチマークでは,GPUシリアルフォワードの4.27ms/itemは後処理モードで0.0025%,最大最適差は5.25ms/itemはジョイントトレーニングモードで0.0008%,パンダパワーソルバで25$\times$の高速化を実現した。
関連論文リスト
- Cutting Slack: Quantum Optimization with Slack-Free Methods for Combinatorial Benchmarks [4.266376725904727]
制約処理は、量子最適化における重要なボトルネックである。
量子シミュレータやハードウェア上での制約問題を解くために,ラグランジアンに基づく一連の最適化手法について検討する。
この結果は,QUBOのペナライゼーションに代わるスケーラブルな代替手段として,ラグランジアン定式化の柔軟性を強調した。
論文 参考訳(メタデータ) (2025-07-16T11:39:47Z) - Neural Two-Stage Stochastic Optimization for Solving Unit Commitment Problem [0.8848340429852071]
本稿では,高次元不確実性シナリオ下での2段階単位コミットメント(2S-SUC)問題を効率的に解くためのニューラルネットワーク最適化手法を提案する。
提案手法は,コミットメント決定と不確実性特徴を学習したディープニューラルネットワークを用いて,第2段階のリコース問題に近似する。
論文 参考訳(メタデータ) (2025-07-13T05:55:25Z) - Learning based convex approximation for constrained parametric optimization [11.379408842026981]
本稿では、制約付き最適化問題を解決するために、入力ニューラルネットワーク(ICNN)に基づく自己教師付き学習フレームワークを提案する。
厳密な収束解析を行い、このフレームワークが元の問題のKKT近似点に収束することを示す。
提案手法は精度,実現可能性,計算効率の両立を実現している。
論文 参考訳(メタデータ) (2025-05-07T00:33:14Z) - Single-loop Algorithms for Stochastic Non-convex Optimization with Weakly-Convex Constraints [49.76332265680669]
本稿では、目的関数と制約関数の両方が弱凸である問題の重要な部分集合について検討する。
既存の手法では、収束速度の遅さや二重ループ設計への依存など、しばしば制限に直面している。
これらの課題を克服するために,新しい単一ループペナルティに基づくアルゴリズムを提案する。
論文 参考訳(メタデータ) (2025-04-21T17:15:48Z) - Robust Stochastically-Descending Unrolled Networks [85.6993263983062]
Deep Unrolling(ディープ・アンローリング)は、トレーニング可能なニューラルネットワークの層に切り捨てられた反復アルゴリズムをアンロールする、新たな学習最適化手法である。
アンロールネットワークの収束保証と一般化性は、いまだにオープンな理論上の問題であることを示す。
提案した制約の下で訓練されたアンロールアーキテクチャを2つの異なるアプリケーションで数値的に評価する。
論文 参考訳(メタデータ) (2023-12-25T18:51:23Z) - Fully Stochastic Trust-Region Sequential Quadratic Programming for
Equality-Constrained Optimization Problems [62.83783246648714]
目的と決定論的等式制約による非線形最適化問題を解くために,逐次2次プログラミングアルゴリズム(TR-StoSQP)を提案する。
アルゴリズムは信頼領域半径を適応的に選択し、既存の直線探索StoSQP方式と比較して不確定なヘッセン行列を利用することができる。
論文 参考訳(メタデータ) (2022-11-29T05:52:17Z) - Symmetric Tensor Networks for Generative Modeling and Constrained
Combinatorial Optimization [72.41480594026815]
ポートフォリオ最適化からロジスティクスに至るまで、制約付き最適化問題は業界に多い。
これらの問題の解決における主要な障害の1つは、有効な検索空間を制限する非自明なハード制約の存在である。
本研究では、Ax=bという形の任意の整数値等式制約をU(1)対称ネットワーク(TN)に直接エンコードし、それらの適用性を量子に着想を得た生成モデルとして活用する。
論文 参考訳(メタデータ) (2022-11-16T18:59:54Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。