Fugu-MT 論文翻訳(概要): On the Effectiveness of Pretraining for Graph Combinatorial Optimization

論文の概要: On the Effectiveness of Pretraining for Graph Combinatorial Optimization

arxiv url: http://arxiv.org/abs/2607.19072v1
Date: Tue, 21 Jul 2026 13:04:13 GMT
ステータス: 翻訳完了
システム内更新日: 2026-07-22 19:05:05.430885
Title: On the Effectiveness of Pretraining for Graph Combinatorial Optimization
Title（参考訳）: グラフ組合せ最適化のための事前学習の有効性について
Abstract要約: 本稿では,グラフ最適化のための自己教師付き事前学習フレームワークを提案する。トラベリングセールスマン問題のような経路問題の性質に対処するように設計されている。その結果, この事前学習戦略は, 様々な問題尺度において非事前学習モデルよりも優れていた。
参考スコア（独自算出の注目度）: 40.74618635552097
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: This paper introduces a self-supervised pretraining framework for graph combinatorial optimization specifically designed to address the nature of routing problems like the Traveling Salesman Problem. By utilizing graph contrastive learning with geometric augmentations (specifically, rotations and axial reflections) the model is forced to learn invariant structural representations and global relative distance distributions. Results demonstrate that this pretraining strategy outperforms non-pretrained models across various problem scales. Notably, the hybrid strategy (combining rotation and reflection) achieved a 6.57% improvement in tour length for TSP1000, proving that geometric pretraining is an important inductive bias for effectively scaling neural solvers to high-dimensional instances.
Abstract（参考訳）: 本稿では,トラベリングセールスマン問題などのルーティング問題に対処するために,グラフ組合せ最適化のための自己教師付き事前学習フレームワークを提案する。グラフの対比学習を幾何学的拡張(特に回転と軸反射)で利用することにより、モデルは不変構造表現と大域相対距離分布を学習せざるを得なくなる。その結果, この事前学習戦略は, 様々な問題尺度において非事前学習モデルよりも優れていた。特に、ハイブリッド戦略(回転と反射を組み合わせた)は、TSP1000のツアー長を6.57%改善し、幾何学的事前学習がニューラルネットワークを高次元のインスタンスに効果的にスケールするための重要な誘導バイアスであることを証明した。

関連論文リスト

Geometric Self-Supervised Pre-training for Neural Combinatorial Optimization [40.74618635552097]
ルーティンググラフのための幾何学的自己教師付き事前学習フレームワークを提案する。このフレームワークは、ポリシー最適化フェーズの前に堅牢な構造表現を学習する。提案したモデルでは計算効率が優れており、正確な解法であるConcordeよりも最大2桁のスピードアップを実現している。
論文参考訳（メタデータ） (2026-07-31T20:23:21Z)
Neural Network Optimization Reimagined: Decoupled Techniques for Scratch and Fine-Tuning [49.751529745537546]
我々はDualOptを提案する。DualOptは、スクラッチからトレーニングに適した最適化技術を分離する新しいアプローチである。スクラッチからのトレーニングでは、収束と一般化の両面を強化するために設計されたリアルタイムな層ワイド・ウェイト・デポジットを導入する。我々は、異なる下流タスクの様々な要求に適応して、レイヤ単位の重量減衰を拡張して、レイヤ間のロールバックレベルを動的に調整する。
論文参考訳（メタデータ） (2026-04-21T06:27:18Z)
HGT-Scheduler: Deep Reinforcement Learning for the Job Shop Scheduling Problem via Heterogeneous Graph Transformers [0.0]
ジョブショップスケジューリング問題(JSSP)は一般に、ノードが操作を表現し、エッジが技術的優先の制約を符号化し、マシン共有の競合を符号化する解離グラフとして定式化されている。既存の強化学習アプローチのほとんどは、このグラフを均質で、ジョブプレッデンスとマシンコンテンションエッジを単一の関係タイプとしてモデル化している。我々は、JSSPを異種グラフとしてモデル化する強化学習フレームワークであるHGT-Schedulerを提案する。
論文参考訳（メタデータ） (2026-03-06T17:59:12Z)
Bridging Training and Merging Through Momentum-Aware Optimization [8.035521056416242]
大規模ニューラルネットワークとタスク固有の計算モデルのトレーニングには、パラメータの重要度推定が必要である。トレーニング中に現在の計算曲率情報を処理し、それを破棄し、類似した情報をマージするために再計算する。トレーニング中に運動量と曲率の統計を分解し、類似した情報をマージするために再計算する統合フレームワークを導入する。
論文参考訳（メタデータ） (2025-12-18T22:37:33Z)
Self-Boost via Optimal Retraining: An Analysis via Approximate Message Passing [58.52119063742121]
独自の予測と潜在的にノイズの多いラベルを使ってモデルをトレーニングすることは、モデルパフォーマンスを改善するためのよく知られた戦略である。本稿では,モデルの予測と提供ラベルを最適に組み合わせる方法について論じる。我々の主な貢献は、現在のモデルの予測と与えられたラベルを組み合わせたベイズ最適集約関数の導出である。
論文参考訳（メタデータ） (2025-05-21T07:16:44Z)
Space-Variant Total Variation boosted by learning techniques in few-view tomographic imaging [0.0]
本稿では,未決定の線形逆問題に対する空間変動正規化モデルの開発に焦点をあてる。提案モデルの主な目的は,ディノベーションと細部・縁の保存のバランスを良くすることである。畳み込みニューラルネットワークは、トレーニングにおいて弾性損失関数を用いて、基底真理像とその勾配を近似するように設計されている。
論文参考訳（メタデータ） (2024-04-25T08:58:41Z)
Towards a Better Theoretical Understanding of Independent Subnetwork Training [56.24689348875711]
独立サブネットワークトレーニング(IST)の理論的考察 ISTは、上記の問題を解決するための、最近提案され、非常に効果的である。圧縮通信を用いた分散手法など,ISTと代替手法の基本的な違いを同定する。
論文参考訳（メタデータ） (2023-06-28T18:14:22Z)
End-to-End Meta-Bayesian Optimisation with Transformer Neural Processes [52.818579746354665]
本稿では,ニューラルネットワークを一般化し,トランスフォーマーアーキテクチャを用いて獲得関数を学習する,エンド・ツー・エンドの差別化可能な最初のメタBOフレームワークを提案する。我々は、この強化学習(RL)によるエンドツーエンドのフレームワークを、ラベル付き取得データの欠如に対処できるようにします。
論文参考訳（メタデータ） (2023-05-25T10:58:46Z)
Joint Graph Learning and Model Fitting in Laplacian Regularized Stratified Models [5.933030735757292]
ラプラシア正規化成層モデル(Laplacian regularized Stratified Model、LRSM)は、サブプロブレムの明示的または暗黙的なネットワーク構造を利用するモデルである。本稿では,LRSMにおけるグラフ重みの重要性と感度を示し,その感度が任意に大きいことを示す。本稿では,1つの最適化問題を解くことで,モデルパラメータを適合させながらグラフを共同学習する汎用的手法を提案する。
論文参考訳（メタデータ） (2023-05-04T06:06:29Z)
Extrapolation for Large-batch Training in Deep Learning [72.61259487233214]
我々は、バリエーションのホストが、我々が提案する統一されたフレームワークでカバー可能であることを示す。本稿では,この手法の収束性を証明し,ResNet,LSTM,Transformer上での経験的性能を厳格に評価する。
論文参考訳（メタデータ） (2020-06-10T08:22:41Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。