論文の概要: Learning Geometric Combinatorial Optimization Problems using
Self-attention and Domain Knowledge
- arxiv url: http://arxiv.org/abs/2107.01759v2
- Date: Fri, 14 Apr 2023 01:41:00 GMT
- ステータス: 処理完了
- システム内更新日: 2023-04-17 17:31:52.545992
- Title: Learning Geometric Combinatorial Optimization Problems using
Self-attention and Domain Knowledge
- Title(参考訳): 自己注意とドメイン知識を用いた幾何学的組合せ最適化問題の学習
- Authors: Jaeseung Lee, Woojin Choi, Jibum Kim
- Abstract要約: 本稿では、自己注意に基づく幾何学を含むCOPを解く新しいニューラルネットワークモデルと、新しいアテンション機構を提案する。
提案モデルは,エンコーダにおける自己アテンションを用いた幾何を含むCOPのポイント・ツー・ポイント関係を効率的に学習するように設計されている。
このデコーダでは,問題の幾何学的要件が満たされない場合に高いペナルティを与えるために,ドメイン知識を用いた新しいマスキング方式を提案する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Combinatorial optimization problems (COPs) are an important research topic in
various fields. In recent times, there have been many attempts to solve COPs
using deep learning-based approaches. We propose a novel neural network model
that solves COPs involving geometry based on self-attention and a new attention
mechanism. The proposed model is designed such that the model efficiently
learns point-to-point relationships in COPs involving geometry using
self-attention in the encoder. We propose efficient input and output sequence
ordering methods that reduce ambiguities such that the model learns the
sequences more regularly and effectively. Geometric COPs involve geometric
requirements that need to be satisfied. In the decoder, a new masking scheme
using domain knowledge is proposed to provide a high penalty when the geometric
requirement of the problem is not satisfied. The proposed neural net is a
flexible framework that can be applied to various COPs involving geometry. We
conduct experiments to demonstrate the effectiveness of the proposed model for
three COPs involving geometry: Delaunay triangulation, convex hull, and the
planar Traveling Salesman problem. Our experimental results show that the
proposed model exhibits competitive performance in finding approximate
solutions for solving these problems.
- Abstract(参考訳): 組合せ最適化問題(COP)は様々な分野において重要な研究課題である。
近年,深層学習に基づくアプローチを用いてCOPを解く試みが数多く行われている。
本稿では,自己着脱に基づく幾何学に関わるコップを解く新しいニューラルネットワークモデルと,新しい注意機構を提案する。
提案モデルは,エンコーダにおける自己アテンションを用いた幾何を含むCOPのポイント・ツー・ポイント関係を効率的に学習するように設計されている。
モデルがより規則的かつ効果的にシーケンスを学習できるように、あいまいさを低減できる効率的な入出力シーケンス順序付け手法を提案する。
幾何学的COPは満たすべき幾何学的要件を含む。
このデコーダでは,問題の幾何学的要件が満たされない場合に高いペナルティを与えるために,ドメイン知識を用いた新しいマスキング方式を提案する。
提案するニューラルネットは,幾何に関する様々なコップに適用可能な柔軟なフレームワークである。
幾何学を含む3つのCOPモデル(デラウネー三角測量,凸船体,平面トラベリングセールスマン問題)の有効性を示す実験を行った。
実験の結果,提案手法は,これらの問題を解決するための近似解を求める際に,競合性能を示すことがわかった。
関連論文リスト
- Optimizing Solution-Samplers for Combinatorial Problems: The Landscape
of Policy-Gradient Methods [52.0617030129699]
本稿では,DeepMatching NetworksとReinforcement Learningメソッドの有効性を解析するための新しい理論フレームワークを提案する。
我々の主な貢献は、Max- and Min-Cut、Max-$k$-Bipartite-Bi、Maximum-Weight-Bipartite-Bi、Traveing Salesman Problemを含む幅広い問題である。
本分析の副産物として,バニラ降下による新たな正則化プロセスを導入し,失効する段階的な問題に対処し,悪い静止点から逃れる上で有効であることを示す理論的および実験的証拠を提供する。
論文 参考訳(メタデータ) (2023-10-08T23:39:38Z) - Neural Latent Geometry Search: Product Manifold Inference via
Gromov-Hausdorff-Informed Bayesian Optimization [21.97865037637575]
我々は、この新しい定式化を数学的に定義し、ニューラル潜在幾何探索(NLGS)として作成する。
計量幾何学からのグロモフ・ハウスドルフ距離に基づいて、候補潜在測地間の距離の新たな概念を提案する。
次に、潜在測地間の滑らかさの概念に基づいてグラフ探索空間を設計し、その計算を帰納バイアスとして利用する。
論文 参考訳(メタデータ) (2023-09-09T14:29:22Z) - Probabilistic partition of unity networks for high-dimensional
regression problems [1.0227479910430863]
我々は高次元回帰問題におけるユニタリネットワーク(PPOU-Net)モデルの分割について検討する。
本稿では適応次元の減少に着目した一般的な枠組みを提案する。
PPOU-Netsは、数値実験において、同等の大きさのベースライン完全接続ニューラルネットワークを一貫して上回っている。
論文 参考訳(メタデータ) (2022-10-06T06:01:36Z) - Geometric Methods for Sampling, Optimisation, Inference and Adaptive
Agents [102.42623636238399]
我々は,サンプリング,最適化,推論,適応的意思決定といった問題に根ざした基本的な幾何学的構造を同定する。
これらの問題を効率的に解くためにこれらの幾何学的構造を利用するアルゴリズムを導出する。
論文 参考訳(メタデータ) (2022-03-20T16:23:17Z) - Geometry-Aware Hierarchical Bayesian Learning on Manifolds [5.182379239800725]
多様体値の視覚データに基づく学習のための階層型ベイズ学習モデルを提案する。
まず、幾何学的認識とカーネル内畳み込みの性質を持つカーネルを導入する。
次に、ガウス過程回帰を用いて入力を整理し、最終的に特徴集約のための階層的ベイズネットワークを実装する。
論文 参考訳(メタデータ) (2021-10-30T05:47:05Z) - Hybrid neural network reduced order modelling for turbulent flows with
geometric parameters [0.0]
本稿では,幾何的パラメータ化不可能な乱流Navier-Stokes問題の解法として,古典的ガレルキン射影法とデータ駆動法を併用して,多目的かつ高精度なアルゴリズムを提案する。
本手法の有効性は,古典学のバックステップ問題と形状変形Ahmed体応用の2つの異なるケースで実証された。
論文 参考訳(メタデータ) (2021-07-20T16:06:18Z) - Decentralized Personalized Federated Learning for Min-Max Problems [82.6119578133503]
本稿では,より広い範囲の最適化問題を含むサドル点問題に対して,PFLを初めて検討した。
この問題に対処するための新しいアルゴリズムを提案し、滑らかな(強く)凸-(強く)凹点問題を理論的に解析する。
両線形問題に対する数値実験と, 対向雑音を有するニューラルネットワークは, 提案手法の有効性を実証する。
論文 参考訳(メタデータ) (2021-06-14T10:36:25Z) - Fusing the Old with the New: Learning Relative Camera Pose with
Geometry-Guided Uncertainty [91.0564497403256]
本稿では,ネットワークトレーニング中の2つの予測系間の確率的融合を含む新しい枠組みを提案する。
本ネットワークは,異なる対応間の強い相互作用を強制することにより学習を駆動する自己追跡グラフニューラルネットワークを特徴とする。
学習に適したモーションパーマリゼーションを提案し、難易度の高いDeMoNおよびScanNetデータセットで最新のパフォーマンスを達成できることを示します。
論文 参考訳(メタデータ) (2021-04-16T17:59:06Z) - Isometric Multi-Shape Matching [58.75590108535401]
形状間の対応を見つけることは、コンピュータビジョンとグラフィックスの基本的な問題である。
アイソメトリーは形状対応問題においてしばしば研究されるが、マルチマッチング環境では明確には考慮されていない。
定式化を解くのに適した最適化アルゴリズムを提案し,コンバージェンスと複雑性解析を提供する。
論文 参考訳(メタデータ) (2020-12-04T15:58:34Z) - Belief Propagation Reloaded: Learning BP-Layers for Labeling Problems [83.98774574197613]
最も単純な推論手法の1つとして、切り詰められた最大積のBelief伝播を取り上げ、それをディープラーニングモデルの適切なコンポーネントにするために必要となるものを加えます。
このBP-Layerは畳み込みニューラルネットワーク(CNN)の最終ブロックまたは中間ブロックとして使用できる
このモデルは様々な密集予測問題に適用可能であり、パラメータ効率が高く、ステレオ、光フロー、セマンティックセグメンテーションにおける堅牢な解を提供する。
論文 参考訳(メタデータ) (2020-03-13T13:11:35Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。