論文の概要: ML4CO-KIDA: Knowledge Inheritance in Data Aggregation
- arxiv url: http://arxiv.org/abs/2201.10328v1
- Date: Tue, 25 Jan 2022 14:03:57 GMT
- ステータス: 処理完了
- システム内更新日: 2022-01-26 22:33:59.927344
- Title: ML4CO-KIDA: Knowledge Inheritance in Data Aggregation
- Title(参考訳): ML4CO-KIDA:データ集約における知識継承
- Authors: Zixuan Cao, Yang Xu, Zhewei Huang, Shuchang Zhou
- Abstract要約: 二重境界の高速化を促進するために分岐決定を行うモデルを設計する。
我々の改善は、ベースライングラフニューラルネットワークス方式の欠点を克服しています。
私たちはこの2つのタスクで1ドル超えのプレースを勝ち取った。
- 参考スコア(独自算出の注目度): 6.2129687406221015
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: The Machine Learning for Combinatorial Optimization (ML4CO) NeurIPS 2021
competition aims to improve state-of-the-art combinatorial optimization solvers
by replacing key heuristic components with machine learning models. On the dual
task, we design models to make branching decisions to promote the dual bound
increase faster. We propose a knowledge inheritance method to generalize
knowledge of different models from the dataset aggregation process, named KIDA.
Our improvement overcomes some defects of the baseline
graph-neural-networks-based methods. Further, we won the
$1$\textsuperscript{st} Place on the dual task. We hope this report can provide
useful experience for developers and researchers. The code is available at
\url{https://github.com/megvii-research/NeurIPS2021-ML4CO-KIDA}
- Abstract(参考訳): 機械学習 for Combinatorial Optimization (ML4CO) NeurIPS 2021コンペティションは、キーヒューリスティックコンポーネントを機械学習モデルに置き換えることで、最先端の組合せ最適化ソリューションを改善することを目的としている。
デュアルタスクでは、双対境界の増加を促進するために分岐決定を行うモデルを設計します。
KIDAと呼ばれるデータセット集約プロセスから異なるモデルの知識を一般化する知識継承手法を提案する。
我々の改善は、ベースライングラフニューラルネットワークス方式の欠点を克服しています。
さらに、デュアルタスクで$\textsuperscript{st} Placeを受賞しました。
このレポートが開発者や研究者に有用なエクスペリエンスを提供できることを願っています。
コードは \url{https://github.com/megvii-research/neurips2021-ml4co-kida} で入手できる。
関連論文リスト
- Exact Combinatorial Optimization with Temporo-Attentional Graph Neural
Networks [17.128882942475]
本稿では,機械学習アルゴリズムの時間的特徴と注意点の2つの重要な側面について検討する。
分岐とバウンド(B&B)アルゴリズムにおける変数選択のタスクでは、時間情報と二部グラフの注意を組み込むことで、解法の性能が向上すると主張している。
論文 参考訳(メタデータ) (2023-11-23T08:07:15Z) - An Empirical Study of Multimodal Model Merging [148.48412442848795]
モデルマージは、異なるタスクでトレーニングされた複数のモデルを融合してマルチタスクソリューションを生成するテクニックである。
我々は、モダリティ固有のアーキテクチャのビジョン、言語、およびクロスモーダルトランスフォーマーをマージできる新しい目標に向けて研究を行っている。
本稿では,重み間の距離を推定し,マージ結果の指標となる2つの指標を提案する。
論文 参考訳(メタデータ) (2023-04-28T15:43:21Z) - GraphLearner: Graph Node Clustering with Fully Learnable Augmentation [76.63963385662426]
Contrastive Deep Graph Clustering (CDGC)は、異なるクラスタにノードをグループ化するために、コントラスト学習のパワーを活用する。
我々は、GraphLearnerと呼ばれる、完全学習可能な拡張を備えたグラフノードクラスタリングを提案する。
学習可能な拡張器を導入し、CDGCのための高品質でタスク固有の拡張サンプルを生成する。
論文 参考訳(メタデータ) (2022-12-07T10:19:39Z) - Learning with MISELBO: The Mixture Cookbook [62.75516608080322]
本稿では,VampPriorとPixelCNNデコーダネットワークを用いて,フローベース階層型変分オートエンコーダ(VAE)の正規化のための変分近似を初めて提案する。
我々は、この協調行動について、VIと適応的重要度サンプリングの新たな関係を描いて説明する。
我々は、MNISTおよびFashionMNISTデータセット上の負のログ類似度の観点から、VAEアーキテクチャの最先端結果を得る。
論文 参考訳(メタデータ) (2022-09-30T15:01:35Z) - The Machine Learning for Combinatorial Optimization Competition (ML4CO):
Results and Insights [59.93939636422896]
ML4COは、キーコンポーネントを置き換えることで最先端の最適化問題を解決することを目的としている。
このコンペティションでは、最高の実現可能なソリューションを見つけること、最も厳密な最適性証明書を生成すること、適切なルーティング設定を提供すること、という3つの課題があった。
論文 参考訳(メタデータ) (2022-03-04T17:06:00Z) - ML4CO: Is GCNN All You Need? Graph Convolutional Neural Networks Produce
Strong Baselines For Combinatorial Optimization Problems, If Tuned and
Trained Properly, on Appropriate Data [8.09193285529236]
本稿では,2021年のNeurIPS Machine Learning for Combinatorial Optimization (ML4CO)コンペでHuawei EI-OROASチームが学んだソリューションと教訓を要約する。
チームの応募は最終ランキングで2位となり、第1位に近かった。
簡単なグラフ畳み込みニューラルネットワーク(GCNN)は、トレーニングやチューニングを適切に行うと、最先端の結果が得られると論じる。
論文 参考訳(メタデータ) (2021-12-22T22:40:13Z) - Solving Mixed Integer Programs Using Neural Networks [57.683491412480635]
本稿では,mipソルバの2つのキーサブタスクに学習を適用し,高品質なジョイント変数割当を生成し,その割当と最適課題との客観的値の差を限定する。
提案手法は,ニューラルネットワークに基づく2つのコンポーネントであるニューラルダイバーディングとニューラルブランチを構築し,SCIPなどのベースMIPソルバで使用する。
2つのGoogle生産データセットとMIPLIBを含む6つの現実世界データセットに対するアプローチを評価し、それぞれに別々のニューラルネットワークをトレーニングする。
論文 参考訳(メタデータ) (2020-12-23T09:33:11Z) - Fast Few-Shot Classification by Few-Iteration Meta-Learning [173.32497326674775]
数ショット分類のための高速な最適化に基づくメタラーニング手法を提案する。
我々の戦略はメタ学習において学習すべき基礎学習者の目的の重要な側面を可能にする。
我々は、我々のアプローチの速度と効果を実証し、総合的な実験分析を行う。
論文 参考訳(メタデータ) (2020-10-01T15:59:31Z) - Generalized Reinforcement Meta Learning for Few-Shot Optimization [3.7675996866306845]
本稿では, 汎用的かつ柔軟な強化学習(RL)に基づくメタラーニングフレームワークを提案する。
我々のフレームワークは簡単にネットワークアーキテクチャ検索に拡張できる。
論文 参考訳(メタデータ) (2020-05-04T03:21:05Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。