論文の概要: Knowledge Graph Embedding with Atrous Convolution and Residual Learning
- arxiv url: http://arxiv.org/abs/2010.12121v2
- Date: Fri, 30 Oct 2020 06:07:38 GMT
- ステータス: 処理完了
- システム内更新日: 2022-10-03 21:23:04.741760
- Title: Knowledge Graph Embedding with Atrous Convolution and Residual Learning
- Title(参考訳): アトラス畳み込みと残留学習を用いた知識グラフ埋め込み
- Authors: Feiliang Ren, Juchen Li, Huihui Zhang, Shilei Liu, Bochao Li, Ruicheng
Ming, Yujia Bai
- Abstract要約: 本稿では, 単純だが効果的な畳み込みに基づく知識グラフ埋め込み法を提案する。
アトラスな畳み込みを用いることで、機能相互作用を効果的に増加させる。
元の情報が忘れられた問題と、勾配の問題が消え/露呈する問題に対処する。
- 参考スコア(独自算出の注目度): 4.582412257655891
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Knowledge graph embedding is an important task and it will benefit lots of
downstream applications. Currently, deep neural networks based methods achieve
state-of-the-art performance. However, most of these existing methods are very
complex and need much time for training and inference. To address this issue,
we propose a simple but effective atrous convolution based knowledge graph
embedding method. Compared with existing state-of-the-art methods, our method
has following main characteristics. First, it effectively increases feature
interactions by using atrous convolutions. Second, to address the original
information forgotten issue and vanishing/exploding gradient issue, it uses the
residual learning method. Third, it has simpler structure but much higher
parameter efficiency. We evaluate our method on six benchmark datasets with
different evaluation metrics. Extensive experiments show that our model is very
effective. On these diverse datasets, it achieves better results than the
compared state-of-the-art methods on most of evaluation metrics. The source
codes of our model could be found at https://github.com/neukg/AcrE.
- Abstract(参考訳): 知識グラフの埋め込みは重要なタスクであり、多くの下流アプリケーションに役立ちます。
現在、ディープニューラルネットワークに基づく手法は最先端のパフォーマンスを実現している。
しかし、これらの既存の手法のほとんどは非常に複雑で、トレーニングや推論に多くの時間が必要です。
そこで本研究では,単純かつ効果的な畳み込みに基づく知識グラフ埋め込み手法を提案する。
従来の最先端手法と比較して,本手法の主な特徴は以下の通りである。
第1に,アトラス畳み込みを用いることで,機能インタラクションを効果的に向上させる。
次に、元の情報忘れ問題と消滅/爆発勾配問題に対処するため、残差学習法を用いる。
第3に、構造は単純だがパラメータ効率はずっと高い。
評価基準の異なる6つのベンチマークデータセットを用いて評価を行った。
広範な実験により、我々のモデルは非常に効果的であることが示された。
これらの多様なデータセットでは、ほとんどの評価指標で比較された最先端の方法よりも優れた結果が得られる。
われわれのモデルのソースコードはhttps://github.com/neukg/AcrE.comで確認できる。
関連論文リスト
- $V_kD:$ Improving Knowledge Distillation using Orthogonal Projections [36.27954884906034]
知識蒸留は、小規模かつ効率的なディープラーニングモデルの訓練に有効な方法である。
しかし、1つのメソッドの有効性は、他のタスク、モダリティ、または他のアーキテクチャに転送する際に退化することができる。
本稿では,この制限に対処する新しい制約付き特徴蒸留法を提案する。
論文 参考訳(メタデータ) (2024-03-10T13:26:24Z) - MoBYv2AL: Self-supervised Active Learning for Image Classification [57.4372176671293]
画像分類のための自己教師型アクティブラーニングフレームワークであるMoBYv2ALを提案する。
私たちの貢献は、最も成功した自己教師付き学習アルゴリズムであるMoBYをALパイプラインに持ち上げることです。
近年のAL法と比較すると,最先端の結果が得られている。
論文 参考訳(メタデータ) (2023-01-04T10:52:02Z) - Efficient Few-Shot Object Detection via Knowledge Inheritance [62.36414544915032]
Few-shot Object Detection (FSOD) は、未確認のタスクに少ないトレーニングサンプルで適応できるジェネリック検出器を学習することを目的としている。
計算量の増加を伴わない効率的なプレトレイン・トランスファー・フレームワーク(PTF)のベースラインを提案する。
また,予測された新しいウェイトと事前訓練されたベースウェイトとのベクトル長の不整合を軽減するために,適応長再スケーリング(ALR)戦略を提案する。
論文 参考訳(メタデータ) (2022-03-23T06:24:31Z) - On Modality Bias Recognition and Reduction [70.69194431713825]
マルチモーダル分類の文脈におけるモダリティバイアス問題について検討する。
本稿では,各ラベルの特徴空間を適応的に学習するプラグアンドプレイ損失関数法を提案する。
本手法は, ベースラインに比べ, 顕著な性能向上を実現している。
論文 参考訳(メタデータ) (2022-02-25T13:47:09Z) - Finding Significant Features for Few-Shot Learning using Dimensionality
Reduction [0.0]
このモジュールは、計量学習法により与えられる類似度関数を、分類のためのより識別的な特徴を持つようにすることで、精度の向上を支援する。
提案手法は,MiniImageNetデータセットにおけるメトリック学習ベースラインの精度を約2%向上させる。
論文 参考訳(メタデータ) (2021-07-06T16:36:57Z) - Graph Convolution for Re-ranking in Person Re-identification [40.9727538382413]
類似度指標としてユークリッド距離を保ちながら,学習特徴を改善するグラフベースの再ランク付け手法を提案する。
ビデオ中の各トラックレットのプロファイルベクトルを生成するための簡易で効果的な手法が提案されている。
論文 参考訳(メタデータ) (2021-07-05T18:40:43Z) - Revisiting Point Cloud Shape Classification with a Simple and Effective
Baseline [111.3236030935478]
評価手法の違い,データ拡張戦略,損失関数などの補助的要因が,性能に大きな違いをもたらすことがわかった。
SimpleViewと呼ばれるプロジェクションベースのメソッドは驚くほどうまく機能します。
ポイントネット++の半分のサイズでありながら、ModelNet40の洗練された最先端メソッドよりも同等かそれ以上の結果が得られる。
論文 参考訳(メタデータ) (2021-06-09T18:01:11Z) - Learnable Graph Matching: Incorporating Graph Partitioning with Deep
Feature Learning for Multiple Object Tracking [58.30147362745852]
フレーム間のデータアソシエーションは、Multiple Object Tracking(MOT)タスクの中核にある。
既存の手法は、主にトラックレットとフレーム内検出の間のコンテキスト情報を無視する。
そこで本研究では,学習可能なグラフマッチング手法を提案する。
論文 参考訳(メタデータ) (2021-03-30T08:58:45Z) - PK-GCN: Prior Knowledge Assisted Image Classification using Graph
Convolution Networks [3.4129083593356433]
クラス間の類似性は、分類のパフォーマンスに影響を与える可能性がある。
本稿では,クラス類似性の知識を畳み込みニューラルネットワークモデルに組み込む手法を提案する。
実験結果から, 利用可能なデータの量が少ない場合には, 分類精度が向上することが示唆された。
論文 参考訳(メタデータ) (2020-09-24T18:31:35Z) - Rethinking Few-Shot Image Classification: a Good Embedding Is All You
Need? [72.00712736992618]
メタトレーニングセット上で教師付きあるいは自己教師型表現を学習する単純なベースラインが、最先端の数ショット学習方法より優れていることを示す。
追加の増量は自己蒸留によって達成できる。
我々は,この発見が,画像分類ベンチマークとメタ学習アルゴリズムの役割を再考する動機となっていると考えている。
論文 参考訳(メタデータ) (2020-03-25T17:58:42Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。