論文の概要: Automated Feature-Topic Pairing: Aligning Semantic and Embedding Spaces
in Spatial Representation Learning
- arxiv url: http://arxiv.org/abs/2109.11053v1
- Date: Wed, 22 Sep 2021 21:55:36 GMT
- ステータス: 処理完了
- システム内更新日: 2021-09-24 14:56:16.428554
- Title: Automated Feature-Topic Pairing: Aligning Semantic and Embedding Spaces
in Spatial Representation Learning
- Title（参考訳）: 自動特徴ペアリング:空間表現学習における意味と埋め込み空間の調整
- Authors: Dongjie Wang, Kunpeng Liu, David Mohaisen, Pengyang Wang, Chang-Tien
Lu, Yanjie Fu
- Abstract要約: 本稿では,特徴トピックペアリング(Feature-topic pairing)という新たな問題を定式化し,PSO(Particle Swarm Optimization)に基づくディープラーニングフレームワークを提案する。
具体的には,1)潜在的埋め込み特徴空間と2)意味的話題空間との間の自動アライメントタスクに問題を定式化する。
PSOに基づく解法を設計し、最適なトピックセットを同時に選択し、選択したトピックに基づいて対応する特徴を学習する。
- 参考スコア（独自算出の注目度）: 28.211312371895
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Automated characterization of spatial data is a kind of critical geographical
intelligence. As an emerging technique for characterization, Spatial
Representation Learning (SRL) uses deep neural networks (DNNs) to learn
non-linear embedded features of spatial data for characterization. However, SRL
extracts features by internal layers of DNNs, and thus suffers from lacking
semantic labels. Texts of spatial entities, on the other hand, provide semantic
understanding of latent feature labels, but is insensible to deep SRL models.
How can we teach a SRL model to discover appropriate topic labels in texts and
pair learned features with the labels? This paper formulates a new problem:
feature-topic pairing, and proposes a novel Particle Swarm Optimization (PSO)
based deep learning framework. Specifically, we formulate the feature-topic
pairing problem into an automated alignment task between 1) a latent embedding
feature space and 2) a textual semantic topic space. We decompose the alignment
of the two spaces into: 1) point-wise alignment, denoting the correlation
between a topic distribution and an embedding vector; 2) pair-wise alignment,
denoting the consistency between a feature-feature similarity matrix and a
topic-topic similarity matrix. We design a PSO based solver to simultaneously
select an optimal set of topics and learn corresponding features based on the
selected topics. We develop a closed loop algorithm to iterate between 1)
minimizing losses of representation reconstruction and feature-topic alignment
and 2) searching the best topics. Finally, we present extensive experiments to
demonstrate the enhanced performance of our method.
- Abstract（参考訳）: 空間データの自動解析は、重要な地理情報の一種である。
特徴付けのための新しい技術として、空間表現学習(SRL)は深層ニューラルネットワーク(DNN)を使用して特徴付けのための空間データの非線形埋め込み特徴を学習する。
しかし、SRLはDNNの内部層によって特徴を抽出し、意味ラベルの欠如に悩まされる。
一方、空間的実体のテキストは潜在特徴ラベルの意味的理解を提供するが、深層srlモデルには無意味である。
SRLモデルを使ってテキスト中の適切なトピックラベルを発見し、学習した特徴をラベルとペアリングする方法。
本稿では,新しい問題である特徴話題のペアリングを定式化し,新しい粒子群最適化(pso)ベースのディープラーニングフレームワークを提案する。
具体的には、特徴トピックペアリング問題を自動アライメントタスクに定式化する。
1)潜在埋め込み特徴空間、及び
2) テキスト意味的話題空間。
2つの空間のアライメントを次のように分解する。
1) 話題分布と埋め込みベクトルとの相関を示す,ポイントアライメント
2) 特徴的類似度行列と話題的類似度行列との一貫性を示す対方向のアライメント。
PSOに基づく解法を設計し、最適なトピックセットを同時に選択し、選択したトピックに基づいて対応する特徴を学習する。
我々は、反復する閉ループアルゴリズムを開発する。
1)表現再構成と特徴的アライメントの損失の最小化
2) ベストトピックを検索する。
最後に,提案手法の性能向上を実証するための実験を行った。
関連論文リスト
- Spatial Semantic Recurrent Mining for Referring Image Segmentation [63.34997546393106]
高品質なクロスモーダリティ融合を実現するために,Stextsuperscript2RMを提案する。
これは、言語特徴の分散、空間的意味的再帰的分離、パーセマンティック・セマンティック・バランシングという三部作の作業戦略に従う。
提案手法は他の最先端アルゴリズムに対して好適に機能する。
論文 参考訳（メタデータ） (2024-05-15T00:17:48Z) - Description-Enhanced Label Embedding Contrastive Learning for Text
Classification [65.01077813330559]
モデル学習プロセスにおける自己監督型学習(SSL)と新しい自己監督型関係関係(R2)分類タスクの設計
テキスト分類とR2分類を最適化対象として扱うテキスト分類のための関係学習ネットワーク(R2-Net)の関係について検討する。
ラベルセマンティックラーニングのためのマルチアスペクト記述を得るためのWordNetからの外部知識。
論文 参考訳（メタデータ） (2023-06-15T02:19:34Z) - Task-Specific Context Decoupling for Object Detection [27.078743716924752]
排他的手法は通常、切り離された頭を使って各タスクの異なる特徴コンテキストを学習する。
本稿では,2つのタスクに対する特徴符号化をさらに切り離した新しいタスク特化コームテキストデカップリング(TSCODE)を提案する。
本手法は計算コストを抑えて1.0 AP以上の異なる検出器を安定的に改善する。
論文 参考訳（メタデータ） (2023-03-02T08:02:14Z) - Learning Implicit Feature Alignment Function for Semantic Segmentation [51.36809814890326]
Implicit Feature Alignment Function (IFA)は、暗黙の神経表現の急速に拡大するトピックにインスパイアされている。
IFAは機能マップを異なるレベルで暗黙的に整列し、任意の解像度でセグメンテーションマップを生成することができることを示す。
提案手法は,様々なアーキテクチャの改善と組み合わせて,一般的なベンチマークにおける最先端の精度のトレードオフを実現する。
論文 参考訳（メタデータ） (2022-06-17T09:40:14Z) - Index $t$-SNE: Tracking Dynamics of High-Dimensional Datasets with
Coherent Embeddings [1.7188280334580195]
本稿では,クラスタの位置を保存した新しいものを作成するために,埋め込みを再利用する手法を提案する。
提案アルゴリズムは,新しい項目を埋め込むために$t$-SNEと同じ複雑さを持つ。
論文 参考訳（メタデータ） (2021-09-22T06:45:37Z) - R$^2$-Net: Relation of Relation Learning Network for Sentence Semantic
Matching [58.72111690643359]
文意味マッチングのための関係学習ネットワーク(R2-Net)を提案する。
最初にBERTを使用して、グローバルな視点から入力文をエンコードします。
次に、cnnベースのエンコーダは、ローカルな視点からキーワードやフレーズ情報をキャプチャするように設計されている。
関係情報抽出にラベルを十分に活用するために,関係分類タスクの自己教師付き関係性を導入する。
論文 参考訳（メタデータ） (2020-12-16T13:11:30Z) - Logic Constrained Pointer Networks for Interpretable Textual Similarity [11.142649867439406]
本稿では, セシネルゲーティング機能を備えた新しいポインターネットワークモデルを導入し, 構成チャンクを整列させる。
両文の相違を等しく補償し、アライメントが双方向であることを保証するために、損失関数によるこのベースモデルを改善する。
このモデルは、チャンクアライメントタスクのためのベンチマークSemEvalデータセットにおいて、97.73と96.32のF1スコアを達成する。
論文 参考訳（メタデータ） (2020-07-15T13:01:44Z) - Rethinking Positional Encoding in Language Pre-training [111.2320727291926]
絶対的な位置符号化では、位置埋め込みと単語埋め込みに適用される付加操作が混合相関をもたらすことを示す。
我々はtextbfUntied textPositional textbfEncoding (T) を用いた textbfTransformer という新しい位置符号化手法を提案する。
論文 参考訳（メタデータ） (2020-06-28T13:11:02Z) - Multi-Subspace Neural Network for Image Recognition [33.61205842747625]
画像分類タスクでは, 特徴抽出は常に大きな問題であり, クラス内変動により抽出器の設計が困難になる。
近年、ディープラーニングはデータから機能を自動的に学習することに多くの注意を払っている。
本研究では,畳み込みニューラルネットワーク(CNN)のキーコンポーネントをサブスペースの概念と組み合わせたマルチサブスペースニューラルネットワーク(MSNN)を提案する。
論文 参考訳（メタデータ） (2020-06-17T02:55:34Z) - AlignSeg: Feature-Aligned Segmentation Networks [109.94809725745499]
本稿では,機能集約プロセスにおける誤アライメント問題に対処するために,特徴適応型ネットワーク(AlignSeg)を提案する。
我々のネットワークは、それぞれ82.6%と45.95%という新しい最先端のmIoUスコアを達成している。
論文 参考訳（メタデータ） (2020-02-24T10:00:58Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。