論文の概要: Learning to Represent and Predict Sets with Deep Neural Networks

• arxiv url: http://arxiv.org/abs/2103.04957v1
• Date: Mon, 8 Mar 2021 18:27:08 GMT
• ステータス: 処理完了
• システム内更新日: 2021-03-10 18:19:42.315249
• Title: Learning to Represent and Predict Sets with Deep Neural Networks
• Title（参考訳）: 深層ニューラルネットワークによる集合の表現と予測の学習
• Authors: Yan Zhang
• Abstract要約: 機械学習における集合を扱うための様々な技術を開発した。 この論文の最初の焦点は、より良いセット表現(入力としてセット)の学習です。 この論文の第2の焦点は、セット(出力としてセット)の予測です。
• 参考スコア（独自算出の注目度）: 4.310814582717413
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: In this thesis, we develop various techniques for working with sets in machine learning. Each input or output is not an image or a sequence, but a set: an unordered collection of multiple objects, each object described by a feature vector. Their unordered nature makes them suitable for modeling a wide variety of data, ranging from objects in images to point clouds to graphs. Deep learning has recently shown great success on other types of structured data, so we aim to build the necessary structures for sets into deep neural networks. The first focus of this thesis is the learning of better set representations (sets as input). Existing approaches have bottlenecks that prevent them from properly modeling relations between objects within the set. To address this issue, we develop a variety of techniques for different scenarios and show that alleviating the bottleneck leads to consistent improvements across many experiments. The second focus of this thesis is the prediction of sets (sets as output). Current approaches do not take the unordered nature of sets into account properly. We determine that this results in a problem that causes discontinuity issues with many set prediction tasks and prevents them from learning some extremely simple datasets. To avoid this problem, we develop two models that properly take the structure of sets into account. Various experiments show that our set prediction techniques can significantly benefit over existing approaches.
• Abstract（参考訳）: 本稿では,機械学習において集合を扱うための様々な手法を考案する。 各入力または出力は画像またはシーケンスではなく、集合:複数のオブジェクトの無順序コレクション、各オブジェクトは特徴ベクトルによって記述される。 その無秩序な性質は、画像のオブジェクトから、雲の点からグラフまで、さまざまなデータのモデリングに適している。 ディープラーニングは、最近、他のタイプの構造化データに対して大きな成功を収めたので、深層ニューラルネットワークにセットに必要な構造を構築することを目指している。 この論文の最初の焦点は、より良いセット表現(入力としてセット)の学習です。 既存のアプローチにはボトルネックがあり、セット内のオブジェクト間の関係を適切にモデル化できない。 この問題に対処するため,我々は様々なシナリオのための様々な手法を開発し,ボトルネックの緩和が多数の実験で一貫した改善をもたらすことを示す。 この論文の第二の焦点は集合(集合を出力とする)の予測である。 現在のアプローチは、集合の順序のない性質を適切に考慮していない。 この結果、多くのセット予測タスクで不連続な問題を引き起こし、非常に単純なデータセットの学習を妨げていると判断します。 この問題を回避するために,集合の構造を適切に考慮した2つのモデルを開発する。 様々な実験により、既存のアプローチよりも優れた予測手法が得られた。

関連論文リスト

• Pushing the Limits of Pre-training for Time Series Forecasting in the CloudOps Domain [54.67888148566323]
  クラウドオペレーションドメインから,大規模時系列予測データセットを3つ導入する。 強力なゼロショットベースラインであり、モデルとデータセットサイズの両方において、さらなるスケーリングの恩恵を受けています。 これらのデータセットと結果を取得することは、古典的および深層学習のベースラインを事前訓練された方法と比較した総合的なベンチマーク結果の集合である。
  論文  参考訳（メタデータ） (2023-10-08T08:09:51Z)
• On Inductive Biases for Machine Learning in Data Constrained Settings [0.0]
  この論文は、データ制約された設定で表現力のあるモデルを学ぶという問題に対する異なる答えを探求する。 ニューラルネットワークを学ぶために、大きなデータセットに頼るのではなく、データ構造を反映した既知の関数によって、いくつかのモジュールを置き換えるつもりです。 我々のアプローチは「帰納的バイアス」のフードの下に置かれており、これは探索するモデルの空間を制限する手元にあるデータの仮説として定義することができる。
  論文  参考訳（メタデータ） (2023-02-21T14:22:01Z)
• Semi-Structured Object Sequence Encoders [9.257633944317735]
  本稿では,半構造化オブジェクト列に対する構造認識型入力表現の開発に焦点をあてる。 このタイプのデータは、時間とともにキーと値のペアの一連の配列として表されることが多い。 本稿では,まず各キーを独立に考慮し,時間とともに値の表現を符号化する2部手法を提案する。
  論文  参考訳（メタデータ） (2023-01-03T09:19:41Z)
• Mutual Exclusivity Training and Primitive Augmentation to Induce Compositionality [84.94877848357896]
  最近のデータセットは、標準的なシーケンス・ツー・シーケンスモデルにおける体系的な一般化能力の欠如を露呈している。 本稿では,セq2seqモデルの振る舞いを分析し,相互排他バイアスの欠如と全例を記憶する傾向の2つの要因を同定する。 広範に使用されている2つの構成性データセット上で、標準的なシーケンス・ツー・シーケンスモデルを用いて、経験的改善を示す。
  論文  参考訳（メタデータ） (2022-11-28T17:36:41Z)
• Multivariate Time Series Regression with Graph Neural Networks [0.6124773188525718]
  近年のディープラーニングのグラフへの適用は,様々なグラフ関連タスクにおいて有望な可能性を示している。 しかし,これらの手法は時系列関連タスクにはあまり適用されていない。 本研究では,これらの長いシーケンスを多変量時系列回帰タスクで処理できるアーキテクチャを提案する。
  論文  参考訳（メタデータ） (2022-01-03T16:11:46Z)
• Self-Supervision by Prediction for Object Discovery in Videos [62.87145010885044]
  本稿では,この予測タスクを自己監督として利用し,画像シーケンス表現のための新しいオブジェクト中心モデルを構築する。 私たちのフレームワークは、手動アノテーションや事前トレーニングされたネットワークを使わずにトレーニングできます。 最初の実験では、提案されたパイプラインがオブジェクト中心のビデオ予測への有望なステップであることを確認した。
  論文  参考訳（メタデータ） (2021-03-09T19:14:33Z)
• Contrastive Prototype Learning with Augmented Embeddings for Few-Shot Learning [58.2091760793799]
  拡張埋め込み(CPLAE)モデルを用いた新しいコントラスト型プロトタイプ学習を提案する。 クラスプロトタイプをアンカーとして、CPLは、同じクラスのクエリサンプルを、異なるクラスのサンプルを、さらに遠くに引き出すことを目的としている。 いくつかのベンチマークによる大規模な実験により,提案したCPLAEが新たな最先端を実現することが示された。
  論文  参考訳（メタデータ） (2021-01-23T13:22:44Z)
• Assisting Scene Graph Generation with Self-Supervision [21.89909688056478]
  本稿では,3つの新しい自己スーパービジョンタスクのセットを提案し,それらをメインモデルへの補助的マルチタスクとして訓練する。 比較しながら、これらのセルフスーパービジョンタスクでベースモデルをスクラッチからトレーニングし、すべてのメトリクスとリコール設定で最先端の結果を達成する。
  論文  参考訳（メタデータ） (2020-08-08T16:38:03Z)
• Predicting Temporal Sets with Deep Neural Networks [50.53727580527024]
  本稿では,時間集合予測のためのディープニューラルネットワークに基づく統合解を提案する。 ユニークな視点は、セットレベルの共起グラフを構築することで要素関係を学ぶことである。 我々は,要素や集合の時間依存性を適応的に学習するアテンションベースのモジュールを設計する。
  論文  参考訳（メタデータ） (2020-06-20T03:29:02Z)
• Learn to Predict Sets Using Feed-Forward Neural Networks [63.91494644881925]
  本稿では、ディープフィードフォワードニューラルネットワークを用いた設定予測の課題に対処する。 未知の置換と基数を持つ集合を予測するための新しい手法を提案する。 関連視覚問題に対する集合定式化の有効性を実証する。
  論文  参考訳（メタデータ） (2020-01-30T01:52:07Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。