論文の概要: Learn to Predict Sets Using Feed-Forward Neural Networks
- arxiv url: http://arxiv.org/abs/2001.11845v2
- Date: Mon, 25 Oct 2021 06:33:27 GMT
- ステータス: 処理完了
- システム内更新日: 2023-01-05 11:55:42.197789
- Title: Learn to Predict Sets Using Feed-Forward Neural Networks
- Title(参考訳): フィードフォワードニューラルネットワークを用いた集合予測の学習
- Authors: Hamid Rezatofighi, Tianyu Zhu, Roman Kaskman, Farbod T. Motlagh,
Qinfeng Shi, Anton Milan, Daniel Cremers, Laura Leal-Taix\'e, Ian Reid
- Abstract要約: 本稿では、ディープフィードフォワードニューラルネットワークを用いた設定予測の課題に対処する。
未知の置換と基数を持つ集合を予測するための新しい手法を提案する。
関連視覚問題に対する集合定式化の有効性を実証する。
- 参考スコア(独自算出の注目度): 63.91494644881925
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: This paper addresses the task of set prediction using deep feed-forward
neural networks. A set is a collection of elements which is invariant under
permutation and the size of a set is not fixed in advance. Many real-world
problems, such as image tagging and object detection, have outputs that are
naturally expressed as sets of entities. This creates a challenge for
traditional deep neural networks which naturally deal with structured outputs
such as vectors, matrices or tensors. We present a novel approach for learning
to predict sets with unknown permutation and cardinality using deep neural
networks. In our formulation we define a likelihood for a set distribution
represented by a) two discrete distributions defining the set cardinally and
permutation variables, and b) a joint distribution over set elements with a
fixed cardinality. Depending on the problem under consideration, we define
different training models for set prediction using deep neural networks. We
demonstrate the validity of our set formulations on relevant vision problems
such as: 1) multi-label image classification where we outperform the other
competing methods on the PASCAL VOC and MS COCO datasets, 2) object detection,
for which our formulation outperforms popular state-of-the-art detectors, and
3) a complex CAPTCHA test, where we observe that, surprisingly, our set-based
network acquired the ability of mimicking arithmetics without any rules being
coded.
- Abstract(参考訳): 本稿では、ディープフィードフォワードニューラルネットワークを用いた設定予測の課題に対処する。
集合は置換の下で不変な要素の集合であり、集合のサイズは事前に固定されていない。
画像タグ付けやオブジェクト検出などの現実世界の多くの問題は、自然にエンティティの集合として表現される出力を持つ。
これは、ベクトル、行列、テンソルなどの構造化出力を自然に扱う従来のディープニューラルネットワークにとっての課題である。
深層ニューラルネットワークを用いて未知の置換と濃度の集合を予測するための新しい手法を提案する。
この定式化では、表現される集合分布の確率を定義する。
a) 集合を基数と置換変数を定義する2つの離散分布及び
b) 固定基数を有する集合要素上の共同分布
検討中の問題に応じて、深層ニューラルネットワークを用いたセット予測のための異なるトレーニングモデルを定義する。
我々は,次のような視覚問題に対する定式化の有効性を実証する。
1)マルチラベル画像分類では,PASCAL VOCとMS COCOデータセットで競合する他の手法よりも優れている。
2)私たちの定式化が一般的な最先端検出器より優れている物体検出、及び
3) 複雑なCAPTCHAテストでは, 意外なことに, 我々のセットベースネットワークは, ルールをコーディングせずに演算を模倣する能力を得た。
関連論文リスト
- Quantification using Permutation-Invariant Networks based on Histograms [47.47360392729245]
量子化とは、モデルが与えられたサンプルの袋の中で各クラスの有病率を予測するために訓練される教師付き学習タスクである。
本稿では、対称的教師あり手法の適用が可能なシナリオにおいて、量子化タスクへのディープニューラルネットワークの適用について検討する。
ヒストグラムに基づく置換不変表現に依存する新しいニューラルアーキテクチャHistNetQを提案する。
論文 参考訳(メタデータ) (2024-03-22T11:25:38Z) - Enhancing Neural Subset Selection: Integrating Background Information into Set Representations [53.15923939406772]
対象値が入力集合とサブセットの両方に条件付けされている場合、スーパーセットのテクスティ不変な統計量を関心のサブセットに組み込むことが不可欠であることを示す。
これにより、出力値がサブセットとその対応するスーパーセットの置換に不変であることを保証する。
論文 参考訳(メタデータ) (2024-02-05T16:09:35Z) - Discrete Graph Auto-Encoder [52.50288418639075]
離散グラフオートエンコーダ(DGAE)という新しいフレームワークを導入する。
まず、置換同変オートエンコーダを用いてグラフを離散潜在ノード表現の集合に変換する。
2番目のステップでは、離散潜在表現の集合をソートし、特別に設計された自己回帰モデルを用いてそれらの分布を学習する。
論文 参考訳(メタデータ) (2023-06-13T12:40:39Z) - Graph Neural Networks with Adaptive Readouts [5.575293536755126]
異なる領域とグラフ特性にまたがる40以上のデータセットに対して,ニューラルネットワークによる読み出しの有効性を示す。
我々は、近隣の集約数と異なる畳み込み演算子の数に対して、標準読み出しよりも一貫した改善を観察する。
論文 参考訳(メタデータ) (2022-11-09T15:21:09Z) - Set Interdependence Transformer: Set-to-Sequence Neural Networks for
Permutation Learning and Structure Prediction [6.396288020763144]
セット・ツー・シーケンス問題は自然言語処理、コンピュータビジョン、構造予測において発生する。
それまでの注意に基づく手法では、n$-次関係を明示的に表すために、セット変換の$n$層を必要とする。
本稿では,集合の置換不変表現を任意の濃度の集合内のその要素に関連付けることのできる,集合間距離変換器と呼ばれる新しいニューラルセット符号化法を提案する。
論文 参考訳(メタデータ) (2022-06-08T07:46:49Z) - PICASO: Permutation-Invariant Cascaded Attentional Set Operator [6.845913709297514]
セットインプット深層ネットワークのための変分不変カスケードアテンショナル・セット演算子 (PICASO) を提案する。
提案したオペレータはスタンドアロンモジュールであり、さまざまな機械学習タスクに適応して拡張することができる。
我々は, PICASO の有用性を, (i) クラスタリング, (ii) 新たな視点による画像分類, (iii) 画像異常検出, (iv) 状態予測の4つのシナリオで示す。
論文 参考訳(メタデータ) (2021-07-17T19:21:30Z) - Bayesian Attention Belief Networks [59.183311769616466]
注意に基づくニューラルネットワークは、幅広いタスクにおいて最先端の結果を得た。
本稿では,非正規化注意重みをモデル化してデコーダネットワークを構築するベイズ的注意信念ネットワークについて紹介する。
提案手法は, 精度, 不確実性推定, ドメイン間の一般化, 敵攻撃において, 決定論的注意と最先端の注意よりも優れていることを示す。
論文 参考訳(メタデータ) (2021-06-09T17:46:22Z) - Predicting Temporal Sets with Deep Neural Networks [50.53727580527024]
本稿では,時間集合予測のためのディープニューラルネットワークに基づく統合解を提案する。
ユニークな視点は、セットレベルの共起グラフを構築することで要素関係を学ぶことである。
我々は,要素や集合の時間依存性を適応的に学習するアテンションベースのモジュールを設計する。
論文 参考訳(メタデータ) (2020-06-20T03:29:02Z) - Set Distribution Networks: a Generative Model for Sets of Images [22.405670277339023]
自動エンコードと自由にセットを生成するフレームワークであるSet Distribution Networks(SDN)を紹介する。
ベンチマークデータセットの入力の健全な属性を保存するイメージセットを,SDNが再構築可能であることを示す。
本稿では,SDN が生成した画像の品質を評価する新しい手法として,事前学習した3次元再構成ネットワークと顔検証ネットワークを用いて,SDN が生成した画像集合について検討する。
論文 参考訳(メタデータ) (2020-06-18T17:38:56Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。