論文の概要: End-to-end training of deep kernel map networks for image classification

• arxiv url: http://arxiv.org/abs/2006.15088v1
• Date: Fri, 26 Jun 2020 16:37:41 GMT
• ステータス: 処理完了
• システム内更新日: 2022-11-16 21:58:18.180876
• Title: End-to-end training of deep kernel map networks for image classification
• Title（参考訳）: 画像分類のためのディープカーネルマップネットワークのエンドツーエンドトレーニング
• Authors: Mingyuan Jiu and Hichem Sahbi
• Abstract要約: 深層カーネルマップネットワークは画像アノテーションを含む様々な分類問題において優れた性能を示した。 本稿では,カーネルの近似品質と識別能力のバランスをとる,深層カーネルマップ学習のための新しい「エンドツーエンド」設計を提案する。 提案手法は,まず階層的にSVDを適用して初期深層カーネルマップの近似を構築し,次に「エンドツーエンド」教師付き学習を用いて識別能力を向上する。
• 参考スコア（独自算出の注目度）: 15.99072005190786
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Deep kernel map networks have shown excellent performances in various classification problems including image annotation. Their general recipe consists in aggregating several layers of singular value decompositions (SVDs) -- that map data from input spaces into high dimensional spaces -- while preserving the similarity of the underlying kernels. However, the potential of these deep map networks has not been fully explored as the original setting of these networks focuses mainly on the approximation quality of their kernels and ignores their discrimination power. In this paper, we introduce a novel "end-to-end" design for deep kernel map learning that balances the approximation quality of kernels and their discrimination power. Our method proceeds in two steps; first, layerwise SVD is applied in order to build initial deep kernel map approximations and then an "end-to-end" supervised learning is employed to further enhance their discrimination power while maintaining their efficiency. Extensive experiments, conducted on the challenging ImageCLEF annotation benchmark, show the high efficiency and the out-performance of this two-step process with respect to different related methods.
• Abstract（参考訳）: 深層カーネルマップネットワークは画像アノテーションを含む様々な分類問題において優れた性能を示した。 彼らの一般的なレシピは、入力空間から高次元空間にデータをマッピングする特異値分解(SVD)の複数の層を集約し、基盤となるカーネルの類似性を保っている。 しかし、これらのディープマップネットワークの可能性は、これらのネットワークの本来の設定がカーネルの近似品質に主眼を置いているため、完全には検討されていない。 本稿では,カーネルの近似品質と識別能力のバランスをとる深層カーネルマップ学習のための「エンドツーエンド」設計を提案する。 提案手法は,まず階層的にSVDを適用して初期深層カーネルマップの近似を構築,次に「エンドツーエンド」教師付き学習を用いて識別能力を向上し,その効率を向上する。 課題である ImageCLEF のベンチマークで実施した大規模な実験では,この2段階プロセスの高効率性と性能を,異なる手法で示す。

関連論文リスト

• Joint Learning for Scattered Point Cloud Understanding with Hierarchical Self-Distillation [34.26170741722835]
  そこで本研究では,部分点雲を高速に補正し,同定するエンド・ツー・エンドアーキテクチャを提案する。 階層型自己蒸留(HSD)は任意の階層ベースの点雲法に適用できる。
  論文  参考訳（メタデータ） (2023-12-28T08:51:04Z)
• GraphCSPN: Geometry-Aware Depth Completion via Dynamic GCNs [49.55919802779889]
  本稿では,グラフ畳み込みに基づく空間伝搬ネットワーク(GraphCSPN)を提案する。 本研究では、幾何学的表現学習において、畳み込みニューラルネットワークとグラフニューラルネットワークを相補的に活用する。 提案手法は,数段の伝搬ステップのみを使用する場合と比較して,最先端の性能を実現する。
  論文  参考訳（メタデータ） (2022-10-19T17:56:03Z)
• Optimization-Based Separations for Neural Networks [57.875347246373956]
  本研究では,2層のシグモダルアクティベーションを持つディープ2ニューラルネットワークを用いて,ボールインジケータ関数を効率よく学習できることを示す。 これは最適化に基づく最初の分離結果であり、より強力なアーキテクチャの近似の利点は、実際に確実に現れる。
  論文  参考訳（メタデータ） (2021-12-04T18:07:47Z)
• X-Distill: Improving Self-Supervised Monocular Depth via Cross-Task Distillation [69.9604394044652]
  そこで本研究では,クロスタスク知識蒸留による単眼深度の自己指導的訓練を改善する手法を提案する。 トレーニングでは,事前訓練されたセマンティックセグメンテーション教師ネットワークを使用し,そのセマンティック知識を深度ネットワークに転送する。 提案手法の有効性をKITTIベンチマークで評価し,最新技術と比較した。
  論文  参考訳（メタデータ） (2021-10-24T19:47:14Z)
• TSG: Target-Selective Gradient Backprop for Probing CNN Visual Saliency [72.9106103283475]
  我々は、畳み込みニューラルネットワークを解釈するために視覚的サリエンシ、すなわち視覚的説明について研究する。 これらの観測に触発されて、我々はTSG(Target-Selective Gradient)バックプロップと呼ばれる新しいビジュアル・サリエンシ・フレームワークを提案する。 提案したTSGはTSG-ConvとTSG-FCの2つのコンポーネントから構成され、それぞれ畳み込み層と完全連結層の勾配を補正する。
  論文  参考訳（メタデータ） (2021-10-11T12:00:20Z)
• Random Features for the Neural Tangent Kernel [57.132634274795066]
  完全接続型ReLUネットワークのニューラルタンジェントカーネル(NTK)の効率的な特徴マップ構築を提案する。 得られた特徴の次元は、理論と実践の両方で比較誤差境界を達成するために、他のベースライン特徴マップ構造よりもはるかに小さいことを示しています。
  論文  参考訳（メタデータ） (2021-04-03T09:08:12Z)
• On Approximation in Deep Convolutional Networks: a Kernel Perspective [12.284934135116515]
  画像や音声などの高次元データを含むタスクにおける深層畳み込みネットワークの成功について検討する。 多層畳み込み核を検討し、カーネル方式のレンズを通して理論的・実証的に検討する。 入力パッチで動作する表現型カーネルは第1層では重要であるが、より単純なカーネルは高い層で十分性能を保ち得る。
  論文  参考訳（メタデータ） (2021-02-19T17:03:42Z)
• SOSD-Net: Joint Semantic Object Segmentation and Depth Estimation from Monocular images [94.36401543589523]
  これら2つのタスクの幾何学的関係を利用するための意味的対象性の概念を紹介します。 次に, 対象性仮定に基づくセマンティックオブジェクト・深さ推定ネットワーク(SOSD-Net)を提案する。 私たちの知識を最大限に活用するために、SOSD-Netは同時単眼深度推定とセマンティックセグメンテーションのためのジオメトリ制約を利用する最初のネットワークです。
  論文  参考訳（メタデータ） (2021-01-19T02:41:03Z)
• Learning a Geometric Representation for Data-Efficient Depth Estimation via Gradient Field and Contrastive Loss [29.798579906253696]
  本研究では、コンブネットがラベルのない画像で幾何学的情報を抽出するのを支援するために、運動量差の少ない勾配に基づく自己教師付き学習アルゴリズムを提案する。 提案手法は,従来の自己教師付き学習アルゴリズムよりも優れ,ラベル付きデータの効率を3倍に向上させる。
  論文  参考訳（メタデータ） (2020-11-06T06:47:19Z)
• Deep Equals Shallow for ReLU Networks in Kernel Regimes [13.909388235627791]
  ReLUアクティベーションでは、深層完全接続ネットワークから派生したカーネルは、浅層2層のカーネルと本質的に同じ近似特性を持つことを示す。 我々の理論結果は、核関数の微分可能性特性を通して、そのような固有値の崩壊を特徴づけることに依存している。
  論文  参考訳（メタデータ） (2020-09-30T02:37:43Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。