論文の概要: When and how CNNs generalize to out-of-distribution category-viewpoint combinations

• arxiv url: http://arxiv.org/abs/2007.08032v3
• Date: Wed, 17 Nov 2021 12:29:25 GMT
• ステータス: 処理完了
• システム内更新日: 2022-11-10 05:18:55.319109
• Title: When and how CNNs generalize to out-of-distribution category-viewpoint combinations
• Title（参考訳）: CNNが分布外圏-視点の組み合わせに一般化する時期と方法
• Authors: Spandan Madan, Timothy Henry, Jamell Dozier, Helen Ho, Nishchal Bhandari, Tomotake Sasaki, Fr\'edo Durand, Hanspeter Pfister, Xavier Boix
• Abstract要約: 近年の研究では、畳み込みニューラルネットワーク(CNN)が、アウト・オブ・ディストリビューション(OOD)カテゴリとビューポイントの組み合わせに一般化できないことが示唆されている。 対象カテゴリーと3次元視点の両方をOOD組み合わせで分類する訓練されたCNNを評価し,OOD一般化を促進する神経機構を同定した。
• 参考スコア（独自算出の注目度）: 17.13440428461948
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Object recognition and viewpoint estimation lie at the heart of visual understanding. Recent works suggest that convolutional neural networks (CNNs) fail to generalize to out-of-distribution (OOD) category-viewpoint combinations, ie. combinations not seen during training. In this paper, we investigate when and how such OOD generalization may be possible by evaluating CNNs trained to classify both object category and 3D viewpoint on OOD combinations, and identifying the neural mechanisms that facilitate such OOD generalization. We show that increasing the number of in-distribution combinations (ie. data diversity) substantially improves generalization to OOD combinations, even with the same amount of training data. We compare learning category and viewpoint in separate and shared network architectures, and observe starkly different trends on in-distribution and OOD combinations, ie. while shared networks are helpful in-distribution, separate networks significantly outperform shared ones at OOD combinations. Finally, we demonstrate that such OOD generalization is facilitated by the neural mechanism of specialization, ie. the emergence of two types of neurons -- neurons selective to category and invariant to viewpoint, and vice versa.
• Abstract（参考訳）: 物体認識と視点推定は視覚的理解の中心にある。 近年の研究では、畳み込みニューラルネットワーク(CNN)は、アウト・オブ・ディストリビューション(OOD)カテゴリとビューポイントの組み合わせに一般化できないことが示唆されている。 訓練中は見当たらない組み合わせ。 本稿では,OODの組合せにおける対象カテゴリと3次元視点の両方を分類する訓練されたCNNの評価と,OODの一般化を促進する神経機構の同定により,OODの一般化がいつ,どのように可能かを検討する。 我々は,同じ量のトレーニングデータであっても,分配内組合せ(すなわちデータ多様性)の増加がOOD組み合わせの一般化を著しく向上させることを示す。 ネットワークアーキテクチャの分離と共有において,学習カテゴリと視点を比較し,分配とOODの組み合わせに関する非常に異なる傾向を観察する。 共有ネットワークは分配中に役立つが、異なるネットワークはoodの組み合わせで共有ネットワークを著しく上回っている。 最後に,このようなオード一般化が特殊化の神経機構によって促進されることを示す。 2種類のニューロンの出現 - カテゴリーに選択的に、視点に不変で、その逆である。

関連論文リスト

• Towards out-of-distribution generalization in large-scale astronomical surveys: robust networks learn similar representations [3.653721769378018]
  ニューラルネットワーク表現の類似度尺度である Centered Kernel Alignment (CKA) を用いて、表現類似度と性能の関係について検討する。 モデルが分散シフトに対して堅牢である場合、OODデータ上に層間でかなり異なる表現を生成することが分かりました。 本稿では,CKAを誘導バイアスとして取り入れることで,モデル設計,トレーニング戦略,OOD問題を緩和する上での類似性表現の可能性について論じる。
  論文  参考訳（メタデータ） (2023-11-29T19:00:05Z)
• Deep Neural Networks Can Learn Generalizable Same-Different Visual Relations [22.205838756057314]
  我々は、ディープニューラルネットワークが、分布内と分布外の両方において、同じ微分関係を取得および一般化できるかどうかを検討する。 ある事前学習された変換器は、ほぼ完全な精度で分布外刺激に一般化する同じ微分関係を学習できる。
  論文  参考訳（メタデータ） (2023-10-14T16:28:57Z)
• Deep Neural Networks Tend To Extrapolate Predictably [51.303814412294514]
  ニューラルネットワークの予測は、アウト・オブ・ディストリビューション(OOD)入力に直面した場合、予測不可能で過信される傾向がある。 我々は、入力データがOODになるにつれて、ニューラルネットワークの予測が一定値に向かう傾向があることを観察する。 我々は、OOD入力の存在下でリスクに敏感な意思決定を可能にするために、私たちの洞察を実際に活用する方法を示します。
  論文  参考訳（メタデータ） (2023-10-02T03:25:32Z)
• Neural networks trained with SGD learn distributions of increasing complexity [78.30235086565388]
  勾配降下法を用いてトレーニングされたニューラルネットワークは、まず低次入力統計を用いて入力を分類する。 その後、トレーニング中にのみ高次の統計を利用する。 本稿では,DSBと他の単純度バイアスとの関係について論じ,学習における普遍性の原理にその意味を考察する。
  論文  参考訳（メタデータ） (2022-11-21T15:27:22Z)
• Predicting the generalization gap in neural networks using topological data analysis [33.511371257571504]
  トポロジカルデータ解析の手法を用いて,ニューラルネットワークの一般化ギャップについて検討する。 トレーニング後のニューロン活性化相関から構築した重み付きグラフのホモロジー永続図を計算する。 持続性図から異なる数値要約の有用性を比較し、それらの組み合わせによって、テストセットを必要とせずに、その一般化ギャップを正確に予測し、部分的に説明できることを示す。
  論文  参考訳（メタデータ） (2022-03-23T11:15:36Z)
• Emotional EEG Classification using Connectivity Features and Convolutional Neural Networks [81.74442855155843]
  CNNと脳のつながりを利用した新しい分類システムを導入し,その効果を感情映像分類により検証する。 対象映像の感情的特性に関連する脳接続の集中度は分類性能と相関する。
  論文  参考訳（メタデータ） (2021-01-18T13:28:08Z)
• Probing Predictions on OOD Images via Nearest Categories [97.055916832257]
  ニューラルネットワークが未確認のクラスや破損したイメージから画像を分類する際のアウト・オブ・ディストリビューション(OOD)予測挙動について検討する。 我々は、トレーニングセットにおいて、最も近い隣人と同じラベルで分類されたOOD入力の分数を計算するため、新しい測度、最も近いカテゴリ一般化(NCG)を導入する。 我々は、OODデータがロバストネス半径よりも遥かに遠くにある場合でも、ロバストネットワークは自然訓練よりも一貫してNCG精度が高いことを発見した。
  論文  参考訳（メタデータ） (2020-11-17T07:42:27Z)
• Learning from Failure: Training Debiased Classifier from Biased Classifier [76.52804102765931]
  ニューラルネットワークは、所望の知識よりも学習が簡単である場合にのみ、素早い相関に依存することを学習していることを示す。 本稿では,一対のニューラルネットワークを同時にトレーニングすることで,障害に基づくデバイアス化手法を提案する。 本手法は,合成データセットと実世界のデータセットの両方において,各種バイアスに対するネットワークのトレーニングを大幅に改善する。
  論文  参考訳（メタデータ） (2020-07-06T07:20:29Z)
• Neural Additive Models: Interpretable Machine Learning with Neural Nets [77.66871378302774]
  ディープニューラルネットワーク(DNN)は、さまざまなタスクにおいて優れたパフォーマンスを達成した強力なブラックボックス予測器である。 本稿では、DNNの表現性と一般化した加法モデルの固有知性を組み合わせたニューラル付加モデル(NAM)を提案する。 NAMは、ニューラルネットワークの線形結合を学び、それぞれが単一の入力機能に付随する。
  論文  参考訳（メタデータ） (2020-04-29T01:28:32Z)
• Neural Rule Ensembles: Encoding Sparse Feature Interactions into Neural Networks [3.7277730514654555]
  決定木を用いて、関連する特徴とその相互作用をキャプチャし、抽出した関係をニューラルネットワークにエンコードするマッピングを定義する。 同時に、機能選択により、アートツリーベースのアプローチの状況と比較して、コンパクトな表現の学習が可能になる。
  論文  参考訳（メタデータ） (2020-02-11T11:22:20Z)
• DNNs as Layers of Cooperating Classifiers [5.746505534720594]
  ディープニューラルネットワーク(DNN)の一般的な状況下での一般化能力を記述し、予測できる堅牢な理論的枠組みは、いまだ解明されていない。 完全に接続されたフィードフォワードネットワーク内の隠れノードの活性化パターンに興味深い規則性を示す。 これら2つのシステムは,勾配に基づく最適化プロセスから自然に発生し,個別かつ協調的に2つのシステムの分類能力を示す。
  論文  参考訳（メタデータ） (2020-01-17T07:45:26Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。