論文の概要: On Diversity in Discriminative Neural Networks

• arxiv url: http://arxiv.org/abs/2407.12599v1
• Date: Wed, 17 Jul 2024 14:26:44 GMT
• ステータス: 処理完了
• システム内更新日: 2024-07-18 16:56:39.792203
• Title: On Diversity in Discriminative Neural Networks
• Title（参考訳）: 識別ニューラルネットワークの多様性について
• Authors: Brahim Oubaha, Claude Berrou, Xueyao Ji, Yehya Nasser, Raphaël Le Bidan,
• Abstract要約: 機械学習、特にニューラルネットワークでは、多様性は必ずしも強調され、少なくとも明確に識別される概念であるとは限らない。 本稿では,様々な多様性原則に基づくニューラルネットワークアーキテクチャを提案する。 このアーキテクチャは,MNISTが99.57%,CIFAR-10が94.21%,クラスが25のラベルしか持たない,有望な半教師あり学習精度を期待できる,驚くべき結果を得た。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: Diversity is a concept of prime importance in almost all disciplines based on information processing. In telecommunications, for example, spatial, temporal, and frequency diversity, as well as redundant coding, are fundamental concepts that have enabled the design of extremely efficient systems. In machine learning, in particular with neural networks, diversity is not always a concept that is emphasized or at least clearly identified. This paper proposes a neural network architecture that builds upon various diversity principles, some of them already known, others more original. Our architecture obtains remarkable results, with a record self-supervised learning accuracy of 99. 57% in MNIST, and a top tier promising semi-supervised learning accuracy of 94.21% in CIFAR-10 using only 25 labels per class.
• Abstract（参考訳）: 多様性は情報処理に基づくほぼすべての分野において最も重要な概念である。 電気通信において、例えば、空間、時間、周波数の多様性は、冗長な符号化と同様に、非常に効率的なシステムの設計を可能にする基本的な概念である。 機械学習、特にニューラルネットワークでは、多様性は必ずしも強調され、少なくとも明確に識別される概念ではない。 本稿では,様々な多様性原則に基づくニューラルネットワークアーキテクチャを提案する。 我々のアーキテクチャは、記録的な自己教師型学習精度99。 MNISTは57%、CIFAR-10の半教師あり学習精度は94.21%と期待されている。

関連論文リスト

• D3: Data Diversity Design for Systematic Generalization in Visual Question Answering [6.033292707572802]
  単純なタスクの多様性が、体系的な一般化を達成する上で重要な役割を担っていることを示す。 これは、多種多様な複雑なタスクを収集することは必須ではないかもしれないことを意味しており、これは入手するのにコストがかかる可能性がある。
  論文  参考訳（メタデータ） (2023-09-15T22:45:02Z)
• Unsupervised Domain Adaptation on Person Re-Identification via Dual-level Asymmetric Mutual Learning [108.86940401125649]
  本稿では,多種多様な埋め込み空間を持つより広い知識領域から識別的表現を学習するための,DAML(Dual-level Asymmetric Mutual Learning)を提案する。 2つのネットワーク間の知識伝達は、非対称な相互学習方式に基づいている。 Market-1501、CUHK-SYSU、MSMT17の公開データセットにおける実験は、最先端技術よりもDAMLの方が優れていることを証明した。
  論文  参考訳（メタデータ） (2023-01-29T12:36:17Z)
• Learning unfolded networks with a cyclic group structure [5.735084437664414]
  等変ニューラルネットワークの最近の進歩に基づき,ドメイン知識を明示的に符号化するネットワークを提案する。 スパースアクティベーションを有する解釈可能なネットワークを提案する。 等変アンフォールドネットワークは、そのパラメータのごく一部しか持たないベースラインと良好に競合する。
  論文  参考訳（メタデータ） (2022-11-16T22:03:46Z)
• Discriminative Feature Learning through Feature Distance Loss [0.0]
  本研究は,多様なリッチベースモデルを組み合わせて,異なる重要な画像領域に着目して分類する手法を提案する。 ベンチマーク畳み込みニューラルネットワーク(VGG16, ResNet, AlexNet)、一般的なデータセット(Cifar10, Cifar100, miniImageNet, NEU, BSD, TEX)の実験は、我々の手法の有効性と一般化能力を示している。
  論文  参考訳（メタデータ） (2022-05-23T20:01:32Z)
• Efficient Diversity-Driven Ensemble for Deep Neural Networks [28.070540722925152]
  アンサンブルの多様性と効率の両方に対処するために,効率的なダイバーシティ駆動型アンサンブル(EDDE)を提案する。 他のよく知られたアンサンブル法と比較して、EDDEは訓練コストの低い最も高いアンサンブル精度を得ることができる。 EDDE on Computer Vision (CV) and Natural Language Processing (NLP) task。
  論文  参考訳（メタデータ） (2021-12-26T04:28:47Z)
• Facial Expressions Recognition with Convolutional Neural Networks [0.0]
  ニューラルネットワークを利用して表情認識システム(FER)を実装する。 我々は、追加のトレーニングデータを用いることなく、FER2013データセット上で、最先端のシングルネットワーク精度の70.10%を実証する。
  論文  参考訳（メタデータ） (2021-07-19T06:41:00Z)
• Learning distinct features helps, provably [98.78384185493624]
  最小二乗損失で訓練された2層ニューラルネットワークによって学習された特徴の多様性について検討する。 隠蔽層の特徴間の平均的な$L$-distanceで多様性を測定する。
  論文  参考訳（メタデータ） (2021-06-10T19:14:45Z)
• MultiFair: Multi-Group Fairness in Machine Learning [52.24956510371455]
  機械学習におけるマルチグループフェアネスの研究(MultiFair) この問題を解決するために,汎用的なエンドツーエンドのアルゴリズムフレームワークを提案する。 提案するフレームワークは多くの異なる設定に一般化可能である。
  論文  参考訳（メタデータ） (2021-05-24T02:30:22Z)
• Joint Learning of Neural Transfer and Architecture Adaptation for Image Recognition [77.95361323613147]
  現在の最先端の視覚認識システムは、大規模データセット上でニューラルネットワークを事前トレーニングし、より小さなデータセットでネットワーク重みを微調整することに依存している。 本稿では,各ドメインタスクに適応したネットワークアーキテクチャの動的適応と,効率と効率の両面で重みの微調整の利点を実証する。 本手法は,ソースドメインタスクでスーパーネットトレーニングを自己教師付き学習に置き換え,下流タスクで線形評価を行うことにより,教師なしパラダイムに容易に一般化することができる。
  論文  参考訳（メタデータ） (2021-03-31T08:15:17Z)
• Neural Anisotropy Directions [63.627760598441796]
  我々は、アーキテクチャの方向性誘導バイアスをカプセル化するベクトルとして、神経異方性方向(NAD)を定義する。 CIFAR-10データセットでは、NADはCNNが異なるクラス間で識別するために使用する特徴を特徴付ける。
  論文  参考訳（メタデータ） (2020-06-17T08:36:28Z)
• ResNeSt: Split-Attention Networks [86.25490825631763]
  このアーキテクチャは、異なるネットワークブランチにチャンネルワイズを応用し、機能間相互作用のキャプチャと多様な表現の学習の成功を活用する。 我々のモデルはResNeStと呼ばれ、画像分類の精度と遅延トレードオフにおいてEfficientNetより優れています。
  論文  参考訳（メタデータ） (2020-04-19T20:40:31Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。