Fugu-MT 論文翻訳(概要): Investigating the Effect of Intraclass Variability in Temporal Ensembling

論文の概要: Investigating the Effect of Intraclass Variability in Temporal Ensembling

arxiv url: http://arxiv.org/abs/2008.08956v2
Date: Fri, 21 Aug 2020 09:12:55 GMT
ステータス: 処理完了
システム内更新日: 2022-10-27 02:47:27.406903
Title: Investigating the Effect of Intraclass Variability in Temporal Ensembling
Title（参考訳）: 時間的組立におけるクラス内変動の影響の検討
Authors: Siddharth Vohra, Manikandan Ravikiran
Abstract要約: テンポラルエンセブリング(Temporal Ensembling)は、少数のラベル付きイメージでディープニューラルネットワークモデルのトレーニングを可能にする、半教師付きアプローチである。本研究は,種の大きさと種型に着目し,クラス内変動が時間的アンサンブルに及ぼす影響について予備的検討を行った。
参考スコア（独自算出の注目度）: 4.289798118888111
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: Temporal Ensembling is a semi-supervised approach that allows training deep neural network models with a small number of labeled images. In this paper, we present our preliminary study on the effect of intraclass variability on temporal ensembling, with a focus on seed size and seed type, respectively. Through our experiments we find that (a) there is a significant drop in accuracy with datasets that offer high intraclass variability, (b) more seed images offer consistently higher accuracy across the datasets, and (c) seed type indeed has an impact on the overall efficiency, where it produces a spectrum of accuracy both lower and higher. Additionally, based on our experiments, we also find KMNIST to be a competitive baseline for temporal ensembling.
Abstract（参考訳）: テンポラリセンスリング(temporal ensembling)は、少数のラベル付きイメージでディープニューラルネットワークモデルをトレーニングする、半教師付きアプローチである。本稿では,種の大きさと種型に着目した時間的感覚形成におけるクラス内変動の影響について予備的な検討を行った。実験で分かったのは (a)高いクラス内変動をもたらすデータセットによる精度の大幅な低下がある。 b) より多くのシード画像がデータセット全体にわたって一貫して高い精度で提供し、 (c)種子型は全体としての効率に影響を与え, 低い値と高い値の両方の精度のスペクトルを生じる。さらに,本実験から,KMNISTが時間的アンサンブルの競争的ベースラインであることも確認した。

関連論文リスト

Hyperspectral Imaging-Based Grain Quality Assessment With Limited Labelled Data [2.4797200957733576]
ハイパースペクトルイメージング(HSI)と少数ショット学習技術を用いた粒質評価の新しい手法を提案する。 HSIは、空間情報とスペクトル情報の両方をキャプチャすることで、非侵襲的でリアルタイムな代替手段を提供する。まず,訓練中に見られた粒型の分類と,第2に目に見えない粒型への一般化の2つのシナリオにおいて,少数ショット分類器の性能を評価した。
論文参考訳（メタデータ） (2024-11-17T01:02:18Z)
Spatio-Temporal Attention Graph Neural Network for Remaining Useful Life Prediction [1.831835396047386]
本研究では,時空間注意グラフニューラルネットワークを提案する。本モデルでは,空間的・時間的特徴抽出のために,グラフニューラルネットワークと時間的畳み込みニューラルネットワークを組み合わせる。 C-MAPSSデータセットを用いて、クラスタリング正規化とクラスタリング正規化の影響を評価するための総合的な実験を行った。
論文参考訳（メタデータ） (2024-01-29T08:49:53Z)
Data Attribution for Diffusion Models: Timestep-induced Bias in Influence Estimation [53.27596811146316]
拡散モデルは、以前の文脈における瞬間的な入出力関係ではなく、一連のタイムステップで操作する。本稿では、この時間的ダイナミクスを取り入れた拡散トラクInについて、サンプルの損失勾配ノルムが時間ステップに大きく依存していることを確認する。そこで我々はDiffusion-ReTracを再正規化適応として導入し、興味のあるサンプルを対象にしたトレーニングサンプルの検索を可能にする。
論文参考訳（メタデータ） (2024-01-17T07:58:18Z)
On the Trade-off of Intra-/Inter-class Diversity for Supervised Pre-training [72.8087629914444]
教師付き事前学習データセットのクラス内多様性(クラス毎のサンプル数)とクラス間多様性(クラス数)とのトレードオフの影響について検討した。トレーニング前のデータセットのサイズが固定された場合、最高のダウンストリームのパフォーマンスは、クラス内/クラス間の多様性のバランスがとれる。
論文参考訳（メタデータ） (2023-05-20T16:23:50Z)
Adaptive Dimension Reduction and Variational Inference for Transductive Few-Shot Classification [2.922007656878633]
適応次元の削減によりさらに改善された変分ベイズ推定に基づく新しいクラスタリング法を提案する。提案手法は,Few-Shotベンチマークにおける現実的非バランスなトランスダクティブ設定の精度を大幅に向上させる。
論文参考訳（メタデータ） (2022-09-18T10:29:02Z)
On the Impact of Random Seeds on the Fairness of Clinical Classifiers [27.71610203951057]
電子健康記録上の臨床予測タスクにおける人口統計群間のモデル公平性に対するこの現象の影響を検討する。また,マイノリティ群の交点や幾らかの希少な条件に固有の小さなサンプルサイズは,差を正確に推定する能力に制限があることを見出した。
論文参考訳（メタデータ） (2021-04-13T16:30:39Z)
Geo-Spatiotemporal Features and Shape-Based Prior Knowledge for Fine-grained Imbalanced Data Classification [63.916371837696396]
細粒度分類は、類似のグローバル知覚とパターンを持つ項目を区別することを目的としているが、細部によって異なる。私たちの主な課題は、小さなクラス間バリエーションと大きなクラス内バリエーションの両方から来ています。我々は,野生生物の利用事例における細粒度分類を改善するため,いくつかの革新を組み合わせることを提案する。
論文参考訳（メタデータ） (2021-03-21T02:01:38Z)
Critical Parameters for Scalable Distributed Learning with Large Batches and Asynchronous Updates [67.19481956584465]
飽和を伴う分散トレーニング(SGD)の効率は、バッチサイズと、実装における停滞に決定的に依存することが実験的に観察されている。結果がタイトであることを示し、数値実験で重要な結果を示しています。
論文参考訳（メタデータ） (2021-03-03T12:08:23Z)
An Enhanced Adversarial Network with Combined Latent Features for Spatio-Temporal Facial Affect Estimation in the Wild [1.3007851628964147]
本稿では,遅延特徴に基づく時間的モデリングにより,空間的特徴と時間的特徴の両方を効率的に抽出する新しいモデルを提案する。提案モデルは3つの主要ネットワークから成り,造語生成器,判別器,コンビネータを用いて,適応型アテンションモジュールを実現するために,敵対的な学習環境において訓練を行う。
論文参考訳（メタデータ） (2021-02-18T04:10:12Z)
Attribute-Guided Adversarial Training for Robustness to Natural Perturbations [64.35805267250682]
本稿では,属性空間への分類器の露出を最大化するために,新しいサンプルを生成することを学習する逆学習手法を提案する。我々のアプローチは、ディープニューラルネットワークが自然に発生する摂動に対して堅牢であることを可能にする。
論文参考訳（メタデータ） (2020-12-03T10:17:30Z)
Fine-Tuning Pretrained Language Models: Weight Initializations, Data Orders, and Early Stopping [62.78338049381917]
教師付き下流タスクのための微調整済み文脈単語埋め込みモデルは、自然言語処理において一般的なものとなっている。 GLUEベンチマークから得られた4つのデータセットを実験し、無作為な種だけを変えながら、それぞれに数百回微調整されたBERTを実験した。これまでに報告した結果と比較すると,性能が大幅に向上し,微調整試行回数の関数としてベストファウンドモデルの性能がどう変化するかが定量化される。
論文参考訳（メタデータ） (2020-02-15T02:40:10Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。