論文の概要: Torch.manual_seed(3407) is all you need: On the influence of random
seeds in deep learning architectures for computer vision
- arxiv url: http://arxiv.org/abs/2109.08203v2
- Date: Thu, 11 May 2023 21:36:07 GMT
- ステータス: 処理完了
- システム内更新日: 2023-05-15 16:52:30.136137
- Title: Torch.manual_seed(3407) is all you need: On the influence of random
seeds in deep learning architectures for computer vision
- Title(参考訳): torch.manual_seed(3407) : コンピュータビジョンのためのディープラーニングアーキテクチャにおけるランダム種の影響について
- Authors: David Picard
- Abstract要約: 私はCIFAR 10で大量の種子(最大104ドル)をスキャンし、また、トレーニング済みのモデルを使用してImagenet上の種子をスキャンして、大規模なデータセットを調査します。
結論は、たとえばらつきがそれほど大きくなくても、平均よりもはるかに優れた、あるいははるかに悪いパフォーマンスの外れ値を見つけることは驚くほど容易である、ということである。
- 参考スコア(独自算出の注目度): 24.585097527425326
- License: http://creativecommons.org/licenses/by-sa/4.0/
- Abstract: In this paper I investigate the effect of random seed selection on the
accuracy when using popular deep learning architectures for computer vision. I
scan a large amount of seeds (up to $10^4$) on CIFAR 10 and I also scan fewer
seeds on Imagenet using pre-trained models to investigate large scale datasets.
The conclusions are that even if the variance is not very large, it is
surprisingly easy to find an outlier that performs much better or much worse
than the average.
- Abstract(参考訳): 本稿では,一般的なディープラーニングアーキテクチャを用いたコンピュータビジョンにおけるランダムシード選択が精度に及ぼす影響について検討する。
私はCIFAR 10上で大量の種子(最大10ドル^4ドル)をスキャンし、また、トレーニング済みのモデルを使用してImagenet上の種子をスキャンして、大規模なデータセットを調査します。
結論は、分散がそれほど大きくなくても、平均よりもずっと良い、あるいははるかに悪い結果をもたらす外れ値を見つけるのは驚くほど容易であるということである。
関連論文リスト
- Raising the Bar of AI-generated Image Detection with CLIP [50.345365081177555]
本研究の目的は、AI生成画像の普遍的検出のための事前学習された視覚言語モデル(VLM)の可能性を探ることである。
我々は,CLIP機能に基づく軽量な検出戦略を開発し,その性能を様々な難易度シナリオで検証する。
論文 参考訳(メタデータ) (2023-11-30T21:11:20Z) - Learning to Transform for Generalizable Instance-wise Invariance [48.647925994707855]
どのような画像であっても、正規化フローを使用して変換上の分布を予測し、それらの上の予測を平均化する。
この正規化フローはエンドツーエンドでトレーニングされており、AugerinoやInstaAugよりもはるかに広い範囲の変換を学ぶことができる。
CIFAR10, CIFAR10-LT, TinyImageNetの精度とロバスト性向上を示す。
論文 参考訳(メタデータ) (2023-09-28T17:59:58Z) - Large-scale Dataset Pruning with Dynamic Uncertainty [28.60845105174658]
画像分類などの多くの学習タスクの最先端技術は、より大きなデータセットを収集して、より大きなモデルをトレーニングすることによって進歩している。
本稿では,大規模データセットの創出方法について検討し,非無視的な性能低下を伴う高度な深層モデルのトレーニングを行うための情報サブセットを作成する。
論文 参考訳(メタデータ) (2023-06-08T13:14:35Z) - Kubric: A scalable dataset generator [73.78485189435729]
KubricはPythonフレームワークで、PyBulletやBlenderとインターフェースして写真リアリスティックなシーンを生成する。
本研究では,3次元NeRFモデルの研究から光フロー推定まで,13種類の異なるデータセットを提示することで,Kubricの有効性を実証する。
論文 参考訳(メタデータ) (2022-03-07T18:13:59Z) - Weed Recognition using Deep Learning Techniques on Class-imbalanced
Imagery [4.96981595868944]
我々は,最先端の5つのディープニューラルネットワークを調査し,雑草認識の性能評価を行った。
VGG16は小規模データセットで他より優れ、ResNet-50は大規模データセットで他のディープネットワークよりも優れていた。
論文 参考訳(メタデータ) (2021-12-15T01:00:05Z) - A Comprehensive Study on Torchvision Pre-trained Models for Fine-grained
Inter-species Classification [12.917749344429524]
本研究の目的は,PyTorchライブラリで利用可能なTorchvisionパッケージで提供される,さまざまな事前学習モデルを検討することである。
猿10種, 鳥225種, 果実360種, オックスフォード102花の4つの異なるデータセット上で, 事前学習したTorchvisionモデルについて検討した。
また、SpinalNetの有効性を検討するために、通常の完全接続層とSpinal完全接続層を適用した。
論文 参考訳(メタデータ) (2021-10-14T00:36:02Z) - Learning to See by Looking at Noise [87.12788334473295]
簡単なランダムなプロセスから画像を生成する一連の画像生成モデルについて検討する。
これらは、対照的な損失を伴う視覚表現学習者のトレーニングデータとして使用される。
以上の結果から,実データの構造的特性を捉えることはノイズにとって重要であるが,現実的ではないプロセスでも良好な性能が達成できることが示唆された。
論文 参考訳(メタデータ) (2021-06-10T17:56:46Z) - Cherry-Picking Gradients: Learning Low-Rank Embeddings of Visual Data
via Differentiable Cross-Approximation [53.95297550117153]
本稿では,大規模な視覚データテンソルの処理を行うエンドツーエンドのトレーニング可能なフレームワークを提案する。
提案手法は大規模多次元グリッドデータや,大規模受容領域上のコンテキストを必要とするタスクに特に有用である。
論文 参考訳(メタデータ) (2021-05-29T08:39:57Z) - Seed Phenotyping on Neural Networks using Domain Randomization and
Transfer Learning [0.0]
種子表現型は、種子の形態的特性を分析して、その挙動を発達、耐性、収量の観点から予測する考え方である。
研究の焦点は、最先端のオブジェクト検出およびローカリゼーションネットワークの適用および実現可能性分析である。
論文 参考訳(メタデータ) (2020-12-24T14:04:28Z) - What Does CNN Shift Invariance Look Like? A Visualization Study [87.79405274610681]
畳み込みニューラルネットワーク(CNN)による特徴抽出は、機械学習タスクの画像を表現する一般的な方法である。
我々は,一般的な市販CNNモデルから抽出した特徴量の変動を計測し,可視化することに注力する。
人気ネットワークから抽出された特徴はグローバルに不変ではなく,この分散の中にバイアスやアーティファクトが存在すると結論付けている。
論文 参考訳(メタデータ) (2020-11-09T01:16:30Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。