論文の概要: Highlighting the Importance of Reducing Research Bias and Carbon
Emissions in CNNs
- arxiv url: http://arxiv.org/abs/2106.03242v1
- Date: Sun, 6 Jun 2021 20:42:00 GMT
- ステータス: 処理完了
- システム内更新日: 2021-06-13 08:00:23.364399
- Title: Highlighting the Importance of Reducing Research Bias and Carbon
Emissions in CNNs
- Title(参考訳): CNNにおける研究バイアスと二酸化炭素排出量削減の重要性
- Authors: Ahmed Badar, Arnav Varma, Adrian Staniec, Mahmoud Gamal, Omar Magdy,
Haris Iqbal, Elahe Arani and Bahram Zonooz
- Abstract要約: 畳み込みニューラルネットワーク(CNN)は、コンピュータビジョンにおける大きな課題に対処する上で、一般的な場所となっている。
特定の重要な変数を無視しながら、パフォーマンス改善を過度に強調する傾向があります。
建築設計と評価においてこれらの変数を見渡すことは、研究バイアスと環境影響を著しく否定する結果となった。
- 参考スコア(独自算出の注目度): 1.2752808844888015
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Convolutional neural networks (CNNs) have become commonplace in addressing
major challenges in computer vision. Researchers are not only coming up with
new CNN architectures but are also researching different techniques to improve
the performance of existing architectures. However, there is a tendency to
over-emphasize performance improvement while neglecting certain important
variables such as simplicity, versatility, the fairness of comparisons, and
energy efficiency. Overlooking these variables in architectural design and
evaluation has led to research bias and a significantly negative environmental
impact. Furthermore, this can undermine the positive impact of research in
using deep learning models to tackle climate change. Here, we perform an
extensive and fair empirical study of a number of proposed techniques to gauge
the utility of each technique for segmentation and classification. Our findings
restate the importance of favoring simplicity over complexity in model design
(Occam's Razor). Furthermore, our results indicate that simple standardized
practices can lead to a significant reduction in environmental impact with
little drop in performance. We highlight that there is a need to rethink the
design and evaluation of CNNs to alleviate the issue of research bias and
carbon emissions.
- Abstract(参考訳): 畳み込みニューラルネットワーク(cnns)は,コンピュータビジョンにおける大きな課題に対処する上で,一般的である。
研究者は新しいcnnアーキテクチャを考案するだけでなく、既存のアーキテクチャのパフォーマンスを改善するためのさまざまな技術も研究している。
しかし、単純さ、汎用性、比較の公正性、エネルギー効率といった重要な変数を無視しながら、性能改善を過度に強調する傾向がある。
建築設計と評価においてこれらの変数を見渡すことは、研究バイアスと環境影響を著しく否定する結果となった。
さらに、これは、ディープラーニングモデルを使用して気候変動に取り組む研究のポジティブな影響を弱める可能性がある。
本稿では,各手法のセグメンテーションと分類における有用性を評価するため,提案手法の多岐にわたる公平な実証研究を行う。
私たちの発見は、モデル設計(occamのrazor)の複雑さよりも単純さを優先することの重要性を裏付けています。
さらに, 簡易な標準化により, 環境への影響が著しく減少し, 性能が低下することが示唆された。
我々は、研究バイアスや二酸化炭素排出量の問題を緩和するために、CNNの設計と評価を再考する必要があることを強調する。
関連論文リスト
- Visual Prompting Upgrades Neural Network Sparsification: A Data-Model Perspective [64.04617968947697]
より優れた重量空間を実現するために、新しいデータモデル共設計視点を導入する。
具体的には、提案したVPNフレームワークでニューラルネットワークのスパーシフィケーションをアップグレードするために、カスタマイズされたVisual Promptが実装されている。
論文 参考訳(メタデータ) (2023-12-03T13:50:24Z) - Deep Learning-based Analysis of Basins of Attraction [49.812879456944984]
本研究は,様々な力学系における盆地の複雑さと予測不可能性を特徴づけることの課題に対処する。
主な焦点は、この分野における畳み込みニューラルネットワーク(CNN)の効率性を示すことである。
論文 参考訳(メタデータ) (2023-09-27T15:41:12Z) - Computation-efficient Deep Learning for Computer Vision: A Survey [121.84121397440337]
ディープラーニングモデルは、さまざまな視覚的知覚タスクにおいて、人間レベルのパフォーマンスに到達または超えた。
ディープラーニングモデルは通常、重要な計算資源を必要とし、現実のシナリオでは非現実的な電力消費、遅延、または二酸化炭素排出量につながる。
新しい研究の焦点は計算効率のよいディープラーニングであり、推論時の計算コストを最小限に抑えつつ、良好な性能を達成することを目指している。
論文 参考訳(メタデータ) (2023-08-27T03:55:28Z) - A Comparative Study of Machine Learning Algorithms for Anomaly Detection
in Industrial Environments: Performance and Environmental Impact [62.997667081978825]
本研究は,環境の持続可能性を考慮した高性能機械学習モデルの要求に応えることを目的としている。
Decision TreesやRandom Forestsといった従来の機械学習アルゴリズムは、堅牢な効率性とパフォーマンスを示している。
しかし, 資源消費の累積増加にもかかわらず, 最適化された構成で優れた結果が得られた。
論文 参考訳(メタデータ) (2023-07-01T15:18:00Z) - Uncovering Energy-Efficient Practices in Deep Learning Training:
Preliminary Steps Towards Green AI [8.025202812165412]
我々は、エネルギー消費を精度に等しい重要性の指標とみなし、無関係なタスクやエネルギー使用量を減らす。
持続可能性の観点から深層学習パイプラインの訓練段階について検討する。
ディープラーニングモデルをトレーニングするための革新的で有望なエネルギー効率のプラクティスを強調します。
論文 参考訳(メタデータ) (2023-03-24T12:48:21Z) - Energy Efficiency of Training Neural Network Architectures: An Empirical
Study [11.325530936177493]
ディープラーニングモデルの評価は、伝統的に精度、F1スコア、関連する指標などの基準に焦点を当ててきた。
このようなモデルを訓練するために必要な計算は、大きな炭素フットプリントを必要とする。
本研究では, DLモデルアーキテクチャと環境影響との関係を, エネルギー消費の観点から検討した。
論文 参考訳(メタデータ) (2023-02-02T09:20:54Z) - The Preliminary Results on Analysis of TAIGA-IACT Images Using
Convolutional Neural Networks [68.8204255655161]
本研究の目的は,AIGA-IACTに設定された課題を解決するための機械学習アプリケーションの可能性を検討することである。
The method of Convolutional Neural Networks (CNN) was applied to process and analysis Monte-Carlo eventssimulated with CORSIKA。
論文 参考訳(メタデータ) (2021-12-19T15:17:20Z) - A Survey on Green Deep Learning [25.71572024291251]
本稿では,グリーンディープラーニング技術の発展を体系的にレビューすることに焦点を当てる。
提案手法は,(1)コンパクトネットワーク,(2)エネルギー効率のトレーニング戦略,(3)エネルギー効率の推論アプローチ,(4)データ利用率の4つのカテゴリに分類される。
論文 参考訳(メタデータ) (2021-11-08T16:55:03Z) - Full-Cycle Energy Consumption Benchmark for Low-Carbon Computer Vision [31.781943982148025]
我々は,効率的なコンピュータビジョンモデルのための最初の大規模エネルギー消費ベンチマークを示す。
モデル利用強度の異なる全サイクルエネルギー消費を明示的に評価するための新しい指標を提案する。
論文 参考訳(メタデータ) (2021-08-30T18:22:36Z) - Knowledge distillation: A good teacher is patient and consistent [71.14922743774864]
最先端のパフォーマンスを実現する大規模モデルと、実用的な用途で手頃な価格のモデルとの間には、コンピュータビジョンの相違が増えている。
蒸留の有効性に大きな影響を及ぼす可能性のある,特定の暗黙的な設計選択を同定する。
ImageNetの最先端ResNet-50モデルが82.8%の精度で実現されている。
論文 参考訳(メタデータ) (2021-06-09T17:20:40Z) - Deep Learning for Climate Model Output Statistics [0.3360097031101955]
モデル出力統計(MOS)は、モデル出力を観測データと機械学習に適合させて誤差を低減する。
気候モデル出力の誤差を減らすために特別に設計されたcnnアーキテクチャconvmosを提案する。
その結果,誤りが大幅に減少し,一般的に使用されている3つのmosアプローチに比べて性能が向上した。
論文 参考訳(メタデータ) (2020-12-09T11:38:37Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。