論文の概要: A Multi-Objective Approach for Sustainable Generative Audio Models
- arxiv url: http://arxiv.org/abs/2107.02621v1
- Date: Tue, 6 Jul 2021 13:52:27 GMT
- ステータス: 処理完了
- システム内更新日: 2021-07-07 13:30:10.657113
- Title: A Multi-Objective Approach for Sustainable Generative Audio Models
- Title(参考訳): 持続可能生成音響モデルに対する多目的アプローチ
- Authors: Constance Douwes, Philippe Esling and Jean-Pierre Briot
- Abstract要約: 近年、ディープラーニングコミュニティは、深層生成モデルの正確性に重点を置いている。
品質に関するこの科学的競争は、膨大な計算コストがかかる。
計算消費の現在の指数的な増加が続くと、人工知能は悲しいことに地球温暖化にかなりの貢献をする。
- 参考スコア(独自算出の注目度): 1.933681537640272
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: In recent years, the deep learning community has largely focused on the
accuracy of deep generative models, resulting in impressive improvements in
several research fields. However, this scientific race for quality comes at a
tremendous computational cost, which incurs vast energy consumption and
greenhouse gas emissions. If the current exponential growth of computational
consumption persists, Artificial Intelligence (AI) will sadly become a
considerable contributor to global warming.
At the heart of this problem are the measures that we use as a scientific
community to evaluate our work. Currently, researchers in the field of AI judge
scientific works mostly based on the improvement in accuracy, log-likelihood,
reconstruction or opinion scores, all of which entirely obliterates the actual
computational cost of generative models.
In this paper, we introduce the idea of relying on a multi-objective measure
based on Pareto optimality, which simultaneously integrates the models
accuracy, as well as the environmental impact of their training. By applying
this measure on the current state-of-the-art in generative audio models, we
show that this measure drastically changes the perceived significance of the
results in the field, encouraging optimal training techniques and resource
allocation. We hope that this type of measure will be widely adopted, in order
to help the community to better evaluate the significance of their work, while
bringing computational cost -- and in fine carbon emissions -- in the spotlight
of AI research.
- Abstract(参考訳): 近年、ディープラーニングコミュニティは、深層生成モデルの精度に大きく焦点を合わせており、いくつかの研究分野において顕著に改善されている。
しかし、この科学的な品質競争は膨大な計算コストを伴い、膨大なエネルギー消費と温室効果ガス排出を引き起こす。
計算消費の現在の指数的な増加が続くと、人工知能(AI)は悲しいことに地球温暖化にかなりの貢献をする。
この問題の核心にあるのが,私たちの仕事を評価するための科学的コミュニティとして使用する手段です。
現在、AI判断科学の分野の研究者は、主に精度、ログライク、再構築、意見スコアの改善に基づいており、これらすべてが生成モデルの実際の計算コストを完全に消している。
本稿では,Paretoの最適度に基づく多目的尺度に頼りながら,モデル精度とトレーニングの環境影響を同時に統合する手法を提案する。
生成音響モデルにおける現状にこの尺度を適用することで、この分野における結果の認知的意義を劇的に変化させ、最適なトレーニング手法と資源配分を奨励することを示す。
この種の措置が広く採用され、コミュニティが彼らの仕事の重要性をよりよく評価できるようにし、AI研究の焦点に計算コスト、そして二酸化炭素排出量をもたらすことを期待しています。
関連論文リスト
- Transforming Science with Large Language Models: A Survey on AI-assisted Scientific Discovery, Experimentation, Content Generation, and Evaluation [58.064940977804596]
多くの新しいAIモデルとツールが提案され、世界中の研究者や学者が研究をより効果的かつ効率的に実施できるようにすることを約束している。
これらのツールの欠点と誤用の可能性に関する倫理的懸念は、議論の中で特に顕著な位置を占める。
論文 参考訳(メタデータ) (2025-02-07T18:26:45Z) - Hype, Sustainability, and the Price of the Bigger-is-Better Paradigm in AI [67.58673784790375]
AIパラダイムは、科学的に脆弱なだけでなく、望ましくない結果をもたらすものだ、と私たちは主張する。
第一に、計算要求がモデルの性能よりも早く増加し、不合理な経済要求と不均等な環境フットプリントにつながるため、持続可能ではない。
第二に、健康、教育、気候などの重要な応用は別として、他人を犠牲にして特定の問題に焦点をあてることである。
論文 参考訳(メタデータ) (2024-09-21T14:43:54Z) - Reporting and Analysing the Environmental Impact of Language Models on the Example of Commonsense Question Answering with External Knowledge [7.419725234099729]
チャットGPTは大規模言語モデル(LLM)に社会的な関心を喚起した
LLMは相当な計算資源を必要としており、財政的にも環境的にも訓練に非常に費用がかかる。
本研究では,外部知識でT5 LLMを注入し,質問応答タスクのモデルを微調整した。
論文 参考訳(メタデータ) (2024-07-24T16:16:16Z) - On the Opportunities of Green Computing: A Survey [80.21955522431168]
人工知能(AI)は数十年にわたり、技術と研究において大きな進歩を遂げてきた。
高いコンピューティングパワーの必要性は、より高い二酸化炭素排出量をもたらし、研究の公正性を損なう。
コンピューティングリソースの課題とAIの環境への影響に取り組むため、グリーンコンピューティングはホットな研究トピックとなっている。
論文 参考訳(メタデータ) (2023-11-01T11:16:41Z) - A Comparative Study of Machine Learning Algorithms for Anomaly Detection
in Industrial Environments: Performance and Environmental Impact [62.997667081978825]
本研究は,環境の持続可能性を考慮した高性能機械学習モデルの要求に応えることを目的としている。
Decision TreesやRandom Forestsといった従来の機械学習アルゴリズムは、堅牢な効率性とパフォーマンスを示している。
しかし, 資源消費の累積増加にもかかわらず, 最適化された構成で優れた結果が得られた。
論文 参考訳(メタデータ) (2023-07-01T15:18:00Z) - A Green(er) World for A.I [9.330274375369802]
本稿では、より持続可能でエネルギー効率が高く、エネルギーに配慮したエコシステムであるGreen A.I.の展望を概説する。
本稿では,様々な領域の鳥の視線を,潜在的な変化と改善のために提示する。
これらの点が、これらの問題とその潜在的な解決策について、さらなる議論と行動を引き起こすことを期待しています。
論文 参考訳(メタデータ) (2023-01-27T08:01:38Z) - Eco2AI: carbon emissions tracking of machine learning models as the
first step towards sustainable AI [47.130004596434816]
eco2AIでは、エネルギー消費の追跡と地域CO2排出量の正当性に重点を置いている。
モチベーションは、サステナブルAIとグリーンAI経路の両方で、AIベースの温室効果ガスの隔離サイクルの概念からもたらされる。
論文 参考訳(メタデータ) (2022-07-31T09:34:53Z) - From Convolutions towards Spikes: The Environmental Metric that the
Community currently Misses [3.498371632913735]
現在使われているANNは自然界で見られるものではなく、なぜパフォーマンスが低いにもかかわらず、スパイクニューラルネットワークが大きな関心を集めているのかを示す。
我々は、スパイクベースの計算を用いてニューロモルフィックなエネルギー効率のマイクロチップを開発することを妨げるハードウェアギャップを強調した。
また、AIモデルの炭素フットプリントを報告するための新しい評価指標「ナチュア」も定義する。
論文 参考訳(メタデータ) (2021-11-16T11:04:42Z) - A Survey on Green Deep Learning [25.71572024291251]
本稿では,グリーンディープラーニング技術の発展を体系的にレビューすることに焦点を当てる。
提案手法は,(1)コンパクトネットワーク,(2)エネルギー効率のトレーニング戦略,(3)エネルギー効率の推論アプローチ,(4)データ利用率の4つのカテゴリに分類される。
論文 参考訳(メタデータ) (2021-11-08T16:55:03Z) - Compute and Energy Consumption Trends in Deep Learning Inference [67.32875669386488]
コンピュータビジョンと自然言語処理の分野における関連モデルについて検討する。
継続的な性能向上のために、これまで予想されていたよりもエネルギー消費の軟化が見られた。
論文 参考訳(メタデータ) (2021-09-12T09:40:18Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。