論文の概要: HouYi: An open-source large language model specially designed for
renewable energy and carbon neutrality field
- arxiv url: http://arxiv.org/abs/2308.01414v1
- Date: Mon, 31 Jul 2023 06:59:36 GMT
- ステータス: 処理完了
- システム内更新日: 2023-08-04 15:55:25.086557
- Title: HouYi: An open-source large language model specially designed for
renewable energy and carbon neutrality field
- Title(参考訳): HouYi:再生可能エネルギーと炭素中立性分野に特化したオープンソースの大規模言語モデル
- Authors: Mingliang Bai, Zhihao Zhou, Ruidong Wang, Yusheng Yang, Zizhen Qin,
Yunxiao Chen, Chunjin Mu, Jinfu Liu, Daren Yu
- Abstract要約: 本稿では,再生可能エネルギーの非商業的LLM研究のための,初のオープンソースのRenewable Energy Academic Paper(REAP)データセットを公表した。
REAPデータセットに基づいて,再生可能エネルギーのための最初のLLMであるHouYiモデルを開発した。
実験の結果、再生可能エネルギーに関する学術論文を作成する能力はChatGPTに匹敵し、Claude、ERNIE Bot、SparkDeskをわずかに上回り、オープンソースのLLaMA-13Bモデルを大きく上回ります。
- 参考スコア(独自算出の注目度): 2.7985804151189897
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Renewable energy is important for achieving carbon neutrality goal. With the
great success of Large Language Models (LLMs) like ChatGPT in automatic content
generation, LLMs are playing an increasingly important role. However, there has
not been a specially designed LLM for renewable energy. Meanwhile, there has
not been any dataset of renewable energy for training LLMs. Therefore, this
paper published the first open-source Renewable Energy Academic Paper (REAP)
dataset for non-commercial LLM research of renewable energy. REAP dataset is
collected through searching the title and abstract of 1,168,970 academic
literatures from Web of Science. Based on REAP dataset, HouYi model, the first
LLM for renewable energy, is developed through finetuning general LLMs. HouYi
demonstrated powerful academic paper paragraph generation ability in renewable
energy field. Experiments show that its ability to generate academic papers on
renewable energy is comparable to ChatGPT, slightly outperforms Claude, ERNIE
Bot and SparkDesk, and significantly outperforms open-source LLaMA-13B model.
- Abstract(参考訳): 再生可能エネルギーは炭素中立性を達成するために重要である。
自動コンテンツ生成におけるChatGPTのような大規模言語モデル(LLM)の成功により、LLMはますます重要な役割を担っている。
しかし、再生可能エネルギー用に特別に設計されたLLMは存在しない。
一方、LLMを訓練するための再生可能エネルギーのデータセットは存在しない。
そこで本稿は,再生可能エネルギーの非商業的LLM研究のための,オープンソースのRenewable Energy Academic Paper(REAP)データセットを公開した。
REAPデータセットは、Web of Scienceから1,168,970の学術文献のタイトルと要約を検索することで収集される。
REAPデータセットに基づいて,再生可能エネルギーのための最初のLLMであるHouYiモデルを開発した。
再生可能エネルギー分野における強力な学術論文段落生成能力を示した。
実験の結果、再生可能エネルギーに関する学術論文を作成する能力はChatGPTに匹敵し、Claude、ERNIE Bot、SparkDeskをわずかに上回り、オープンソースのLLaMA-13Bモデルを大きく上回ります。
関連論文リスト
- Comprehensive Forecasting-Based Analysis of Hybrid and Stacked Stateful/ Stateless Models [0.0]
風速は再生可能エネルギーの強力な供給源であり、電力生産のための再生不可能な資源の代替として利用することができる。
本稿では,4つのディープリカレントニューラルネットワークについて論じる。スタックドステートレスLSTM,スタックドステートレスGRU,スタックドステートフルLSTM,スタックドステートフルGRU。
本論文は,それらのアーキテクチャを記述したモデルの性能を包括的に分析し,RMSE値の助けを借りて効率よく結果を導き出す。
論文 参考訳(メタデータ) (2024-04-30T07:18:10Z) - Mapping the Increasing Use of LLMs in Scientific Papers [99.67983375899719]
2020年1月から2024年2月にかけて、arXiv、bioRxiv、Natureのポートフォリオジャーナルで950,965の論文をまとめて、体系的で大規模な分析を行った。
計算機科学の論文では, LLMの使用が着実に増加し, 最大, 最速の成長が観察された。
論文 参考訳(メタデータ) (2024-04-01T17:45:15Z) - Supporting Energy Policy Research with Large Language Models [0.0]
国家再生可能エネルギー研究所(NREL)は最近、このニーズを満たすために、公共の風と太陽座データベースを導入した。
本稿では,Large Language Models (LLMs) を用いて,法的文書からこれらのシッティング規則を抽出する手法を提案する。
論文 参考訳(メタデータ) (2024-03-19T17:28:51Z) - Boosting Large Language Model for Speech Synthesis: An Empirical Study [86.89548753080432]
大規模言語モデル(LLM)は自然言語処理において大きな進歩を遂げており、言語能力は音声や視覚など他のモダリティにも拡張されている。
我々は,事前学習したLLM LLaMA/OPTと音声合成モデルVALL-Eを組み合わせることで,LLMの強化と音声生成能力の総合的な実証調査を行う。
テキストエンコーダとしてLLMとVALL-Eを組み合わせることで,LLMとVALL-Eの3つの統合手法を比較した。
論文 参考訳(メタデータ) (2023-12-30T14:20:04Z) - Opportunities and Challenges of Applying Large Language Models in
Building Energy Efficiency and Decarbonization Studies: An Exploratory
Overview [3.580636644178055]
本稿では,エネルギー効率と脱炭研究におけるLarge Language Models(LLMs)の適用,意義,可能性について検討する。
LLMの有望な可能性にもかかわらず、複雑で高価な計算、データのプライバシ、セキュリティと著作権、微調整されたLLMの複雑さ、自己整合性といった課題について議論する。
論文 参考訳(メタデータ) (2023-12-18T20:58:58Z) - Efficient Large Language Models: A Survey [46.61952262803192]
大規模言語モデル(LLM)は、自然言語理解、言語生成、複雑な推論といった重要なタスクにおいて顕著な能力を示している。
これらの能力には、彼らが要求する膨大なリソースが伴い、効率の課題に対処する効果的なテクニックを開発することの強いニーズが浮かび上がっています。
文献を3つの主要なカテゴリからなる分類学で整理し、異なるが相互に相互に繋がる効率的なLLMのトピックを網羅する。
論文 参考訳(メタデータ) (2023-12-06T19:18:42Z) - A Federated learning model for Electric Energy management using
Blockchain Technology [0.0]
エネルギー不足と電力負荷の削減が発展途上国の主な問題である。
エネルギー管理の改善と再生可能エネルギーの利用は、エネルギー危機の解決に重要である。
化石燃料の高価格によるエネルギー需要の増大に対応するため, 再生可能エネルギー源の利用を増加させる必要がある。
論文 参考訳(メタデータ) (2023-07-18T09:00:26Z) - Counting Carbon: A Survey of Factors Influencing the Emissions of
Machine Learning [77.62876532784759]
機械学習(ML)は、モデルトレーニングプロセス中に計算を実行するためにエネルギーを使用する必要がある。
このエネルギーの生成には、使用量やエネルギー源によって、温室効果ガスの排出という観点からの環境コストが伴う。
本稿では,自然言語処理とコンピュータビジョンにおいて,95のMLモデルの炭素排出量の時間的および異なるタスクに関する調査を行う。
論文 参考訳(メタデータ) (2023-02-16T18:35:00Z) - Machine Learning for a Sustainable Energy Future [8.421378169245827]
機械学習によるエネルギー研究の最近の進歩を概観する。
我々は,エネルギー収穫の発展にMLを適用した最新の技術について論じ,評価を行った。
我々は、MLの適用によるさらなる利益を目論むエネルギー分野の潜在的研究分野の展望を提供する。
論文 参考訳(メタデータ) (2022-10-19T08:59:53Z) - Low Emission Building Control with Zero-Shot Reinforcement Learning [70.70479436076238]
強化学習(RL)による制御は、建築エネルギー効率を著しく向上させることが示されている。
我々は、ゼロショットビルディング制御と呼ばれるパラダイムを優先せずに、排出削減ポリシーを得られることを示す。
論文 参考訳(メタデータ) (2022-08-12T17:13:25Z) - Learning Latent Space Energy-Based Prior Model [118.86447805707094]
我々はジェネレータモデルの潜在空間でエネルギーベースモデル(EBM)を学習する。
学習したモデルが画像やテキストの生成や異常検出の点で強い性能を示すことを示す。
論文 参考訳(メタデータ) (2020-06-15T08:11:58Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。