論文の概要: HouYi: An open-source large language model specially designed for renewable energy and carbon neutrality field

• arxiv url: http://arxiv.org/abs/2308.01414v1
• Date: Mon, 31 Jul 2023 06:59:36 GMT
• ステータス: 処理完了
• システム内更新日: 2023-08-04 15:55:25.086557
• Title: HouYi: An open-source large language model specially designed for renewable energy and carbon neutrality field
• Title（参考訳）: HouYi:再生可能エネルギーと炭素中立性分野に特化したオープンソースの大規模言語モデル
• Authors: Mingliang Bai, Zhihao Zhou, Ruidong Wang, Yusheng Yang, Zizhen Qin, Yunxiao Chen, Chunjin Mu, Jinfu Liu, Daren Yu
• Abstract要約: 本稿では,再生可能エネルギーの非商業的LLM研究のための,初のオープンソースのRenewable Energy Academic Paper(REAP)データセットを公表した。 REAPデータセットに基づいて,再生可能エネルギーのための最初のLLMであるHouYiモデルを開発した。 実験の結果、再生可能エネルギーに関する学術論文を作成する能力はChatGPTに匹敵し、Claude、ERNIE Bot、SparkDeskをわずかに上回り、オープンソースのLLaMA-13Bモデルを大きく上回ります。
• 参考スコア（独自算出の注目度）: 2.7985804151189897
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: Renewable energy is important for achieving carbon neutrality goal. With the great success of Large Language Models (LLMs) like ChatGPT in automatic content generation, LLMs are playing an increasingly important role. However, there has not been a specially designed LLM for renewable energy. Meanwhile, there has not been any dataset of renewable energy for training LLMs. Therefore, this paper published the first open-source Renewable Energy Academic Paper (REAP) dataset for non-commercial LLM research of renewable energy. REAP dataset is collected through searching the title and abstract of 1,168,970 academic literatures from Web of Science. Based on REAP dataset, HouYi model, the first LLM for renewable energy, is developed through finetuning general LLMs. HouYi demonstrated powerful academic paper paragraph generation ability in renewable energy field. Experiments show that its ability to generate academic papers on renewable energy is comparable to ChatGPT, slightly outperforms Claude, ERNIE Bot and SparkDesk, and significantly outperforms open-source LLaMA-13B model.
• Abstract（参考訳）: 再生可能エネルギーは炭素中立性を達成するために重要である。 自動コンテンツ生成におけるChatGPTのような大規模言語モデル(LLM)の成功により、LLMはますます重要な役割を担っている。 しかし、再生可能エネルギー用に特別に設計されたLLMは存在しない。 一方、LLMを訓練するための再生可能エネルギーのデータセットは存在しない。 そこで本稿は,再生可能エネルギーの非商業的LLM研究のための,オープンソースのRenewable Energy Academic Paper(REAP)データセットを公開した。 REAPデータセットは、Web of Scienceから1,168,970の学術文献のタイトルと要約を検索することで収集される。 REAPデータセットに基づいて,再生可能エネルギーのための最初のLLMであるHouYiモデルを開発した。 再生可能エネルギー分野における強力な学術論文段落生成能力を示した。 実験の結果、再生可能エネルギーに関する学術論文を作成する能力はChatGPTに匹敵し、Claude、ERNIE Bot、SparkDeskをわずかに上回り、オープンソースのLLaMA-13Bモデルを大きく上回ります。

関連論文リスト

• From Selection to Generation: A Survey of LLM-based Active Learning [153.8110509961261]
  大きな言語モデル(LLM)は、全く新しいデータインスタンスを生成し、よりコスト効率の良いアノテーションを提供するために使われています。 本調査は,LSMに基づくAL手法の直感的な理解を目指して,研究者や実践者の最新のリソースとして機能することを目的としている。
  論文  参考訳（メタデータ） (2025-02-17T12:58:17Z)
• SPIRIT: Short-term Prediction of solar IRradIance for zero-shot Transfer learning using Foundation Models [7.6430384355362735]
  太陽放射予測に基礎モデルを活用する新しい手法を提案する。 提案手法は,ゼロショットトランスファー学習における最先端モデルを約70%向上させ,過去のデータに頼ることなく,新しい場所での効果的なパフォーマンスを実現する。
  論文  参考訳（メタデータ） (2025-02-14T17:10:17Z)
• Reflections from the 2024 Large Language Model (LLM) Hackathon for Applications in Materials Science and Chemistry [68.97388926441971]
  材料科学・化学分野における応用のための第二大言語モデル(LLM)ハッカソンの結果について述べる。 このイベントは、グローバルなハイブリッドな場所を巡って参加者が参加し、34チームが応募した。 提出は7つの主要なアプリケーション領域にまたがって行われ、アプリケーションのためのLLMの多種多様な実用性を実証した。
  論文  参考訳（メタデータ） (2024-11-20T23:08:01Z)
• Integrating Planning into Single-Turn Long-Form Text Generation [66.08871753377055]
  長文コンテンツを生成するための計画案を提案する。 私たちの主な新規性は、複数のプロンプトや計画のラウンドを必要としない単一の補助的なタスクにあります。 実験では,LLMを補助タスクで微調整し,高品質な文書を生成する,異なる領域からの2つのデータセットを実証した。
  論文  参考訳（メタデータ） (2024-10-08T17:02:40Z)
• MAP-Neo: Highly Capable and Transparent Bilingual Large Language Model Series [86.31735321970481]
  私たちはMAP-Neoをオープンソースにしました。これは、4.5Tの高品質トークン上で、スクラッチからトレーニングされた7Bパラメータを持つバイリンガル言語モデルです。 MAP-Neo は,既存の最先端 LLM と比較して性能が劣る初の完全オープンソースバイリンガル LLM である。
  論文  参考訳（メタデータ） (2024-05-29T17:57:16Z)
• Comprehensive Forecasting-Based Analysis of Hybrid and Stacked Stateful/ Stateless Models [0.0]
  風速は再生可能エネルギーの強力な供給源であり、電力生産のための再生不可能な資源の代替として利用することができる。 本稿では,4つのディープリカレントニューラルネットワークについて論じる。スタックドステートレスLSTM,スタックドステートレスGRU,スタックドステートフルLSTM,スタックドステートフルGRU。 本論文は,それらのアーキテクチャを記述したモデルの性能を包括的に分析し,RMSE値の助けを借りて効率よく結果を導き出す。
  論文  参考訳（メタデータ） (2024-04-30T07:18:10Z)
• Supporting Energy Policy Research with Large Language Models [0.0]
  国家再生可能エネルギー研究所(NREL)は最近、このニーズを満たすために、公共の風と太陽座データベースを導入した。 本稿では,Large Language Models (LLMs) を用いて,法的文書からこれらのシッティング規則を抽出する手法を提案する。
  論文  参考訳（メタデータ） (2024-03-19T17:28:51Z)
• Opportunities and Challenges of Applying Large Language Models in Building Energy Efficiency and Decarbonization Studies: An Exploratory Overview [3.580636644178055]
  本稿では,エネルギー効率と脱炭研究におけるLarge Language Models(LLMs)の適用,意義,可能性について検討する。 LLMの有望な可能性にもかかわらず、複雑で高価な計算、データのプライバシ、セキュリティと著作権、微調整されたLLMの複雑さ、自己整合性といった課題について議論する。
  論文  参考訳（メタデータ） (2023-12-18T20:58:58Z)
• Machine Learning for a Sustainable Energy Future [8.421378169245827]
  機械学習によるエネルギー研究の最近の進歩を概観する。 我々は,エネルギー収穫の発展にMLを適用した最新の技術について論じ,評価を行った。 我々は、MLの適用によるさらなる利益を目論むエネルギー分野の潜在的研究分野の展望を提供する。
  論文  参考訳（メタデータ） (2022-10-19T08:59:53Z)
• Low Emission Building Control with Zero-Shot Reinforcement Learning [70.70479436076238]
  強化学習(RL)による制御は、建築エネルギー効率を著しく向上させることが示されている。 我々は、ゼロショットビルディング制御と呼ばれるパラダイムを優先せずに、排出削減ポリシーを得られることを示す。
  論文  参考訳（メタデータ） (2022-08-12T17:13:25Z)
• Learning Latent Space Energy-Based Prior Model [118.86447805707094]
  我々はジェネレータモデルの潜在空間でエネルギーベースモデル(EBM)を学習する。 学習したモデルが画像やテキストの生成や異常検出の点で強い性能を示すことを示す。
  論文  参考訳（メタデータ） (2020-06-15T08:11:58Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。