論文の概要: ESGBERT: Language Model to Help with Classification Tasks Related to Companies Environmental, Social, and Governance Practices

• arxiv url: http://arxiv.org/abs/2203.16788v1
• Date: Thu, 31 Mar 2022 04:22:44 GMT
• ステータス: 処理完了
• システム内更新日: 2022-04-02 05:26:08.651918
• Title: ESGBERT: Language Model to Help with Classification Tasks Related to Companies Environmental, Social, and Governance Practices
• Title（参考訳）: esgbert: 企業環境、社会的、ガバナンスのプラクティスに関連する分類タスクを支援する言語モデル
• Authors: Srishti Mehra, Robert Louka, Yixun Zhang
• Abstract要約: 環境、社会、ガバナンス(ESG)といった非金融要因が投資家から注目を集めている。 ESGテキストの分類タスクには高度なNLP技術が必要である。 本研究では,ESG 固有のテキストを用いて事前学習した BERT の重み付けを微調整し,さらに分類タスクのためのモデルを微調整することによってこれを行う。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Environmental, Social, and Governance (ESG) are non-financial factors that are garnering attention from investors as they increasingly look to apply these as part of their analysis to identify material risks and growth opportunities. Some of this attention is also driven by clients who, now more aware than ever, are demanding for their money to be managed and invested responsibly. As the interest in ESG grows, so does the need for investors to have access to consumable ESG information. Since most of it is in text form in reports, disclosures, press releases, and 10-Q filings, we see a need for sophisticated NLP techniques for classification tasks for ESG text. We hypothesize that an ESG domain-specific pre-trained model will help with such and study building of the same in this paper. We explored doing this by fine-tuning BERTs pre-trained weights using ESG specific text and then further fine-tuning the model for a classification task. We were able to achieve accuracy better than the original BERT and baseline models in environment-specific classification tasks.
• Abstract（参考訳）: 環境・社会・ガバナンス(ESG)は、物質的リスクや成長の機会を特定するための分析の一環として、投資家の関心を惹きつける非金融的要因である。 このような注目のいくつかは、今やこれまで以上に認識されているクライアントが、自身の資金の管理と投資を責任を持って要求していることも引き起こしている。 ESGへの関心が高まるにつれ、投資家はESG情報にアクセスできる必要がある。 レポートや開示,プレスリリース,10-Q の提出などにおいて,多くがテキスト形式であるため,ESG テキストの分類処理に高度な NLP 技術が必要であると考えられる。 本稿では、ESGドメイン固有の事前学習モデルが、そのようなモデルの構築と研究に役立つと仮定する。 本研究では,ESG 仕様テキストを用いて事前訓練した BERT の重み付けを微調整し,さらに分類タスクのためのモデルを微調整することによって,これを行う方法を検討した。 環境特化タスクにおいて,元のBERTやベースラインモデルよりも精度が向上した。

関連論文リスト

• Evaluating the performance of state-of-the-art esg domain-specific pre-trained large language models in text classification against existing models and traditional machine learning techniques [0.0]
  本研究では,テキスト開示における環境・社会・ガバナンス情報(ESG)の分類について検討する。 本研究の目的は,E,S,G関連コンテンツをそれぞれ正確に識別・分類できるバイナリ分類モデルを開発し,評価することである。 この研究の動機は、投資決定におけるESGの考慮と企業説明責任の増大に起因している。
  論文  参考訳（メタデータ） (2024-09-30T20:08:32Z)
• Measuring Sustainability Intention of ESG Fund Disclosure using Few-Shot Learning [1.1957520154275776]
  本稿では,持続可能な宇宙におけるファンド予測を分類し,評価するためのユニークな方法とシステムを提案する。 我々は、特定の、曖昧で、持続可能な投資関連言語を特定するために、数発の学習者を採用しています。 本研究では,商品のランク付けとサステナビリティ・クレームの定量化のために,言語スコアと評価を判定する比率尺度を構築した。
  論文  参考訳（メタデータ） (2024-07-09T14:25:23Z)
• ESG-FTSE: A corpus of news articles with ESG relevance labels and use cases [1.3937696730884712]
  環境・社会・ガバナンス(ESG)関連アノテーションによるニュース記事からなる最初のコーパスであるESG-FTSEについて述べる。 これにより、投資の資格を社会的責任として評価するESGスコアが上昇した。 量的手法はESGのスコアを改善するために適用することができ、そのため、責任ある投資を行うことができる。
  論文  参考訳（メタデータ） (2024-05-30T16:19:02Z)
• Exploiting Contextual Target Attributes for Target Sentiment Classification [53.30511968323911]
  TSCの既存のPTLMベースモデルは、1)PTLMをコンテキストエンコーダとして採用した微調整ベースモデル、2)テキスト/単語生成タスクに分類タスクを転送するプロンプトベースモデル、の2つのグループに分類される。 我々は,PTLM を TSC に活用する新たな視点として,言語モデリングと文脈的ターゲット属性による明示的ターゲットコンテキスト相互作用の利点を同時に活用する。
  論文  参考訳（メタデータ） (2023-12-21T11:45:28Z)
• Towards Verifiable Generation: A Benchmark for Knowledge-aware Language Model Attribution [48.86322922826514]
  本稿では,知識認識型言語モデル属性(KaLMA)の新たな課題について述べる。 まず、属性のソースを構造化されていないテキストから知識グラフ(KG)に拡張し、そのリッチな構造は属性のパフォーマンスと作業シナリオの両方に役立ちます。 第2に,不完全な知識リポジトリを考慮した「意識的非能力」の設定を提案する。 第3に,テキスト品質,引用品質,引用アライメントを含む総合的な自動評価指標を提案する。
  論文  参考訳（メタデータ） (2023-10-09T11:45:59Z)
• Leveraging BERT Language Models for Multi-Lingual ESG Issue Identification [0.30254881201174333]
  投資家は投資選択におけるESG基準の重要性をますます認識している。 ML-ESG(Multi-Lingual ESG Issue Identification)タスクは、ニュース文書を35の異なるESGイシューラベルに分類する。 本研究では,BERT言語モデルを用いた複数の手法を探索し,これらのラベル間のニュース文書の正確な分類を実現する。
  論文  参考訳（メタデータ） (2023-09-05T12:48:21Z)
• GPT-NER: Named Entity Recognition via Large Language Models [58.609582116612934]
  GPT-NERはシーケンスラベリングタスクを言語モデルで容易に適用可能な生成タスクに変換する。 GPT-NERは、トレーニングデータの量が極めて少ない場合、低リソースかつ少数ショットのセットアップにおいて、より優れた能力を示す。 これは、ラベル付きサンプルの数が限られている実世界のNERアプリケーションにおけるGPT-NERの機能を示す。
  論文  参考訳（メタデータ） (2023-04-20T16:17:26Z)
• Predicting Companies' ESG Ratings from News Articles Using Multivariate Timeseries Analysis [17.332692582748408]
  我々は,多変量時系列構築と深層学習技術を組み合わせて,ニュース記事からESG評価を予測するモデルを構築した。 約3000の米国企業のニュースデータセットとそのレーティングも作成され、トレーニング用にリリースされている。 提案手法は,手動によるESG評価の判定や分析を支援するために,最先端技術よりも正確な結果を提供する。
  論文  参考訳（メタデータ） (2022-11-13T11:23:02Z)
• Guiding Generative Language Models for Data Augmentation in Few-Shot Text Classification [59.698811329287174]
  我々は、GPT-2を用いて、分類性能を向上させるために、人工訓練インスタンスを生成する。 実験の結果,少数のラベルインスタンスでGPT-2を微調整すると,一貫した分類精度が向上することがわかった。
  論文  参考訳（メタデータ） (2021-11-17T12:10:03Z)
• DAGA: Data Augmentation with a Generation Approach for Low-resource Tagging Tasks [88.62288327934499]
  線形化ラベル付き文に基づいて訓練された言語モデルを用いた新しい拡張手法を提案する。 本手法は, 教師付き設定と半教師付き設定の両方に適用可能である。
  論文  参考訳（メタデータ） (2020-11-03T07:49:15Z)
• Common Sense or World Knowledge? Investigating Adapter-Based Knowledge Injection into Pretrained Transformers [54.417299589288184]
  本研究では,概念ネットとそれに対応するオープンマインド・コモンセンス(OMCS)コーパスから,BERTの分布知識と概念知識を補完するモデルについて検討する。 我々のアダプタベースのモデルは,ConceptNet や OMCS に明示的に存在する概念的知識のタイプを必要とする推論タスクにおいて,BERT を大幅に上回っている。
  論文  参考訳（メタデータ） (2020-05-24T15:49:57Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。