論文の概要: Contrastive Pre-training for Imbalanced Corporate Credit Ratings
- arxiv url: http://arxiv.org/abs/2102.12580v1
- Date: Thu, 18 Feb 2021 08:14:46 GMT
- ステータス: 処理完了
- システム内更新日: 2021-04-05 00:44:37.309087
- Title: Contrastive Pre-training for Imbalanced Corporate Credit Ratings
- Title(参考訳): 不均衡企業信用格付けのコントラスト事前研修
- Authors: Bojing Feng, Wenfang Xue
- Abstract要約: 本稿では、自己監視を利用して、学級不均衡を克服するCP4 CCR(Contrastive Pre-training for Corporate Credit Rating)を提案する。
中国の上場企業評価データセットで実施された実験は、CP4 CCRが標準的な企業信用評価モデルのパフォーマンスを向上させることができることを証明しています。
- 参考スコア(独自算出の注目度): 1.90365714903665
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Corporate credit rating reflects the level of corporate credit and plays a
crucial role in modern financial risk control. But real-world credit rating
data usually shows long-tail distributions, which means heavy class imbalanced
problem challenging the corporate credit rating system greatly. To tackle that,
inspried by the recent advances of pre-train techniques in self-supervised
representation learning, we propose a novel framework named Contrastive
Pre-training for Corporate Credit Rating (CP4CCR), which utilizes the
self-surpervision for getting over class imbalance. Specifically, we propose
to, in the first phase, exert constrastive self-superivised pre-training
without label information, which want to learn a better class-agnostic
initialization. During this phase, two self-supervised task are developed
within CP4CCR: (i) Feature Masking (FM) and (ii) Feature Swapping(FS). In the
second phase, we can train any standard corporate redit rating model
initialized by the pre-trained network. Extensive experiments conducted on the
Chinese public-listed corporate rating dataset, prove that CP4CCR can improve
the performance of standard corporate credit rating models, especially for
class with few samples.
- Abstract(参考訳): 企業信用格付けは企業信用のレベルを反映し、現代金融リスク管理において重要な役割を果たす。
しかし、実世界の信用格付けデータは、通常、ロングテール分布を示す。
そこで本研究では, 自己管理型表現学習における事前学習技術の最近の進歩を活かし, 企業信用評価のためのコントラスト・プレトレーニング(cp4ccr)と呼ばれる新しい枠組みを提案する。
具体的には,第1フェーズにおいて,より優れたクラスに依存しない初期化を学習したいラベル情報なしで,自己補完型事前学習を行うことを提案する。
この段階では、cp4ccr内で2つの自己監督タスクが開発されている: (i) feature masking (fm) と (ii) feature swapping (fs) である。
第2フェーズでは、トレーニング済みネットワークによって初期化される標準的な企業リミット評価モデルをトレーニングすることができる。
中国の上場企業格付けデータセットで実施された大規模な実験は、CP4CCRが標準的な企業格付けモデルの性能を改善することができることを証明している。
関連論文リスト
- Benchmarking Zero-Shot Robustness of Multimodal Foundation Models: A Pilot Study [61.65123150513683]
CLIPのようなマルチモーダル基盤モデルは、最先端のゼロショット結果を生成する。
これらのモデルは、ImageNetでトレーニングされた教師付きモデルのパフォーマンスを一致させることで、ロバスト性ギャップを埋めることが報告されている。
CLIPは、ベンチマーク上の教師付きImageNetモデルと比較して、かなりの堅牢性低下をもたらすことを示す。
論文 参考訳(メタデータ) (2024-03-15T17:33:49Z) - The Effects of Data Imbalance Under a Federated Learning Approach for
Credit Risk Forecasting [0.0]
信用リスク予測は、商業銀行や他の金融機関が顧客に融資を許可する上で重要な役割を担っている。
従来の機械学習手法では、グローバルモデルを構築するには、機密性の高いクライアント情報を外部サーバと共有する必要がある。
フェデレートラーニング(FL)として知られる、新たに開発されたプライバシ保護分散機械学習技術により、プライベートローカルデータに直接アクセスする必要なく、グローバルモデルのトレーニングが可能になる。
論文 参考訳(メタデータ) (2024-01-14T09:15:10Z) - Empowering Many, Biasing a Few: Generalist Credit Scoring through Large
Language Models [53.620827459684094]
大規模言語モデル(LLM)は、複数のタスクにまたがる強力な一般化能力を持つ信用スコアリングタスクにおいて大きな可能性を秘めている。
クレジットスコアリングのための LLM を探索する,初のオープンソース包括的フレームワークを提案する。
そこで我々は,各種金融リスク評価タスクの煩雑な要求に合わせて,指導チューニングによる最初の信用・リスク評価大言語モデル(CALM)を提案する。
論文 参考訳(メタデータ) (2023-10-01T03:50:34Z) - Client-side Gradient Inversion Against Federated Learning from Poisoning [59.74484221875662]
フェデレートラーニング(FL)により、分散参加者は、データを中央サーバに直接共有することなく、グローバルモデルをトレーニングできる。
近年の研究では、FLは元のトレーニングサンプルの再構築を目的とした勾配反転攻撃(GIA)に弱いことが判明している。
本稿では,クライアント側から起動可能な新たな攻撃手法であるクライアント側中毒性グレーディエント・インバージョン(CGI)を提案する。
論文 参考訳(メタデータ) (2023-09-14T03:48:27Z) - Stabilizing and Improving Federated Learning with Non-IID Data and
Client Dropout [15.569507252445144]
ラベル分布スキューによるデータヘテロジェニーティは、フェデレート学習におけるモデル性能を制限する重要な障害であることが示されている。
クロスエントロピー損失を計算するための事前校正ソフトマックス関数を導入することで、シンプルで効果的なフレームワークを提案する。
非IIDデータとクライアントドロップアウトの存在下で、既存のベースラインよりも優れたモデル性能を示す。
論文 参考訳(メタデータ) (2023-03-11T05:17:59Z) - FedABC: Targeting Fair Competition in Personalized Federated Learning [76.9646903596757]
フェデレートラーニングは、クライアントのローカルプライベートデータにアクセスすることなく、モデルを協調的にトレーニングすることを目的としている。
我々はFedABCと呼ばれるバイナリ分類によるFederated Averagingと呼ばれる新規で汎用的なPFLフレームワークを提案する。
特に、各クライアントに1対1のトレーニング戦略を採用して、クラス間の不公平な競争を軽減する。
論文 参考訳(メタデータ) (2023-02-15T03:42:59Z) - Multi-task Envisioning Transformer-based Autoencoder for Corporate
Credit Rating Migration Early Prediction [18.374597213278626]
格付け変更を予測することは、投資家と規制当局の両方にとって大きな恩恵となるだろう。
本稿では,企業信用格付け移行の早期予測問題について考察する。
本稿では,この問題を解決するために,トランスフォーマーをベースとしたマルチタスク型オートエンコーダモデルを提案する。
論文 参考訳(メタデータ) (2022-07-10T21:12:04Z) - Cooperative Multi-Agent Actor-Critic for Privacy-Preserving Load
Scheduling in a Residential Microgrid [71.17179010567123]
本稿では,分散型アクターを分散批評家に教育する,プライバシ保護型マルチエージェントアクター批判フレームワークを提案する。
提案手法は,家庭のプライバシを保護しつつ,暗黙的にマルチエージェントの信用代入メカニズムを学習する。
論文 参考訳(メタデータ) (2021-10-06T14:05:26Z) - Bagging Supervised Autoencoder Classifier for Credit Scoring [3.5977219275318166]
クレジットスコアリングデータセットの不均衡の性質と、クレジットスコアリングデータセットの特徴の不均一性は、効果的なクレジットスコアリングモデルの開発と実装に困難をもたらす。
本稿では,主にスーパービジョンオートエンコーダの性能を活かしたBaging Supervised Autoencoder (BSAC)を提案する。
BSACはまた、過半数クラスのアンサンプに基づいて、Bagingプロセスの変種を採用することで、データ不均衡の問題にも対処する。
論文 参考訳(メタデータ) (2021-08-12T17:49:08Z) - Adversarial Semi-supervised Learning for Corporate Credit Ratings [1.90365714903665]
本研究では,企業信用格付けにおける対人的半監督学習の課題について考察する。
第1フェーズでは、通常の機械学習アルゴリズムを用いて通常のレーティングシステムを訓練し、ラベルのないデータ擬似レーティングレベルを与える。
第2フェーズでは、ラベル付きデータと擬似ラベル付きデータとを結合して、逆半教師付き学習を適用する。
論文 参考訳(メタデータ) (2021-04-04T09:05:53Z) - Explanations of Machine Learning predictions: a mandatory step for its
application to Operational Processes [61.20223338508952]
信用リスクモデリングは重要な役割を果たす。
近年,機械学習や深層学習の手法が採用されている。
この分野における説明可能性問題に LIME 手法を適用することを提案する。
論文 参考訳(メタデータ) (2020-12-30T10:27:59Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。