論文の概要: Using Knowledge Distillation to improve interpretable models in a retail
banking context
- arxiv url: http://arxiv.org/abs/2209.15496v1
- Date: Fri, 30 Sep 2022 14:35:41 GMT
- ステータス: 処理完了
- システム内更新日: 2022-10-03 15:06:52.750782
- Title: Using Knowledge Distillation to improve interpretable models in a retail
banking context
- Title(参考訳): 知識蒸留を用いた小売銀行コンテキストにおける解釈モデルの改善
- Authors: Maxime Biehler, Mohamed Guermazi and C\'elim Starck
- Abstract要約: 本稿では, 知識蒸留技術について, 小売業における適用性に着目して概観する。
ソフトターゲット、サンプル選択、データ拡張の3つの主要なアプローチを強調します。
本研究は, これらのモデルの性能向上のための知識蒸留の可能性を示すものである。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: This article sets forth a review of knowledge distillation techniques with a
focus on their applicability to retail banking contexts. Predictive machine
learning algorithms used in banking environments, especially in risk and
control functions, are generally subject to regulatory and technical
constraints limiting their complexity. Knowledge distillation gives the
opportunity to improve the performances of simple models without burdening
their application, using the results of other - generally more complex and
better-performing - models. Parsing recent advances in this field, we highlight
three main approaches: Soft Targets, Sample Selection and Data Augmentation. We
assess the relevance of a subset of such techniques by applying them to open
source datasets, before putting them to the test on the use cases of BPCE, a
major French institution in the retail banking sector. As such, we demonstrate
the potential of knowledge distillation to improve the performance of these
models without altering their form and simplicity.
- Abstract(参考訳): この記事では、小売銀行コンテキストへの適用性に着目した知識蒸留技術のレビューを紹介する。
銀行環境、特にリスクとコントロール機能で使用される予測機械学習アルゴリズムは、一般的に、その複雑さを制限する規制と技術的な制約が課される。
知識蒸留は、通常より複雑でパフォーマンスの良い他のモデルの結果を使用して、アプリケーションに負担をかけることなく、単純なモデルのパフォーマンスを改善する機会を与えます。
この分野での最近の進歩を解析し、ソフトターゲット、サンプル選択、データ拡張という3つの主要なアプローチを強調する。
本研究は、オープンソースデータセットに適用し、小売銀行部門におけるフランスの大手機関であるBPCEのユースケースを検証する前に、これらの手法のサブセットとの関連性を評価する。
そこで本研究では,これらのモデルの性能を向上させるための知識蒸留の可能性を示す。
関連論文リスト
- KBAlign: Efficient Self Adaptation on Specific Knowledge Bases [75.78948575957081]
大規模言語モデル(LLM)は通常、知識材料を瞬時に活用するために、検索強化世代に依存している。
本稿では,知識ベースを含む下流タスクへの効率的な適応を目的としたKBAlignを提案する。
提案手法は,Q&Aペアやリビジョン提案などの自己注釈付きデータを用いて反復学習を行い,モデルが知識内容を効率的に把握できるようにする。
論文 参考訳(メタデータ) (2024-11-22T08:21:03Z) - Advanced User Credit Risk Prediction Model using LightGBM, XGBoost and Tabnet with SMOTEENN [8.225603728650478]
研究対象として商業銀行が提供する4万件以上のレコードのデータセットを使用します。
実験では、LightGBMとPCAとSMOTEENNの技術を組み合わせることで、銀行が高品質な顧客を正確に予測できることを示した。
論文 参考訳(メタデータ) (2024-08-07T01:37:10Z) - Introducing User Feedback-based Counterfactual Explanations (UFCE) [49.1574468325115]
対実的説明(CE)は、XAIで理解可能な説明を生成するための有効な解決策として浮上している。
UFCEは、アクション可能な機能のサブセットで最小限の変更を決定するために、ユーザー制約を含めることができる。
UFCEは、textitproximity(英語版)、textitsparsity(英語版)、textitfeasibility(英語版)の2つのよく知られたCEメソッドより優れている。
論文 参考訳(メタデータ) (2024-02-26T20:09:44Z) - Explainable Artificial Intelligence for Improved Modeling of Processes [6.29494485203591]
我々は,現代的なトランスフォーマーアーキテクチャと,より古典的なプロセス規則性モデリングの機械学習技術の性能を評価する。
MLモデルは重要な結果を予測することができ、注意機構やXAIコンポーネントが基礎となるプロセスに新たな洞察を与えることを示す。
論文 参考訳(メタデータ) (2022-12-01T17:56:24Z) - HyperImpute: Generalized Iterative Imputation with Automatic Model
Selection [77.86861638371926]
カラムワイズモデルを適応的かつ自動的に構成するための一般化反復計算フレームワークを提案する。
既製の学習者,シミュレータ,インターフェースを備えた具体的な実装を提供する。
論文 参考訳(メタデータ) (2022-06-15T19:10:35Z) - Beyond Explaining: Opportunities and Challenges of XAI-Based Model
Improvement [75.00655434905417]
説明可能な人工知能(XAI)は、高度に複雑な機械学習(ML)モデルに透明性をもたらす新たな研究分野である。
本稿では,機械学習モデルの諸特性を改善するために,XAIを実用的に応用する手法を概観する。
実験では,モデル一般化能力や推論などの特性を改善する上で,説明がどのように役立つのかを,おもちゃと現実的な設定で実証的に示す。
論文 参考訳(メタデータ) (2022-03-15T15:44:28Z) - Enabling Machine Learning Algorithms for Credit Scoring -- Explainable
Artificial Intelligence (XAI) methods for clear understanding complex
predictive models [2.1723750239223034]
本稿では,様々な予測モデル(論理回帰,ロジスティック回帰,エビデンス変換の重み付け,現代の人工知能アルゴリズム)を比較し,先進木モデルがクライアントデフォルトの予測に最適であることを示す。
また,信用リスク実践者に対して,それらを解釈し,よりアクセスしやすいものにするための手法を用いて,高度なモデルを強化する方法を示す。
論文 参考訳(メタデータ) (2021-04-14T09:44:04Z) - DAGA: Data Augmentation with a Generation Approach for Low-resource
Tagging Tasks [88.62288327934499]
線形化ラベル付き文に基づいて訓練された言語モデルを用いた新しい拡張手法を提案する。
本手法は, 教師付き設定と半教師付き設定の両方に適用可能である。
論文 参考訳(メタデータ) (2020-11-03T07:49:15Z) - How to Learn from Others: Transfer Machine Learning with Additive
Regression Models to Improve Sales Forecasting [0.0]
加算回帰モデルに基づく移動機械学習手法を提案する。
レストランの複数の支店の多年多様なデータセットに対するアプローチを評価した。
その結果,分析知識を総合的に活用するアプローチの可能性が示された。
論文 参考訳(メタデータ) (2020-05-15T15:44:37Z) - Super-App Behavioral Patterns in Credit Risk Models: Financial,
Statistical and Regulatory Implications [110.54266632357673]
従来の官僚データとは対照的に、アプリベースのマーケットプレースから派生した代替データが信用スコアモデルに与える影響を提示する。
2つの国にまたがって検証した結果、これらの新たなデータソースは、低体重者や若年者における金融行動を予測するのに特に有用であることが示された。
論文 参考訳(メタデータ) (2020-05-09T01:32:03Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。