論文の概要: Stable Update of Regression Trees

• arxiv url: http://arxiv.org/abs/2402.13655v1
• Date: Wed, 21 Feb 2024 09:41:56 GMT
• ステータス: 処理完了
• システム内更新日: 2024-02-22 16:09:18.650328
• Title: Stable Update of Regression Trees
• Title（参考訳）: 回帰木の安定な更新
• Authors: Morten Bl{\o}rstad, Berent {\AA}. S. Lunde, Nello Blaser
• Abstract要約: 本稿では,回帰木という,本質的に説明可能な機械学習手法の安定性に着目した。 本稿では,初期モデルの不確実性に基づいてデータポイントを重み付けする正規化手法を提案する。 その結果、提案手法は、類似またはより良い予測性能を達成しつつ、安定性の向上を図っている。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Updating machine learning models with new information usually improves their predictive performance, yet, in many applications, it is also desirable to avoid changing the model predictions too much. This property is called stability. In most cases when stability matters, so does explainability. We therefore focus on the stability of an inherently explainable machine learning method, namely regression trees. We aim to use the notion of empirical stability and design algorithms for updating regression trees that provide a way to balance between predictability and empirical stability. To achieve this, we propose a regularization method, where data points are weighted based on the uncertainty in the initial model. The balance between predictability and empirical stability can be adjusted through hyperparameters. This regularization method is evaluated in terms of loss and stability and assessed on a broad range of data characteristics. The results show that the proposed update method improves stability while achieving similar or better predictive performance. This shows that it is possible to achieve both predictive and stable results when updating regression trees.
• Abstract（参考訳）: 新しい情報による機械学習モデルの更新は、通常、予測性能を改善するが、多くのアプリケーションでは、モデル予測の変更を過度に避けることも望ましい。 この性質は安定性と呼ばれる。 ほとんどの場合、安定性が重要な場合、説明可能性も重要です。 そこで我々は,回帰木という,本質的に説明可能な機械学習手法の安定性に注目した。 我々は,予測可能性と経験的安定性のバランスをとるためのレグレッションツリーの更新に,経験的安定性と設計アルゴリズムの概念を利用する。 そこで本研究では,初期モデルの不確実性に基づいてデータポイントを重み付けする正規化手法を提案する。 予測可能性と経験的安定性のバランスはハイパーパラメータによって調整できる。 この正則化法は損失と安定性の観点から評価され、幅広いデータ特性に基づいて評価される。 その結果,提案手法は類似あるいはより良い予測性能を達成しつつ,安定性の向上を図っている。 これは回帰木を更新した場合の予測結果と安定結果の両方を達成可能であることを示している。

関連論文リスト

• Using dynamic loss weighting to boost improvements in forecast stability [0.9332308328407303]
  ローリング起点予測不安定性(ローリング起点予測不安定性)とは、予測の更新によって生じる特定の期間の予測における変動をいう。 本稿では, 動的損失重み付けアルゴリズムを適用して, 精度を損なうことなく, さらなる安定性向上が達成できるかどうかを実験的に検討する。
  論文  参考訳（メタデータ） (2024-09-26T20:21:46Z)
• Predictability Analysis of Regression Problems via Conditional Entropy Estimations [1.8913544072080544]
  回帰問題の予測可能性を評価するために,条件付きエントロピー推定器を開発した。 合成および実世界のデータセットの実験は、これらの推定器の堅牢性と有用性を示している。
  論文  参考訳（メタデータ） (2024-06-06T07:59:19Z)
• On Forecast Stability [3.5789787644375495]
  垂直安定性と水平安定性と呼ばれる2種類の予測安定性について検討する。 本稿では,任意のベースモデルが提供する予測を垂直・水平に安定化するために,線形補間に基づく簡単な手法を提案する。
  論文  参考訳（メタデータ） (2023-10-26T11:55:30Z)
• Bagging Provides Assumption-free Stability [11.456416081243654]
  バギングは、機械学習モデルを安定化するための重要なテクニックである。 本稿では,任意のモデルに対するバギングの安定性に関する有限サンプル保証を導出する。
  論文  参考訳（メタデータ） (2023-01-30T01:18:05Z)
• Reliability-Aware Prediction via Uncertainty Learning for Person Image Retrieval [51.83967175585896]
  UALは、データ不確実性とモデル不確実性を同時に考慮し、信頼性に配慮した予測を提供することを目的としている。 データ不確実性はサンプル固有のノイズを捕捉する」一方、モデル不確実性はサンプルの予測に対するモデルの信頼を表現している。
  論文  参考訳（メタデータ） (2022-10-24T17:53:20Z)
• Numerically Stable Sparse Gaussian Processes via Minimum Separation using Cover Trees [57.67528738886731]
  誘導点に基づくスケーラブルスパース近似の数値安定性について検討する。 地理空間モデリングなどの低次元タスクに対しては,これらの条件を満たす点を自動計算する手法を提案する。
  論文  参考訳（メタデータ） (2022-10-14T15:20:17Z)
• Probabilistic robust linear quadratic regulators with Gaussian processes [73.0364959221845]
  ガウス過程(GP)のような確率モデルは、制御設計に続く使用のためのデータから未知の動的システムを学ぶための強力なツールです。 本稿では、確率的安定性マージンに関して堅牢なコントローラを生成する線形化GPダイナミクスのための新しいコントローラ合成について述べる。
  論文  参考訳（メタデータ） (2021-05-17T08:36:18Z)
• Learning Probabilistic Ordinal Embeddings for Uncertainty-Aware Regression [91.3373131262391]
  不確かさが唯一の確実性である。 伝統的に、直接回帰定式化を考慮し、ある確率分布の族に出力空間を変更することによって不確実性をモデル化する。 現在のレグレッション技術における不確実性をモデル化する方法は、未解決の問題である。
  論文  参考訳（メタデータ） (2021-03-25T06:56:09Z)
• Versatile and Robust Transient Stability Assessment via Instance Transfer Learning [6.760999627905228]
  本稿では,電力系統力学の知識を取り入れたデータ駆動型アルゴリズムに新たなデータ収集手法を提案する。 不安定領域に関する重要な情報を提供する断層影響領域という新しい概念を導入する。 IEEE 39バスシステムのテスト結果は、このモデルがこれまで見つからなかった運用シナリオの安定性を正確に予測できることを検証します。
  論文  参考訳（メタデータ） (2021-02-20T09:10:29Z)
• Fine-Grained Analysis of Stability and Generalization for Stochastic Gradient Descent [55.85456985750134]
  我々は,SGDの反復的リスクによって制御される新しい境界を開発する,平均モデル安定性と呼ばれる新しい安定性尺度を導入する。 これにより、最良のモデルの振舞いによって一般化境界が得られ、低雑音環境における最初の既知の高速境界が導かれる。 我々の知る限りでは、このことはSGDの微分不能な損失関数でさえも初めて知られている安定性と一般化を与える。
  論文  参考訳（メタデータ） (2020-06-15T06:30:19Z)
• Balance-Subsampled Stable Prediction [55.13512328954456]
  本稿では, 分数分解設計理論に基づく新しいバランスサブサンプル安定予測法を提案する。 設計理論解析により,提案手法は分布シフトによって誘導される予測器間の共起効果を低減できることを示した。 合成および実世界の両方のデータセットに関する数値実験により、BSSPアルゴリズムは未知のテストデータ間で安定した予測を行うためのベースライン法を著しく上回っていることが示された。
  論文  参考訳（メタデータ） (2020-06-08T07:01:38Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。