論文の概要: OGBoost: A Python Package for Ordinal Gradient Boosting

• arxiv url: http://arxiv.org/abs/2502.13456v1
• Date: Wed, 19 Feb 2025 06:06:12 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-02-20 13:59:33.627399
• Title: OGBoost: A Python Package for Ordinal Gradient Boosting
• Title（参考訳）: OGBoost: 通常のグラディエントブースティングのためのPythonパッケージ
• Authors: Mansour T. A. Sharabiani, Alex Bottle, Alireza S. Mahani,
• Abstract要約: OGBoostはScikit-learn互換のPythonパッケージで、勾配ブースティングを用いた順序回帰を行う。 パッケージはPyPIで利用可能で、"pip install ogboost"経由でインストールできる。
• 参考スコア（独自算出の注目度）: 0.0
• License:
• Abstract: This paper introduces OGBoost, a scikit-learn-compatible Python package for ordinal regression using gradient boosting. Ordinal variables (e.g., rating scales, quality assessments) lie between nominal and continuous data, necessitating specialized methods that reflect their inherent ordering. Built on a coordinate-descent approach for optimization and the latent-variable framework for ordinal regression, OGBoost performs joint optimization of a latent continuous regression function (functional gradient descent) and a threshold vector that converts the latent continuous value into discrete class probabilities (classical gradient descent). In addition to the stanadard methods for scikit-learn classifiers, the GradientBoostingOrdinal class implements a "decision_function" that returns the (scalar) value of the latent function for each observation, which can be used as a high-resolution alternative to class labels for comparing and ranking observations. The class has the option to use cross-validation for early stopping rather than a single holdout validation set, a more robust approach for small and/or imbalanced datasets. Furthermore, users can select base learners with different underlying algorithms and/or hyperparameters for use throughout the boosting iterations, resulting in a `heterogeneous' ensemble approach that can be used as a more efficient alternative to hyperparameter tuning (e.g. via grid search). We illustrate the capabilities of OGBoost through examples, using the wine quality dataset from the UCI respository. The package is available on PyPI and can be installed via "pip install ogboost".
• Abstract（参考訳）: 本稿では、勾配ブースティングを用いた順序回帰のためのシンキトラーン互換PythonパッケージであるOGBoostを紹介する。 正規変数(例えば、評価尺度、品質評価)は、名目データと連続データの間にあり、その固有の順序を反映する特殊な方法を必要とする。 OGBoostは、最適化のための座標-蛍光的アプローチと順序回帰のための潜在変数フレームワークに基づいて、潜在連続回帰関数(機能的勾配勾配)と潜在連続値を離散クラス確率(古典的勾配勾配勾配)に変換するしきい値ベクトルを共同で最適化する。 GradientBoostingOrdinalクラスは、Scikit-Lern分類器のスタダードメソッドに加えて、各観測のために潜在関数の(スカラー)値を返す"決定_関数"を実装しており、観測結果の比較とランキングのためのクラスラベルの高解像度な代替品として使用できる。 クラスには、単一のホールトアウト検証セットではなく、クロスバリデーションを早期停止に使用するオプションがある。 さらに、ユーザは異なるアルゴリズムと/またはハイパーパラメータでベース学習者を選択でき、その結果、より効率的なハイパーパラメータチューニング(グリッドサーチなど)の代替として使用可能な「異種」アンサンブルアプローチが実現される。 UCIレポジトリのワイン品質データセットを例に、OGBoostの機能について説明する。 パッケージはPyPIで利用可能で、"pip install ogboost"経由でインストールできる。

関連論文リスト

• A Nearly Optimal Single Loop Algorithm for Stochastic Bilevel Optimization under Unbounded Smoothness [15.656614304616006]
  本稿では、上層関数が非定常で、潜在的に非有界な滑らかさを持ち、下層関数が凸であるような二層最適化の問題を考察する。 既存のアルゴリズムはネストループに依存しており、これは重要なチューニング作業を必要とし、実用的ではない。
  論文  参考訳（メタデータ） (2024-12-28T04:40:27Z)
• ALoRE: Efficient Visual Adaptation via Aggregating Low Rank Experts [71.91042186338163]
  ALoREは、Kroneckerによって構築された超複素パラメータ化空間をAggregate Low Rank Expertsに再利用する新しいPETL法である。 巧妙な設計のおかげで、ALoREは無視できる余分なパラメータを保持し、凍ったバックボーンに強制的にマージできる。
  論文  参考訳（メタデータ） (2024-12-11T12:31:30Z)
• Gradient-based optimization for variational empirical Bayes multiple regression [2.6763498831034043]
  勾配に基づく(準ニュートン)手法に基づく代替最適化手法を提案する。 我々はGradVIが同様の予測性能を示し、予測器が高い相関関係にある場合、より少ないイテレーションで収束することを示す。 提案手法は,オープンソースのPythonソフトウェアGradVIに実装されている。
  論文  参考訳（メタデータ） (2024-11-21T20:35:44Z)
• ELRA: Exponential learning rate adaption gradient descent optimization method [83.88591755871734]
  我々は, 高速(指数率), ab initio(超自由)勾配に基づく適応法を提案する。 本手法の主な考え方は,状況認識による$alphaの適応である。 これは任意の次元 n の問題に適用でき、線型にしかスケールできない。
  論文  参考訳（メタデータ） (2023-09-12T14:36:13Z)
• Benchmarking state-of-the-art gradient boosting algorithms for classification [0.0]
  この研究は、分類の文脈における勾配増強の利用について考察する。 オリジナルのGBMアルゴリズムや選択された最先端の勾配向上フレームワークを含む4つの一般的な実装を比較した。 有効性、信頼性、使いやすさの適切なバランスを示す勾配促進変種を示す試みが行われた。
  論文  参考訳（メタデータ） (2023-05-26T17:06:15Z)
• Gradient Boosted Binary Histogram Ensemble for Large-scale Regression [60.16351608335641]
  本研究では,2値ヒストグラム分割とアンサンブル学習に基づくテキストグラディエント2値ヒストグラムアンサンブル(GBBHE)と呼ばれる大規模回帰問題に対する勾配向上アルゴリズムを提案する。 実験では, 勾配向上回帰木 (GBRT) などの他の最先端アルゴリズムと比較して, GBBHEアルゴリズムは大規模データセット上での実行時間が少なく, 有望な性能を示す。
  論文  参考訳（メタデータ） (2021-06-03T17:05:40Z)
• Why Approximate Matrix Square Root Outperforms Accurate SVD in Global Covariance Pooling? [59.820507600960745]
  本稿では,前方通過のSVDと後方伝播のPad'e近似を用いて勾配を計算する新しいGCPメタ層を提案する。 提案するメタレイヤは,さまざまなCNNモデルに統合され,大規模および微細なデータセット上で最先端のパフォーマンスを実現する。
  論文  参考訳（メタデータ） (2021-05-06T08:03:45Z)
• Exploiting Adam-like Optimization Algorithms to Improve the Performance of Convolutional Neural Networks [82.61182037130405]
  勾配降下(SGD)は深いネットワークを訓練するための主要なアプローチです。 本研究では,現在と過去の勾配の違いに基づいて,Adamに基づく変分を比較する。 resnet50を勾配降下訓練したネットワークのアンサンブルと融合実験を行った。
  論文  参考訳（メタデータ） (2021-03-26T18:55:08Z)
• Classification and Feature Transformation with Fuzzy Cognitive Maps [0.3299672391663526]
  Fuzzy Cognitive Maps(FCM)は、ファジィ論理と繰り返しニューラルネットワークの要素を組み合わせたソフトコンピューティング技術と考えられている。 本研究では,フルコネクテッドマップ構造を有するFCMに基づく分類器を提案する。 重みを勾配アルゴリズムで学習し,コスト関数としてloglossやcross-entropyを用いた。
  論文  参考訳（メタデータ） (2021-03-08T22:26:24Z)
• StochasticRank: Global Optimization of Scale-Free Discrete Functions [28.224889996383396]
  本稿では,ランキングメトリクスを直接最適化する強力な,効率的なフレームワークを提案する。 古典的平滑化アプローチは偏見を導入し, 適切な偏見の普遍解を示す。 我々のフレームワークは任意のスケールフリー離散損失関数に適用できる。
  論文  参考訳（メタデータ） (2020-03-04T15:27:11Z)
• Variance Reduction with Sparse Gradients [82.41780420431205]
  SVRGやSpiderBoostのような分散還元法では、大きなバッチ勾配と小さなバッチ勾配が混在している。 我々は、新しい空間演算子:ランダムトップk演算子を導入する。 我々のアルゴリズムは、画像分類、自然言語処理、スパース行列分解など様々なタスクにおいて、一貫してSpiderBoostより優れています。
  論文  参考訳（メタデータ） (2020-01-27T08:23:58Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。