論文の概要: Gradient boosting with vector-valued leafs
- arxiv url: http://arxiv.org/abs/2606.29326v1
- Date: Sun, 28 Jun 2026 10:42:29 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-30 18:07:15.878093
- Title: Gradient boosting with vector-valued leafs
- Title(参考訳): ベクター値葉を用いたグラジエントブースティング
- Abstract要約: 決定木アンサンブルの形でのグラディエント向上は、様々な問題に適用されている。
この研究はベクトル入力の関数に通常の勾配促進フレームワークを拡張し、ヒストグラムに基づく決定木で効率的に使用できる単純なアルゴリズムをスケッチする。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Gradient boosting in the form of decision tree ensembles has successfully been applied to a variety of problems using simple objective functions based on log-likelihoods of a single variable. The concept extends naturally to objective functions operating on vectors - for example, multinomial logistic log-likelihood for multi-class classification, where observations have a score for each class - but popular frameworks approach these functions by either updating one value of the input vectors at a time, or by using a diagonal upper bound on the second derivative. This work extends the usual gradient boosting framework to functions of vector inputs and sketches a simple algorithm that can be used efficiently with histogram-based decision trees.
- Abstract(参考訳): 決定木アンサンブルの形でのグラディエント向上は、単一変数のログ類似度に基づく単純な目的関数を用いて、様々な問題に適用されている。
この概念は、例えば、各クラスにスコアを持つ多項対数対数(multinomial logistic log-likelihood)のような、ベクトル上で動作する客観的関数に自然に拡張されるが、一般的なフレームワークは、入力ベクトルの1つの値を一度に更新するか、あるいは第2の導関数上の対角線上界を使用することによって、これらの関数にアプローチする。
この研究はベクトル入力の関数に通常の勾配促進フレームワークを拡張し、ヒストグラムに基づく決定木で効率的に使用できる単純なアルゴリズムをスケッチする。
関連論文リスト
- Path-Based Gradient Boosting for Graph-Level Prediction [0.6181093777643575]
PathBoostは入力グラフ構造から直接識別パスベースの特徴を学習する。
PathBoostを、いくつかのベンチマークデータセット上のグラフニューラルネットワークとグラフカーネルアプローチと比較した。
全体として、パスベースのブースティング手法はより複雑なブラックボックスアプローチと競合する可能性があることを示した。
論文 参考訳(メタデータ) (2026-04-26T07:59:33Z) - Multiclass Graph-Based Large Margin Classifiers: Unified Approach for Support Vectors and Neural Networks [5.58422527196734]
本稿では,ガブリエルグラフ(GGs)を用いた二項分類問題と多項分類問題について述べる。
我々は,活性化機能と支持エッジ(SE)中心ニューロンが,よりスムーズな機能と構造SV中心ニューロンの分類にどのように影響するかを論じる。
我々は、バックプロパゲーションをソフトマックス関数とクロスエントロピー損失でトレーニングできるニューラルネットワークアーキテクチャを拡張した。
論文 参考訳(メタデータ) (2025-12-15T15:00:13Z) - Beyond Softmax: A Natural Parameterization for Categorical Random Variables [61.709831225296305]
階層的なバイナリ分割のシーケンスで構成される関数である$textitcatnat$関数を紹介します。
実験により,提案した関数は学習効率を向上し,一貫した試験性能を特徴とするモデルが得られることを示した。
論文 参考訳(メタデータ) (2025-09-29T12:55:50Z) - OGBoost: A Python Package for Ordinal Gradient Boosting [0.0]
OGBoostはScikit-learn互換のPythonパッケージで、勾配ブースティングを用いた順序回帰を行う。
パッケージはPyPIで利用可能で、"pip install ogboost"経由でインストールできる。
論文 参考訳(メタデータ) (2025-02-19T06:06:12Z) - Segmentation-guided Layer-wise Image Vectorization with Gradient Fills [6.037332707968933]
そこで本稿では,画像を勾配を埋め込んだ簡潔なベクトルグラフに変換するためのセグメンテーション誘導ベクトル化フレームワークを提案する。
組込み勾配認識セグメンテーションの指導により, 段階的に勾配を埋め込んだB'ezierパスを出力に付加する。
論文 参考訳(メタデータ) (2024-08-28T12:08:25Z) - Knowledge Composition using Task Vectors with Learned Anisotropic Scaling [51.4661186662329]
本稿では,パラメータブロックと異なる学習係数を線形に組み合わせ,タスクベクトルレベルでの異方性スケーリングを実現するアルゴリズムであるaTLASを紹介する。
このような線形結合は事前学習されたモデルの低内在性を明示的に利用しており、学習可能なパラメータは数係数のみであることを示す。
本稿では,タスク算術,少数ショット認識,テスト時間適応において,教師なしあるいは教師なしの目的を用いた手法の有効性を実証する。
論文 参考訳(メタデータ) (2024-07-03T07:54:08Z) - Dynamic Perceiver for Efficient Visual Recognition [87.08210214417309]
特徴抽出手順と早期分類タスクを分離する動的知覚器(Dyn-Perceiver)を提案する。
特徴ブランチは画像の特徴を抽出し、分類ブランチは分類タスクに割り当てられた遅延コードを処理する。
早期出口は分類枝に限られており、低レベルの特徴において線形分離性は不要である。
論文 参考訳(メタデータ) (2023-06-20T03:00:22Z) - A Unified Framework for Implicit Sinkhorn Differentiation [58.56866763433335]
暗黙の微分によってシンクホーン層の解析勾配を求めるアルゴリズムを提案する。
特にGPUメモリなどのリソースが不足している場合には,計算効率が向上する。
論文 参考訳(メタデータ) (2022-05-13T14:45:31Z) - Measure Inducing Classification and Regression Trees for Functional Data [0.0]
機能的データ分析の文脈における分類と回帰問題に対する木に基づくアルゴリズムを提案する。
これは、制約付き凸最適化により重み付き汎函数 L2$ 空間を学習することで達成される。
論文 参考訳(メタデータ) (2020-10-30T18:49:53Z) - Channel-Directed Gradients for Optimization of Convolutional Neural
Networks [50.34913837546743]
本稿では,畳み込みニューラルネットワークの最適化手法を提案する。
出力チャネル方向に沿って勾配を定義することで性能が向上し,他の方向が有害となることを示す。
論文 参考訳(メタデータ) (2020-08-25T00:44:09Z) - Variance Reduction with Sparse Gradients [82.41780420431205]
SVRGやSpiderBoostのような分散還元法では、大きなバッチ勾配と小さなバッチ勾配が混在している。
我々は、新しい空間演算子:ランダムトップk演算子を導入する。
我々のアルゴリズムは、画像分類、自然言語処理、スパース行列分解など様々なタスクにおいて、一貫してSpiderBoostより優れています。
論文 参考訳(メタデータ) (2020-01-27T08:23:58Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。