論文の概要: FQTree: Fine-grained Quantization and Hardware Generation of Boosted Decision Trees
- arxiv url: http://arxiv.org/abs/2608.12140v1
- Date: Wed, 12 Aug 2026 14:56:13 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-13 19:07:54.620194
- Title: FQTree: Fine-grained Quantization and Hardware Generation of Boosted Decision Trees
- Title(参考訳): FQTree: ブースト決定木の微細化とハードウェア生成
- Abstract要約: 遅延クリティカルなアプリケーションでは、ブーストされた決定木(BDT)が広く使用されているが、効率的なハードウェアデプロイメントは依然として難しい。
本研究では,BDTの微粒化量子化学習のためのFQTreeアルゴリズムを提案する。
その結果,最新のFPGAベースのBDT設計と比較して,LUT使用率を26~57%削減できることがわかった。
- 参考スコア(独自算出の注目度): 14.283952774403781
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Boosted decision trees (BDTs) are widely used in latency-critical applications, but efficient hardware deployment remains challenging. Existing designs often rely on uniform or manually tuned fixed-point formats, which can introduce unnecessary hardware cost or accuracy loss. This work presents the FQTree algorithm{https://github.com/ecs-bristol/FQTree} for fine-grained quantization-aware training of BDTs, together with the QXGB framework for automatic hardware generation. FQTree introduces a hardware-oriented leaf-value quantization scheme that uses a global quantization step together with a tree-wise shift, enabling compact non-negative integer leaf representations, controlled clipping/pruning, and bias folding to reduce datapath cost. This work further applies this quantization during boosting so that later trees adapt to the errors of the already-quantized ensemble, and then lowers the trained model into low-latency hardware implementations through a compiler-based flow. Results on JSC, MNIST, and NID show that our method reduces LUT usage by 26-57\% compared with the state-of-the-art FPGA-based BDT designs while matching or improving accuracy.
- Abstract(参考訳): 遅延クリティカルなアプリケーションでは、ブーストされた決定木(BDT)が広く使用されているが、効率的なハードウェアデプロイメントは依然として難しい。
既存の設計は、しばしば均一または手動で調整された固定点形式に依存しており、不必要なハードウェアコストや精度の損失をもたらす可能性がある。
本研究は、BDTの微粒化量子化対応トレーニングのためのFQTreeアルゴリズム{https://github.com/ecs-bristol/FQTree}と、自動ハードウェア生成のためのQXGBフレームワークを提案する。
FQTreeは、大域的な量子化ステップとツリーシフトを利用するハードウェア指向のリーフ値量子化スキームを導入し、コンパクトな非負の整数リーフ表現、制御されたクリッピング/プルーニング、バイアスフォールディングを可能にし、データパスコストを削減した。
この研究は、後続の木が既に量子化されているアンサンブルの誤りに適応できるように、この量子化をブースト中に適用し、その後、訓練されたモデルをコンパイラベースのフローを通じて低レイテンシのハードウェア実装に格下げする。
JSC, MNIST, NIDの結果, 提案手法は, マッチングや精度の向上を図りながら, 最新のFPGAベースのBDT設計と比較して, LUT使用率を26~57倍に削減することを示した。
関連論文リスト
- BPDQ: Bit-Plane Decomposition Quantization on a Variable Grid for Large Language Models [56.504879072674015]
本稿では,ビットプレーンとスカラー係数による可変量子化グリッドを構成するビットプレーン分解量子化(BPDQ)を提案する。
BPDQは、1つのGTX 3090上でQwen2.5-72Bを83.85%のGSM8Kの精度で提供できる(ただし16ビットでは90.83%)。
論文 参考訳(メタデータ) (2026-02-04T02:54:37Z) - TreeQ: Pushing the Quantization Boundary of Diffusion Transformer via Tree-Structured Mixed-Precision Search [35.93578975066986]
Diffusion Transformer (DiT) は、画像生成のための非常にスケーラブルで効果的なバックボーンとして登場した。
混合精度量子化(MPQ)は、サブ4ビット設定へのU-Net量子化の進展において顕著な成功を収めた。
DiT量子化における重要な課題に対処する統合フレームワークであるTreeQを提案する。
論文 参考訳(メタデータ) (2025-12-06T08:59:12Z) - Learning Grouped Lattice Vector Quantizers for Low-Bit LLM Compression [57.54335545892155]
本稿では,各重みの群に独自の格子コードブックを割り当てるGLVQ(Grouped Lattice Vector Quantization)フレームワークを紹介する。
提案手法は,既存のトレーニング後の量子化ベースラインと比較して,モデルサイズと精度のトレードオフが良好である。
論文 参考訳(メタデータ) (2025-10-23T20:19:48Z) - Chain-in-Tree: Back to Sequential Reasoning in LLM Tree Search [4.12237459236889]
Chain-in-Tree (CiT)は、すべてのステップで拡張するのではなく、検索中にいつ分岐するかを決定するフレームワークである。
GSM8KとMath500のトークン生成、モデル呼び出し、ランタイムの75~85%の削減を実現している。
論文 参考訳(メタデータ) (2025-09-30T06:18:44Z) - PT$^2$-LLM: Post-Training Ternarization for Large Language Models [52.4629647715623]
大きな言語モデル(LLM)は、様々なタスクにまたがる印象的な機能を示しているが、その大きなメモリと計算能力は、デプロイメントを妨げている。
PT$2$-LLMを提案する。
その中核は2段精製パイプラインを備えた非対称3次量子化器である。
論文 参考訳(メタデータ) (2025-09-27T03:01:48Z) - MPQ-DMv2: Flexible Residual Mixed Precision Quantization for Low-Bit Diffusion Models with Temporal Distillation [74.34220141721231]
我々は,textbfMixed textbfPrecision textbfQuantizationフレームワークを改良したMPQ-DMv2を提案する。
論文 参考訳(メタデータ) (2025-07-06T08:16:50Z) - InTreeger: An End-to-End Framework for Integer-Only Decision Tree Inference [1.2495506469683937]
InTreegerは、トレーニングデータセットを入力として、ツリーベースの機械学習モデルのアーキテクチャに依存しない整数のみのC実装を出力するエンドツーエンドフレームワークである。
このフレームワークは、機械学習の経験のない人でも、高度に最適化された整数のみの分類モデルを生成することができる。
論文 参考訳(メタデータ) (2025-05-21T11:28:43Z) - TreeLUT: An Efficient Alternative to Deep Neural Networks for Inference Acceleration Using Gradient Boosted Decision Trees [0.6906005491572401]
FPGA上での勾配向上決定木(GBDT)実装のためのオープンソースツールであるTreeLUTを提案する。
本稿では,複数のデータセットを分類し,超低域と遅延性の評価によく用いられるTreeLUTの有効性を示す。
以上の結果から,TreeLUTはハードウェア利用率,レイテンシ,スループットを,従来の作業に比べて競争精度で大幅に向上することがわかった。
論文 参考訳(メタデータ) (2025-01-02T19:38:07Z) - Hierarchical Shrinkage: improving the accuracy and interpretability of
tree-based methods [10.289846887751079]
木構造を改変しないポストホックアルゴリズムである階層収縮(Hierarchical Shrinkage, HS)を導入する。
HSは、他の正規化技術と併用しても、決定木の予測性能を大幅に向上させる。
すべてのコードとモデルはGithubにある本格的なパッケージでリリースされている。
論文 参考訳(メタデータ) (2022-02-02T02:43:23Z) - Dynamic Probabilistic Pruning: A general framework for
hardware-constrained pruning at different granularities [80.06422693778141]
異なる粒度(重み、カーネル、フィルタ/フィーチャーマップ)での刈り取りを容易にするフレキシブルな新しい刈り取り機構を提案する。
このアルゴリズムをDPP(Dynamic Probabilistic Pruning)と呼ぶ。
DPPは、画像分類のための異なるベンチマークデータセットで訓練された一般的なディープラーニングモデルを刈り取る際に、競合圧縮率と分類精度を達成する。
論文 参考訳(メタデータ) (2021-05-26T17:01:52Z) - AQD: Towards Accurate Fully-Quantized Object Detection [94.06347866374927]
本稿では,浮動小数点演算を除去するために,AQDと呼ばれる高精度な量子化オブジェクト検出ソリューションを提案する。
我々のAQDは、非常に低ビットのスキームの下での完全精度と比較して、同等またはそれ以上の性能を実現しています。
論文 参考訳(メタデータ) (2020-07-14T09:07:29Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。