論文の概要: TabLoRA: Parameter-Efficient Low-Rank Ensemble Learning for Large-Scale Tabular Data
- arxiv url: http://arxiv.org/abs/2607.10077v1
- Date: Sat, 11 Jul 2026 02:07:53 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-14 15:40:48.288447
- Title: TabLoRA: Parameter-Efficient Low-Rank Ensemble Learning for Large-Scale Tabular Data
- Title（参考訳）: TabLoRA:大規模語彙データに対するパラメータ効率のよい低ランクアンサンブル学習
- Abstract要約: TabLoRAは、大規模な表層学習のためのパラメータ効率のよいトレーニング可能なニューラルアンサンブルである。
ベンチマーク全体で、TabLoRAはGBDT法や最近のディープラーニングベースラインと比較して予測性能と実用効率のバランスが良い。
メモリ分析とアブレーション研究により、提案された設計は、完全なアンサンブルの利点の多くを保ちながら、ニューラルアンサンブル学習の実現可能性を向上させることが示されている。
- 参考スコア（独自算出の注目度）: 0.34376560669160394
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Tabular learning is still dominated by gradient-boosted decision trees (GBDTs), while recent deep learning approaches have become increasingly competitive. However, applying deep tabular models to large-scale datasets remains challenging, as large sample sizes, high feature dimensionality, or many target classes can introduce substantial computational cost. We propose TabLoRA, a parameter-efficient trainable neural ensemble for large-scale tabular learning. Instead of using fully independent ensemble backbones, TabLoRA shares a common backbone across predictors and introduces predictor-specific low-rank adaptations, enabling ensemble-style prediction without full parameter duplication. Across benchmarks, TabLoRA achieves a favorable balance between predictive performance and practical efficiency compared with GBDT methods and recent deep learning baselines under the same resource constraints. Memory analysis and ablation studies further show that the proposed design improves the feasibility of neural ensemble learning while preserving much of the benefit of full ensembles.
- Abstract（参考訳）: タブラルラーニングはいまだに勾配決定木(GBDT)に支配されているが、最近のディープラーニングアプローチはますます競争力を高めている。
しかし、大規模なデータセットに深い表形式モデルを適用することは、大きなサンプルサイズ、高い特徴次元、あるいは多くのターゲットクラスが相当な計算コストをもたらす可能性があるため、依然として困難である。
本研究では,大規模学習のためのパラメータ効率のよいトレーニング可能なニューラルアンサンブルであるTabLoRAを提案する。
完全に独立したアンサンブルバックボーンを使用する代わりに、TabLoRAは予測子間で共通のバックボーンを共有し、予測子固有の低ランク適応を導入し、完全なパラメータ重複なしにアンサンブルスタイルの予測を可能にする。
ベンチマーク全体で、TabLoRAはGBDT法と最近のディープラーニングベースラインを同じリソース制約下で比較すると、予測性能と実用効率のバランスが良好である。
メモリ分析とアブレーション研究により、提案された設計は、完全なアンサンブルの利点の多くを保ちながら、ニューラルアンサンブル学習の実現可能性を向上させることが示されている。
関連論文リスト
- Algorithmic Recourse of In-Context Learning for Tabular Data [17.763934545409498]
In-context Learning (ICL) における表型データに対するアルゴリズム的レコースの最初の研究について述べる。
In-Context Learning (ASR-ICL) のための新しいゼロ階リコースフレームワークを提案する。
論文 参考訳（メタデータ） (2026-05-29T13:04:18Z) - End-to-End Compression for Tabular Foundation Models [20.50130399990578]
本稿では,学習データセットを潜在空間で圧縮するエンドツーエンド圧縮モデルTACOを提案する。
提案手法は推論時間で最大94倍高速で、最大97%のメモリを消費するTabArenaベンチマークでテストした。
論文 参考訳（メタデータ） (2026-02-05T13:33:58Z) - iLTM: Integrated Large Tabular Model [41.81329403540607]
iLTMは、木由来の埋め込み、次元に依存しない表現、メタトレーニングされたハイパーネットワーク、多層パーセプトロン、単一のアーキテクチャ内での検索を統一する統合された大型タブラルモデルである。
論文 参考訳（メタデータ） (2025-11-20T00:20:16Z) - SPaRFT: Self-Paced Reinforcement Fine-Tuning for Large Language Models [51.74498855100541]
大規模言語モデル(LLM)は、強化学習(RL)による微調整時に強い推論能力を示す。
トレーニング対象のモデルの性能に基づいて,効率的な学習を可能にする自己評価学習フレームワークである textbfSPaRFT を提案する。
論文 参考訳（メタデータ） (2025-08-07T03:50:48Z) - LESA: Learnable LLM Layer Scaling-Up [57.0510934286449]
LLM(Large Language Models)をスクラッチからトレーニングするには膨大な計算資源が必要であるため、非常に高価である。
モデルスケーリングアップは、より小さなモデルのパラメータを活用してより大きなモデルを作成することで、有望なソリューションを提供する。
深度スケールアップのための新しい学習方法である textbfLESA を提案する。
論文 参考訳（メタデータ） (2025-02-19T14:58:48Z) - Revisiting Nearest Neighbor for Tabular Data: A Deep Tabular Baseline Two Decades Later [76.66498833720411]
K$-nearest neighbors (KNN) はもともと,インスタンス間のセマンティックな類似性を捉えるために線形投影を学習するために設計されたものだ。
意外なことに、SGDを用いたNAAの実装と次元減少のない実装は、表データの良好な性能をすでに達成しています。
本稿では、損失関数、予測戦略、深いアーキテクチャなど、これらの改善の背景にある要因を分析して、論文を締めくくる。
論文 参考訳（メタデータ） (2024-07-03T16:38:57Z) - A Closer Look at Deep Learning Methods on Tabular Datasets [78.61845513154502]
広い範囲にまたがる300以上のデータセットの集合であるTALENTについて広範な研究を行った。
我々の評価では、アンサンブルは木に基づくアプローチとニューラルアプローチの両方に効果があることが示されている。
論文 参考訳（メタデータ） (2024-07-01T04:24:07Z) - Tabular Data: Is Deep Learning all you need? [21.994741050350132]
タブラルデータは、応用機械学習において最も一般的なデータフォーマットの1つである。
ディープラーニングモデルは、既存の古典的アプローチと公正に比較できるような条件下での包括的な評価の対象にはなっていない。
我々の調査は、ニューラルネットワーク、古典的ML、AutoML技術にまたがる17の最先端の手法をベンチマークすることで、このギャップを埋める。
論文 参考訳（メタデータ） (2024-02-06T12:59:02Z) - Querying Easily Flip-flopped Samples for Deep Active Learning [63.62397322172216]
アクティブラーニング(英: Active Learning)は、ラベルのないデータを戦略的に選択してクエリすることで、モデルの性能を向上させることを目的とした機械学習パラダイムである。
効果的な選択戦略の1つはモデルの予測の不確実性に基づくもので、サンプルがどの程度情報的であるかの尺度として解釈できる。
本稿では,予測されたラベルの不一致の最小確率として,最小不一致距離(LDM)を提案する。
論文 参考訳（メタデータ） (2024-01-18T08:12:23Z) - Large-scale Fully-Unsupervised Re-Identification [78.47108158030213]
大規模未ラベルデータから学ぶための2つの戦略を提案する。
第1の戦略は、近傍関係に違反することなく、それぞれのデータセットサイズを減らすために、局所的な近傍サンプリングを行う。
第2の戦略は、低時間上限の複雑さを持ち、メモリの複雑さを O(n2) から O(kn) に k n で還元する新しい再帰的手法を利用する。
論文 参考訳（メタデータ） (2023-07-26T16:19:19Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。