論文の概要: DynaTab: Dynamic Feature Ordering as Neural Rewiring for High-Dimensional Tabular Data
- arxiv url: http://arxiv.org/abs/2605.03430v1
- Date: Tue, 05 May 2026 07:12:07 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-06 19:35:43.811571
- Title: DynaTab: Dynamic Feature Ordering as Neural Rewiring for High-Dimensional Tabular Data
- Title(参考訳): DynaTab:高次元タブラルデータに対するニューラルリフティングとしての動的特徴順序付け
- Authors: Al Zadid Sultan Bin Habib, Gianfranco Doretto, Donald A. Adjeroh,
- Abstract要約: 我々は,その複雑さの本質を定量化することによって,特徴置換がデータセットにいつ恩恵をもたらすかを予測する軽量な基準を導入する。
DynaTabは、ニューラルネットワークで機能を動的にリオーダーし、それらをコンパクトで動的に順序対応の組み合わせで処理する。
DFO(bespoke dynamic feature ordering)と分散損失の訓練により、DynaTabは統計的に有意な利益を得た。
- 参考スコア(独自算出の注目度): 4.866921021551451
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: High-dimensional tabular data lacks a natural feature order, limiting the applicability of permutation-sensitive deep learning models. We propose DynaTab, a dynamic feature ordering-enabled architecture inspired by neural rewiring. We introduce a lightweight criterion that predicts when feature permutation will benefit a dataset by quantifying its intrinsic complexity. DynaTab dynamically reorders features via a neural rewiring algorithm and processes them through a compact, dynamic order-aware combination of separate learned positional embedding, importance-based gating, and masked attention layers, compatible with any sequence-sensitive backbone. Trained end-to-end with bespoke dynamic feature ordering (DFO) and dispersion losses, DynaTab achieves statistically significant gains, particularly on high-dimensional datasets, where it is benchmarked against 45 state-of-the-art baselines across 36 different real-world tabular datasets. Our results position DynaTab as a compelling new paradigm for high-dimensional tabular deep learning.
- Abstract(参考訳): 高次元表型データには自然な特徴順が欠如しており、置換に敏感なディープラーニングモデルの適用性が制限されている。
ニューラルスイッチングにインスパイアされた動的機能順序付け可能なアーキテクチャであるDynaTabを提案する。
本稿では,本質的な複雑性を定量化することにより,特徴置換がデータセットにいつ恩恵をもたらすかを予測する軽量な基準を提案する。
DynaTabは、ニューラルリスイッチアルゴリズムを介して機能を動的にリオーダーし、学習された位置埋め込み、重要ベースのゲーティング、マスキングされた注意層を組み合わせたコンパクトで動的オーダーアウェアの組み合わせで処理し、シーケンシャルなバックボーンと互換性がある。
DFO(bespoke dynamic feature ordering)と分散損失を備えたエンドツーエンドでトレーニングされたDynaTabは、統計学的に有意なゲイン、特に高次元データセットにおいて達成され、36の現実世界の表層データセットで45の最先端ベースラインに対してベンチマークされる。
我々はDynaTabを高次元表層学習のための魅力的な新しいパラダイムとして位置づけた。
関連論文リスト
- TabNSA: Native Sparse Attention for Efficient Tabular Data Learning [13.110156202816112]
TabNSAは、Native Sparse Attention(NSA)とTabMixerのバックボーンを統合する、新しいディープラーニングフレームワークである。
NSAは、トークン圧縮、選択的保存、局所的なスライディングウィンドウなど、階層的なスパークアテンション機構を採用している。
実験によると、TabNSAは最先端のディープラーニングモデルより一貫して優れている。
論文 参考訳(メタデータ) (2025-03-12T21:13:41Z) - TabSeq: A Framework for Deep Learning on Tabular Data via Sequential Ordering [5.946579489162407]
この作業では、機能のシーケンシャルな順序付けのための新しいフレームワークであるTabSeqを紹介している。
このような機能の最適なシーケンス順序を見つけることで、ディープラーニングモデルの学習プロセスを改善することができる。
論文 参考訳(メタデータ) (2024-10-17T04:10:36Z) - Making Pre-trained Language Models Great on Tabular Prediction [50.70574370855663]
ディープニューラルネットワーク(DNN)の転送性は、画像および言語処理において著しく進歩している。
本稿では,表型データ予測のための訓練済みLMであるTP-BERTaを提案する。
新たな相対等級トークン化では、スカラー数値の特徴値を細分化した高次元トークンに変換し、特徴値と対応する特徴名を統合する。
論文 参考訳(メタデータ) (2024-03-04T08:38:56Z) - A Performance-Driven Benchmark for Feature Selection in Tabular Deep
Learning [131.2910403490434]
データサイエンティストは通常、データセットにできるだけ多くの機能を集め、既存の機能から新しい機能を設計する。
既存のタブ形式の特徴選択のためのベンチマークでは、古典的な下流モデル、おもちゃの合成データセット、あるいは下流のパフォーマンスに基づいて特徴セレクタを評価していない。
変換器を含む下流ニューラルネットワーク上で評価された課題のある特徴選択ベンチマークを構築した。
また,従来の特徴選択法よりも高い性能を有するニューラルネットワークのための,Lassoのインプット・グラディエント・ベース・アナログも提案する。
論文 参考訳(メタデータ) (2023-11-10T05:26:10Z) - Transfer Learning with Deep Tabular Models [66.67017691983182]
上流データにより、グラフニューラルネットワークはGBDTモデルよりも決定的な優位性を示す。
そこで本研究では,表在化学習のための現実的な診断ベンチマークを提案する。
上流と下流の特徴セットが異なる場合の擬似特徴法を提案する。
論文 参考訳(メタデータ) (2022-06-30T14:24:32Z) - A Dynamic Weighted Tabular Method for Convolutional Neural Networks [0.3867363075280544]
本研究では,動的重み付きタブラル法(DWTM)という新しい手法を紹介する。
本手法は,各特徴量にアソシエーションの強さに基づく重みをクラスラベルに動的に割り当てる。
6つのベンチマークデータセット上で優れたパフォーマンス(平均精度=95%)を達成する。
論文 参考訳(メタデータ) (2022-05-20T18:02:10Z) - PredRNN: A Recurrent Neural Network for Spatiotemporal Predictive
Learning [109.84770951839289]
歴史的文脈からビジュアルダイナミクスを学習するための新しいリカレントネットワークであるPredRNNを紹介する。
本手法は,3つの標準データセット上で高い競争結果が得られることを示す。
論文 参考訳(メタデータ) (2021-03-17T08:28:30Z) - Supervised Learning for Non-Sequential Data: A Canonical Polyadic
Decomposition Approach [85.12934750565971]
特徴相互作用の効率的なモデリングは、非順序的タスクに対する教師あり学習の基盤となる。
この問題を緩和するため、モデルパラメータをテンソルとして暗黙的に表現することが提案されている。
表現性を向上するため,任意の高次元特徴ベクトルに特徴写像を適用できるようにフレームワークを一般化する。
論文 参考訳(メタデータ) (2020-01-27T22:38:40Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。