論文の概要: TabNSM: Neural Sparse Mixer for Tabular Regression

• arxiv url: http://arxiv.org/abs/2608.18026v1
• Date: Tue, 18 Aug 2026 17:22:49 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-19 21:40:53.413803
• Title: TabNSM: Neural Sparse Mixer for Tabular Regression
• Title（参考訳）: TabNSM: タブラリ回帰のためのニューラルスパースミキサー
• Abstract要約: 我々は,従来のスパースアテンションとミキサーアーキテクチャを拡張したスケーラブルな回帰フレームワークであるTabNSMを提案する。 コアとなるAdaptive Sparse Interaction Module (ASIM)は、フォアグラウンド機能発見、スパースローカルインタラクションエンコーディング、Feature-Token Mixingを統合している。 回帰のために、TabNSMはプログレッシブ予測改善のための多段階回帰ヘッド、ターゲット構造を表現学習に組み込んだ順序対応ソフトバインド目的のGridLoss、損失量子ビンに基づく難易度サンプリング戦略のRISEの3つの補完的なコンポーネントを導入している。
• 参考スコア（独自算出の注目度）: 2.124023760378586
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Large-scale, high-dimensional tabular regression remains challenging: tree-based models are robust but lack end-to-end representation learning, while deep models enable flexible feature learning but often incur costly interaction modeling and sensitivity to noisy or redundant features. We propose TabNSM, a scalable regression framework that extends our earlier sparse-attention and mixer architectures. At its core, the Adaptive Sparse Interaction Module (ASIM) integrates foreground feature discovery, sparse local interaction encoding, and Feature-Token Mixing, providing near-linear complexity under fixed sparse configurations. For regression, TabNSM introduces three complementary components: a Multi-Stage Regression Head for progressive prediction refinement; GridLoss, an ordinal-aware soft-binning objective that incorporates target structure into representation learning; and RISE (Reweighted Instance Sampling by Error), a difficulty-aware sampling strategy based on loss-quantile bins. Across nine real-world regression benchmarks, TabNSM delivers strong predictive performance and practical scalability, with particularly consistent gains on high-dimensional and heterogeneous datasets. These results demonstrate that selective interaction modeling, structured regression supervision, and difficulty-aware sampling provide an effective and scalable approach to deep tabular regression.
• Abstract（参考訳）: 木ベースのモデルは堅牢だが、エンドツーエンドの表現学習が欠如しているのに対して、深層モデルは柔軟な特徴学習を可能にする一方で、コストのかかる相互作用モデリングや、ノイズや冗長な特徴に対する感受性も高い。 我々は,従来のスパースアテンションとミキサーアーキテクチャを拡張したスケーラブルな回帰フレームワークであるTabNSMを提案する。 コアとなるAdaptive Sparse Interaction Module (ASIM)は、フォアグラウンド機能発見、スパースローカルインタラクションエンコーディング、Feature-Token Mixingを統合し、固定されたスパース構成下でほぼ直線的な複雑さを提供する。 回帰のために、TabNSMはプログレッシブ予測改善のためのマルチステージ回帰ヘッド、ターゲット構造を表現学習に組み込んだ順序対応ソフトバインド目的のGridLoss、損失量子ビンに基づく困難対応サンプリング戦略のRISE(Reweighted Instance Smpling by Error)の3つの補完的なコンポーネントを導入している。 実世界の9つのレグレッションベンチマークの中で、TabNSMは強力な予測性能と実用的なスケーラビリティを提供し、特に高次元および異種データセットで一貫したゲインを提供する。 これらの結果は, 選択的相互作用モデリング, 構造化回帰監視, 難読サンプリングが, 深い表層回帰に対する効果的かつスケーラブルなアプローチを提供することを示した。

関連論文リスト

• On a joint simultaneous learning of relevant feature subsets and subspaces in regression-like problems [1.0152838128195467]
  エントロピー最適マニフォールド回帰(EOMR) EOMRは人工知能(AI)と機械学習(ML)の最先端ツールの最も完全なセットと比較される 長谷川-若谷の例では、EOMRは非常に単純なエントロピー最適化と、主要な基本直交関数(EOF)の素小記述を蒸留する。
  論文  参考訳（メタデータ） (2026-07-30T11:51:29Z)
• Joint Model and Data Sparsification via the Marginal Likelihood [53.29070892356214]
  本稿では,個々の特徴とサンプルの相違点を同時学習し,同時にモデルとデータスペーシングを実現することを提案する。 このモデルとデータの対称的なプルーニングは、共役を保存する自然な拡張を提供する。 多様な回帰タスクにわたる経験的結果は、共同ARDアプローチがスパースモデルとロバスト予測モデルの両方を一貫して生成することを確認した。
  論文  参考訳（メタデータ） (2026-05-28T13:26:53Z)
• TabINR: An Implicit Neural Representation Framework for Tabular Data Imputation [0.6407815281667869]
  本稿では,テーブルをニューラルネットワークとしてモデル化する自動デコーダベースのImplicit Neural RepresentationフレームワークであるTabINRを紹介する。 我々は、現実世界の12のデータセットと複数の欠落メカニズムにまたがって、我々のフレームワークを評価した。
  論文  参考訳（メタデータ） (2025-10-01T17:24:35Z)
• High-Fidelity Scientific Simulation Surrogates via Adaptive Implicit Neural Representations [51.90920900332569]
  入射神経表現(INR)は空間的に構造化されたデータをモデリングするためのコンパクトで連続的なフレームワークを提供する。 近年のアプローチでは、剛性幾何学的構造に沿った付加的な特徴を導入することでこの問題に対処している。 機能適応型INR(FA-INR)を提案する。
  論文  参考訳（メタデータ） (2025-06-07T16:45:17Z)
• SplitWise Regression: Stepwise Modeling with Adaptive Dummy Encoding [0.0]
  SplitWiseは、ステップワイズレグレッションを強化する新しいフレームワークである。 浅い決定木を用いて、数値予測器をしきい値ベースのバイナリ特徴に適応的に変換する。 合成データセットと実世界のデータセットの両方で評価される。
  論文  参考訳（メタデータ） (2025-05-21T12:06:43Z)
• Generalized Factor Neural Network Model for High-dimensional Regression [50.554377879576066]
  複素・非線形・雑音に隠れた潜在低次元構造を持つ高次元データセットをモデル化する課題に取り組む。 我々のアプローチは、非パラメトリック回帰、因子モデル、高次元回帰のためのニューラルネットワークの概念のシームレスな統合を可能にする。
  論文  参考訳（メタデータ） (2025-02-16T23:13:55Z)
• Learning Multiscale Consistency for Self-supervised Electron Microscopy Instance Segmentation [48.267001230607306]
  本稿では,EMボリュームのマルチスケール一貫性を高める事前学習フレームワークを提案する。 当社のアプローチでは,強力なデータ拡張と弱いデータ拡張を統合することで,Siameseネットワークアーキテクチャを活用している。 効果的にボクセルと機能の一貫性をキャプチャし、EM分析のための転送可能な表現を学習する。
  論文  参考訳（メタデータ） (2023-08-19T05:49:13Z)
• Variational Hierarchical Mixtures for Probabilistic Learning of Inverse Dynamics [20.953728061894044]
  適切に校正された確率回帰モデルは、データセットが急速に成長し、タスクがより複雑になるにつれて、ロボットアプリケーションにおいて重要な学習要素である。 計算効率のよい表現と計算複雑性の正規化を両世界の利点と組み合わせた確率論的階層的モデリングパラダイムを考察する。 これらの表現を学習するための2つの効率的な変分推論手法を導出し、階層的無限局所回帰モデルの利点を強調する。
  論文  参考訳（メタデータ） (2022-11-02T13:54:07Z)
• Federated Latent Class Regression for Hierarchical Data [5.110894308882439]
  フェデレートラーニング(FL)は、多くのエージェントがローカルに保存されたデータを開示することなく、グローバル機械学習モデルのトレーニングに参加することを可能にする。 本稿では,新しい確率モデルである階層潜在クラス回帰(HLCR)を提案し,フェデレートラーニング(FEDHLCR)への拡張を提案する。 我々の推論アルゴリズムはベイズ理論から派生したもので、強い収束保証と過剰適合性を提供する。実験結果から、FEDHLCRは非IIDデータセットにおいても高速収束を提供することが示された。
  論文  参考訳（メタデータ） (2022-06-22T00:33:04Z)
• Progressive Self-Guided Loss for Salient Object Detection [102.35488902433896]
  画像中の深層学習に基づくサラエント物体検出を容易にするプログレッシブ自己誘導損失関数を提案する。 我々のフレームワークは適応的に集約されたマルチスケール機能を利用して、健全な物体の探索と検出を効果的に行う。
  論文  参考訳（メタデータ） (2021-01-07T07:33:38Z)
• Revealing the Invisible with Model and Data Shrinking for Composite-database Micro-expression Recognition [49.463864096615254]
  入力複雑性とモデル複雑性を含む学習複雑性の影響を分析する。 より浅層構造と低分解能入力データを探索する再帰畳み込みネットワーク(RCN)を提案する。 学習可能なパラメータを増やさなくてもRCNと統合できる3つのパラメータフリーモジュールを開発した。
  論文  参考訳（メタデータ） (2020-06-17T06:19:24Z)
• Belief Propagation Reloaded: Learning BP-Layers for Labeling Problems [83.98774574197613]
  最も単純な推論手法の1つとして、切り詰められた最大積のBelief伝播を取り上げ、それをディープラーニングモデルの適切なコンポーネントにするために必要となるものを加えます。 このBP-Layerは畳み込みニューラルネットワーク(CNN)の最終ブロックまたは中間ブロックとして使用できる このモデルは様々な密集予測問題に適用可能であり、パラメータ効率が高く、ステレオ、光フロー、セマンティックセグメンテーションにおける堅牢な解を提供する。
  論文  参考訳（メタデータ） (2020-03-13T13:11:35Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。