論文の概要: On a joint simultaneous learning of relevant feature subsets and subspaces in regression-like problems

• arxiv url: http://arxiv.org/abs/2607.28080v2
• Date: Fri, 31 Jul 2026 10:45:17 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-03 14:29:40.333142
• Title: On a joint simultaneous learning of relevant feature subsets and subspaces in regression-like problems
• Title（参考訳）: 回帰的問題における関連する特徴部分集合と部分空間の同時学習について
• Authors: Illia Horenko,
• Abstract要約: エントロピー最適マニフォールド回帰(EOMR) EOMRは人工知能(AI)と機械学習(ML)の最先端ツールの最も完全なセットと比較される 長谷川-若谷の例では、EOMRは非常に単純なエントロピー最適化と、主要な基本直交関数(EOF)の素小記述を蒸留する。
• 参考スコア（独自算出の注目度）: 1.0152838128195467
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: We extend a recently introduced Entropy-Optimal Manifold Clustering (EOMC) to allow for a joint simultaneous identification of subsets and subspaces of relevant features in nonstationary and nonlinear regression problems. It is shown that the proposed extension - that we coin as Entropy-Optimal Manifold Regression (EOMR) - allows a robust learning with linearly-scaling iteration and memory complexities. EOMR is compared to the most complete set of state-of-the-art tools from the Artificial Intelligence (AI) and Machine Learning (ML) that is available to the author, on the very challenging problems from chaotic and fluid dynamics: (i) on predicting the Lorenz-96 systems dynamics in strongly- and very-strongly chaotic regimes (with forcing parameter being $F=8$ and $F=12$, respectively); and, (ii) on a data from the Hasegawa-Wakatani model on the edge of the tokamak plasma. It is demonstrated that the proposed benchmarks (i) and (ii), indeed, are the very challenging problems for the state of the art ML and AI tools - since both the general-purpose gradient boosted random forests and deep neuronal networks, as well as transformer-based AI tools like TabPFN v.03 (more spezialised for large-dimensional small data learning problems) - result in orders of magnitude inferior root mean squared prediction errors, and orders of magnitude larger model complexities, when compared to the EOMR. For a Hasegawa-Wakatani example, EOMR distills a very simple entropy-optimal and skilful description of the leading Essential Orthogonal Function (EOF) dynamics, given by linear, causal and weakly-stationary autoregressive process described by just 8 parameters.
• Abstract（参考訳）: 最近導入されたEntropy-Optimal Manifold Clustering (EOMC)を拡張し、非定常および非線形回帰問題における部分集合と部分空間の同時同定を可能にする。 提案した拡張(Entropy-Optimal Manifold Regression (EOMR))は、線形にスケールする反復とメモリの複雑さによる堅牢な学習を可能にする。 EOMRは、カオスと流体力学の非常に困難な問題に関して、著者が利用可能な人工知能(AI)と機械学習(ML)の最先端ツールの最も完全なセットと比較されている。 (i)強いカオス状態と非常に強いカオス状態のロレンツ-96系力学の予測(それぞれ$F=8$と$F=12$)、および (II) トカマクプラズマの端の長谷川-若谷モデルによるデータに基づく。 提案したベンチマークが実証された。 (i)および なぜなら、汎用的な勾配がランダムフォレストとディープニューラルネットワークを増大させ、TabPFN v.03のようなトランスフォーマーベースのAIツール(大きな次元の小さなデータ学習問題に対してよりスペザライズされた)の両方がEOMRと比較すると、桁違いの根の平均2乗予測誤差と桁違いに大きいモデル複雑度をもたらすからである。 長谷川・若谷の例では、EOMRは、わずか8つのパラメータで記述された線形、因果、弱定常自己回帰過程によって与えられる主要な直交関数(EOF)の非常に単純なエントロピー最適かつ簡素な記述を蒸留する。

関連論文リスト

• Attention mechanism for scalable mesh-based neural surrogates of free-surface fluids [0.0]
  粒子有限要素法(PFEM)のようなラグランジアン法による自由表面流れの高忠実度シミュレーションを計算的に要求する。 この問題は非ニュートンのレオロジーによってさらに増幅され、材料非線形性は計算コストを増大させる。 自由表面流れのPFEMシミュレーションのための自己アテンションに基づくニューラルサロゲートを提案する。
  論文  参考訳（メタデータ） (2026-06-22T12:33:55Z)
• SIGMA: Scalable Spectral Insights for LLM Collapse [51.863164847253366]
  SIGMA(Spectral Inequalities for Gram Matrix Analysis)は,モデル崩壊のための統一的なフレームワークである。 行列のスペクトル上の決定論的境界を導出するベンチマークを利用することで、SIGMAは表現空間の収縮を追跡するために数学的に基底化された計量を提供する。 我々は、SIGMAが状態への遷移を効果的に捉え、崩壊のメカニズムに関する理論的知見の両方を提供することを示した。
  論文  参考訳（メタデータ） (2026-01-06T19:47:11Z)
• Disordered Dynamics in High Dimensions: Connections to Random Matrices and Machine Learning [52.26396748560348]
  ランダム行列によって駆動される高次元力学系について概説する。 機械学習理論における学習と一般化の単純なモデルへの応用に焦点を当てる。
  論文  参考訳（メタデータ） (2026-01-03T00:12:32Z)
• Efficient Approximation of Volterra Series for High-Dimensional Systems [0.0]
  入力空間の小さな部分集合で訓練された局所化MVMALSモデルを構築することにより,複雑性を著しく低減するヘッド平均化(THA)アルゴリズムを導入する。 THAは、拡張性があり理論的に基礎付けられたアプローチを提供し、以前は難解な高次元システムを特定する。
  論文  参考訳（メタデータ） (2025-11-09T20:31:39Z)
• Multi-constrained Symmetric Nonnegative Latent Factor Analysis for Accurately Representing Large-scale Undirected Weighted Networks [2.1797442801107056]
  ビッグデータ関連アプリケーションでは、Undirected Weighted Network (UWN) が頻繁に発生する。 解析モデルは、UWNの固有対称性を記述するために、その対称性トポロジーを慎重に考慮する必要がある。 本稿では,2次元アイデアを用いた多制約対称性非負遅延要素分析モデルを提案する。
  論文  参考訳（メタデータ） (2023-06-06T14:13:16Z)
• Capturing dynamical correlations using implicit neural representations [85.66456606776552]
  実験データから未知のパラメータを復元するために、モデルハミルトンのシミュレーションデータを模倣するために訓練されたニューラルネットワークと自動微分を組み合わせた人工知能フレームワークを開発する。 そこで本研究では, 実時間から多次元散乱データに適用可能な微分可能なモデルを1回だけ構築し, 訓練する能力について述べる。
  論文  参考訳（メタデータ） (2023-04-08T07:55:36Z)
• Data-driven Control of Agent-based Models: an Equation/Variable-free Machine Learning Approach [0.0]
  複雑/マルチスケールシステムの集合力学を制御するための方程式/変数自由機械学習(EVFML)フレームワークを提案する。 提案手法は3段階からなる: (A) 高次元エージェントベースシミュレーション、機械学習(特に非線形多様体学習(DM)) 創発力学の数値分岐解析を行うために方程式のない手法を用いる。 我々は,エージェントをベースとしたシミュレータを本質的で不正確に知られ,創発的なオープンループ定常状態に駆動する,データ駆動型組込み洗浄制御器を設計する。
  論文  参考訳（メタデータ） (2022-07-12T18:16:22Z)
• Interfacing Finite Elements with Deep Neural Operators for Fast Multiscale Modeling of Mechanics Problems [4.280301926296439]
  本研究では,機械学習を用いたマルチスケールモデリングのアイデアを探求し,高コストソルバの効率的なサロゲートとしてニューラル演算子DeepONetを用いる。 DeepONetは、きめ細かい解法から取得したデータを使って、基礎とおそらく未知のスケールのダイナミクスを学習してオフラインでトレーニングされている。 精度とスピードアップを評価するための様々なベンチマークを提示し、特に時間依存問題に対する結合アルゴリズムを開発する。
  論文  参考訳（メタデータ） (2022-02-25T20:46:08Z)
• Provably Efficient Neural Estimation of Structural Equation Model: An Adversarial Approach [144.21892195917758]
  一般化構造方程式モデル(SEM)のクラスにおける推定について検討する。 線形作用素方程式をmin-maxゲームとして定式化し、ニューラルネットワーク(NN)でパラメータ化し、勾配勾配を用いてニューラルネットワークのパラメータを学習する。 提案手法は,サンプル分割を必要とせず,確固とした収束性を持つNNをベースとしたSEMの抽出可能な推定手順を初めて提供する。
  論文  参考訳（メタデータ） (2020-07-02T17:55:47Z)
• Kernel and Rich Regimes in Overparametrized Models [69.40899443842443]
  過度にパラメータ化された多層ネットワーク上の勾配勾配は、RKHSノルムではないリッチな暗黙バイアスを誘発できることを示す。 また、より複雑な行列分解モデルと多層非線形ネットワークに対して、この遷移を実証的に示す。
  論文  参考訳（メタデータ） (2020-02-20T15:43:02Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。