論文の概要: LAIR-Net: Leaky Alignment-Impulse Residual Networks for Tabular Regression
- arxiv url: http://arxiv.org/abs/2610.11538v1
- Date: Thu, 08 Oct 2026 09:08:45 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-10 02:36:53.910597
- Title: LAIR-Net: Leaky Alignment-Impulse Residual Networks for Tabular Regression
- Title(参考訳): LAIR-Net: タブラリ回帰のための漏洩アライメント・インパルス残差ネットワーク
- Abstract要約: 本稿では, 浅い学習アンカーを漏洩残留遷移によって各隠れ状態に混合するLAIR Netを提案する。
入力・摂動感度に拘束される深さの均一性を導出し,アンカーへのランダム化されたベースライン上のゲインの属性付けに制御されたシミュレーションを使用する。
23のベンチマークデータセットで、LAIR-Netは8つのランダム化されたネットワークと12の従来モデルの中で、最高の平均ランクを達成している。
- 参考スコア(独自算出の注目度): 0.3823356975862005
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Deep randomized models fix hidden-layer parameters through random initialization and learn only closed-form readouts, typically adding depth by stacking random trans formations without target-aware control of hidden-state evolution. We propose LAIR Net, the Leaky Alignment-Impulse Residual Network, which mixes a shallow learned anchor into each hidden state through a leaky residual transition. We derive a depth uniform bound on input-perturbation sensitivity and use controlled simulations to attribute gains over a randomized baseline to the anchor rather than recursion or added capacity. Benefits emerge when a nonlinear target structure is learnable at the available noise level and diminish for nearly linear targets or dominant noise. Across 23 benchmark datasets, LAIR-Net achieves the best average rank among eight randomized networks and twelve conventional models, with relative performance associated with the same nonlinear-structure and noise quantities identified in simulation.
- Abstract(参考訳): 深層ランダム化モデルは、ランダム初期化を通じて隠蔽層パラメータを固定し、通常、隠れ状態の進化のターゲットを意識せずにランダムなトランスフォーメーションを積み重ねることで、閉じた形式の読み出しのみを学習する。
LAIR Net, Leaky Alignment-Impulse Residual Networkを提案する。
入力摂動感度に拘束される深さの均一性を導出し、制御されたシミュレーションを用いてアンカーへのランダム化されたベースライン上のゲインを、再帰や付加能力ではなく、属性付けする。
非線形ターゲット構造が利用可能なノイズレベルで学習可能であり、ほぼ線形なターゲットや支配的なノイズに対して減少すると、利益が生じる。
LAIR-Netは、23のベンチマークデータセットを通して、8つのランダム化されたネットワークと12の従来のモデルの中で最高の平均ランクを達成し、シミュレーションで同定された同じ非線形構造とノイズ量に相対的な性能を持つ。
関連論文リスト
- Full-Covariance Smoothing of Bayesian Neural Networks for Online Adaptation [14.14658703018541]
ニューラルネットワークの層は状態空間モデルの時間ステップとして扱うことができる。
フォワードパスはネットワークを介してガウスモーメントを伝搬する。
後向きのRuch--Tung--Striebelパスは、重みの後部を閉じた形で更新する。
論文 参考訳(メタデータ) (2026-09-23T02:27:14Z) - Residual-Guided Randomized Neural Networks [7.698602367824994]
ランダム化されたニューラルネットワークは、隠れた層パラメータへの入力をランダムに固定し、出力重みをクローズドな形式で学習することで、高速で分析可能なトレーニングを可能にする。
本稿では, 隠蔽層を閉鎖型残留劣化基準を用いてグリード的に構築する, 簡易かつ広範に適用可能な残留ガイド法を提案する。
提案した残差誘導モデルが,精度,安定性,総合ランク付け性能において,ベースラインモデルよりも一貫して優れていることを示す。
論文 参考訳(メタデータ) (2026-08-28T12:30:08Z) - Network-Optimised Spiking Neural Network for Event-Driven Networking [2.5941336499463383]
スパイキングニューラルネットワークは、異常検出、ローカルルーティング制御、エッジでの混雑管理など、時間クリティカルなネットワークタスクに適したイベント駆動型計算を提供する。
本稿では,正規化された待ち行列の占有状態と回復資源を符号化したコンパクトな2変数ユニットであるNetwork-Optimized Spiking (NOS)を紹介する。
我々は、データ駆動初期化、リセットシャープネスに基づくホモトピーによる代理段階トレーニング、リソース制約されたデプロイメントのための境界のトポロジによる明確な安定性チェックのガイダンスを提供する。
論文 参考訳(メタデータ) (2025-09-27T22:31:24Z) - Towards Continual Learning Desiderata via HSIC-Bottleneck
Orthogonalization and Equiangular Embedding [55.107555305760954]
本稿では,レイヤワイドパラメータのオーバーライトや決定境界の歪みに起因する,概念的にシンプルで効果的な手法を提案する。
提案手法は,ゼロの指数バッファと1.02倍の差が絶対的に優れていても,競争精度が向上する。
論文 参考訳(メタデータ) (2024-01-17T09:01:29Z) - Optimization Guarantees of Unfolded ISTA and ADMM Networks With Smooth
Soft-Thresholding [57.71603937699949]
我々は,学習エポックの数の増加とともに,ほぼゼロに近いトレーニング損失を達成するための最適化保証について検討した。
トレーニングサンプル数に対する閾値は,ネットワーク幅の増加とともに増加することを示す。
論文 参考訳(メタデータ) (2023-09-12T13:03:47Z) - Likelihood-Free Inference with Generative Neural Networks via Scoring
Rule Minimization [0.0]
推測法は、難易度のあるシミュレーターモデルに対する後部近似を導出する。
多くの研究は、難易度または後部に直接近似するようにニューラルネットワークを訓練した。
本稿では,スコーリングルールの最小化によって訓練された生成ネットワークに後部を近似することを提案する。
論文 参考訳(メタデータ) (2022-05-31T13:32:55Z) - On the Effective Number of Linear Regions in Shallow Univariate ReLU
Networks: Convergence Guarantees and Implicit Bias [50.84569563188485]
我々は、ラベルが$r$のニューロンを持つターゲットネットワークの符号によって決定されるとき、勾配流が方向収束することを示す。
我々の結果は、標本サイズによらず、幅が$tildemathcalO(r)$である、緩やかなオーバーパラメータ化をすでに維持しているかもしれない。
論文 参考訳(メタデータ) (2022-05-18T16:57:10Z) - Robust Implicit Networks via Non-Euclidean Contractions [63.91638306025768]
暗黙のニューラルネットワークは、精度の向上とメモリ消費の大幅な削減を示す。
彼らは不利な姿勢と収束の不安定さに悩まされる。
本論文は,ニューラルネットワークを高機能かつ頑健に設計するための新しい枠組みを提供する。
論文 参考訳(メタデータ) (2021-06-06T18:05:02Z) - Improve Generalization and Robustness of Neural Networks via Weight
Scale Shifting Invariant Regularizations [52.493315075385325]
重み劣化を含む正則化器の族は、均質な活性化関数を持つネットワークに対する本質的な重みのノルムをペナルティ化するのに有効でないことを示す。
そこで我々は,ニューラルネットワークの本質的な規範を効果的に制約する改良型正規化器を提案する。
論文 参考訳(メタデータ) (2020-08-07T02:55:28Z) - Nonlinear system identification with regularized Tensor Network
B-splines [2.817412580574242]
The TNBS-NARX model is confirmed by the identified of the cascaded Watertank benchmark regular system。
標準的なデスクトップコンピュータ上で16次元のBスプライン面を4秒で識別しながら、最先端の性能を実現する。
論文 参考訳(メタデータ) (2020-03-17T09:22:20Z) - MSE-Optimal Neural Network Initialization via Layer Fusion [68.72356718879428]
ディープニューラルネットワークは、さまざまな分類と推論タスクに対して最先端のパフォーマンスを達成する。
グラデーションと非進化性の組み合わせは、学習を新しい問題の影響を受けやすいものにする。
確率変数を用いて学習した深層ネットワークの近傍層を融合する手法を提案する。
論文 参考訳(メタデータ) (2020-01-28T18:25:15Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。