論文の概要: LiD-GLM: Lipschitz-constrained Deep Generalized Linear Models
- arxiv url: http://arxiv.org/abs/2608.16340v1
- Date: Mon, 17 Aug 2026 09:45:35 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-18 19:59:03.62629
- Title: LiD-GLM: Lipschitz-constrained Deep Generalized Linear Models
- Title(参考訳): LiD-GLM:Lipschitz-Constrained Deep Generalized Linear Models
- Abstract要約: 従来の統計モデルとニューラルネットワーク(NN)コンポーネントの組み合わせは、ハイブリッドモデルを構築するための興味深いアプローチである。
本稿では,分布仮定を柔軟に補正したモデルに,非可逆的残差ニューラルネットワーク(i-ResNets)を提案する。
我々は,本モデルに固有の解釈手法を開発し,適応されたポストホック化によりモデル識別性を強制する。
- 参考スコア(独自算出の注目度): 1.389948527681755
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: The combination of traditional statistical models and neural network (NN) components into semi-structured hybrid models is an intriguing approach to construct models that, ideally, combine traditional interpretability with the unprecedented flexibility of NNs. In order to preserve interpretability, it is usually necessary to restrict the NN components to prevent them from dominating the model. However, existing methods that enforce structural constraints on their NN components severely limit their models' flexibility; in contrast, methods that only enforce weak, indirect constraints lose meaningful interpretability. The method we propose therefore leverages invertible residual neural networks (i-ResNets) to equip generalized linear models with both nonlinear parameter estimation and a flexible correction of their distributional assumptions while always retaining stochastic monotonicity of the modeled distribution in the (formerly linear) predictor. The i-ResNets correspond to a controlled deviation from identity and by constraining their Lipschitz constant one can rigorously limit and quantify how far the hybrid model deviates from its traditional counterpart. This enables a user-specifiable compromise between flexibility and interpretability without limiting the structure of nonlinear and interaction effects that can be learned. Furthermore, we develop specific inherent interpretation techniques for our model and enforce model identifiability through an adapted post-hoc orthogonalization.
- Abstract(参考訳): 従来の統計モデルとニューラルネットワーク(NN)コンポーネントを半構造化ハイブリッドモデルに組み合わせることは、理想的には、従来の解釈可能性と前例のないNNの柔軟性を組み合わせたモデルを構築するための興味深いアプローチである。
解釈可能性を維持するためには、通常、NNコンポーネントがモデルを支配するのを防ぐために制限する必要がある。
しかし、NNコンポーネントに構造的制約を強制する既存のメソッドは、モデルの柔軟性を著しく制限する。
そこで本提案手法では,非可逆残留ニューラルネットワーク(i-ResNets)を用いて非線形パラメータ推定と分布仮定のフレキシブルな補正を行う。
i-ResNetsはアイデンティティからの制御された逸脱に対応し、そのリプシッツ定数を制約することにより、ハイブリッドモデルが従来のモデルからどのくらい離れているかを厳密に制限し定量化することができる。
これにより、学習可能な非線形および相互作用効果の構造を制限することなく、柔軟性と解釈可能性の間のユーザ固有の妥協が可能になる。
さらに,本モデルに固有の解釈手法を開発し,適応されたポストホック直交化によりモデル識別性を強制する。
関連論文リスト
- Convex Hybrid Modeling: An Operator-Based Approach [0.989901717499058]
本稿では,解釈可能性を考慮した凸学習問題を体系的に定式化するハイブリッドモデリングについて考察する。
より一般的な設定では、システムは解釈可能なモデルのカーネルベースの混合と見なされる。
論文 参考訳(メタデータ) (2026-05-22T01:56:51Z) - SOLIS: Physics-Informed Learning of Interpretable Neural Surrogates for Nonlinear Systems [6.5745172279769255]
textbfSOLISは、状態条件付き2階代理モデルを介して未知のダイナミクスをモデル化する
textbfLocal Physics Hintsウィンドウ付きリッジ回帰アンカーは最適化の崩壊を緩和する。
ベンチマークの実験では、標準逆メソッドが失敗するレギュレーションを含むスパースデータから正確なパラメータ・マニフォールド・リカバリとコヒーレントな物理ロールアウトが示されている。
論文 参考訳(メタデータ) (2026-04-16T11:12:36Z) - Robustly Invertible Nonlinear Dynamics and the BiLipREN: Contracting Neural Models with Contracting Inverses [2.0277446818410994]
本研究では, 非線形力学系の可逆性について, 収縮解析と漸進安定性解析の観点から検討する。
本稿では,新しい可逆的リカレントニューラルモデルBiLipRENを提案する。
論文 参考訳(メタデータ) (2025-05-05T23:27:52Z) - Can KAN CANs? Input-convex Kolmogorov-Arnold Networks (KANs) as hyperelastic constitutive artificial neural networks (CANs) [0.0]
我々は法則を学ぶための新しいタイプのモデルを提案する。
訓練可能な物質行動です
結果として得られるモデルはどちらもコンパクトなハイパートレインブル解釈である。
関係解析的圧縮性
ICKANは多様なひずみ状態の応力-sモデルを正確に捉えることができる。
論文 参考訳(メタデータ) (2025-03-07T17:42:24Z) - A Non-negative VAE:the Generalized Gamma Belief Network [49.970917207211556]
ガンマ信念ネットワーク(GBN)は、テキストデータ中の多層解釈可能な潜在表現を明らかにする可能性を実証している。
本稿では、一般化ガンマ信念ネットワーク(Generalized GBN)を導入し、元の線形生成モデルをより表現力のある非線形生成モデルに拡張する。
また、潜伏変数の後方分布を近似する上向きのワイブル推論ネットワークを提案する。
論文 参考訳(メタデータ) (2024-08-06T18:18:37Z) - Scaling and renormalization in high-dimensional regression [72.59731158970894]
リッジ回帰に関する最近の結果について統一的な視点を提示する。
我々は、物理とディープラーニングの背景を持つ読者を対象に、ランダム行列理論と自由確率の基本的なツールを使用する。
我々の結果は拡張され、初期のスケーリング法則のモデルについて統一的な視点を提供する。
論文 参考訳(メタデータ) (2024-05-01T15:59:00Z) - Deep Grey-Box Modeling With Adaptive Data-Driven Models Toward
Trustworthy Estimation of Theory-Driven Models [88.63781315038824]
本稿では,ニューラルネットワークのアーキテクチャとトレーニング目標にわずかな変化を伴って,レギュレータの動作を経験的に分析することのできるフレームワークを提案する。
論文 参考訳(メタデータ) (2022-10-24T10:42:26Z) - Lipschitz Continuity Retained Binary Neural Network [52.17734681659175]
我々は,BNNのモデルロバスト性を定義するための厳密な基準として,リプシッツ連続性を導入する。
次に、モデルロバスト性を改善するための正規化項としてリプシッツ連続性を維持することを提案する。
実験により,我々のBNN固有の正規化手法は,BNNの堅牢性を効果的に強化できることが証明された。
論文 参考訳(メタデータ) (2022-07-13T22:55:04Z) - Recurrent Equilibrium Networks: Flexible Dynamic Models with Guaranteed
Stability and Robustness [3.2872586139884623]
本稿では,機械学習,システム識別,制御における再帰平衡ネットワーク(REN)を提案する。
RENはRNの二次ベクトルによって直接パラメータ化され、安定性とロバスト性はパラメータ制約なしで確保される。
また,データ駆動型非線形オブザーバの設計と安定性保証による制御への応用について述べる。
論文 参考訳(メタデータ) (2021-04-13T05:09:41Z) - Identification of Probability weighted ARX models with arbitrary domains [75.91002178647165]
PieceWise Affineモデルは、ハイブリッドシステムの他のクラスに対する普遍近似、局所線型性、同値性を保証する。
本研究では,任意の領域を持つ固有入力モデル(NPWARX)を用いたPieceWise Auto Regressiveの同定に着目する。
このアーキテクチャは、機械学習の分野で開発されたMixture of Expertの概念に従って考案された。
論文 参考訳(メタデータ) (2020-09-29T12:50:33Z) - Monotone operator equilibrium networks [97.86610752856987]
我々はモノトン作用素の理論に基づく新しい暗黙深度モデル、モノトン演算子平衡ネットワーク(monDEQ)を開発した。
暗黙的ネットワークの平衡点の発見と単調作用素分割問題の解法との密接な関係を示す。
次に、ネットワークのパラメータ化を開発し、全ての作用素が単調であり続けることを保証し、ユニークな平衡点の存在を保証する。
論文 参考訳(メタデータ) (2020-06-15T17:57:31Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。