論文の概要: Improved Predictive Performance and Interpretability for Mesomorphic Neural Networks Using Local Fidelity Regularization

• arxiv url: http://arxiv.org/abs/2606.29951v1
• Date: Mon, 29 Jun 2026 08:26:20 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-30 18:07:16.128334
• Title: Improved Predictive Performance and Interpretability for Mesomorphic Neural Networks Using Local Fidelity Regularization
• Title（参考訳）: 局所忠実度規則化を用いたメソモルフィックニューラルネットワークの予測性能と解釈性の改善
• Abstract要約: 解釈可能なメソモルフィックニューラルネットワーク(IMN)は、ディープニューラルネットワークの予測能力と線形モデルの解釈可能性を組み合わせた有望なフレームワークを提供する。 局所忠実度規則化(Local Fidelity Regularization, LFR)は, 減量崩壊を防止する新しい刑法である。 この構造的制約は忠実な説明を保証し、モデルの解釈の信頼性を大幅に向上させる。
• 参考スコア（独自算出の注目度）: 1.5647246115099227
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Interpretable Mesomorphic Neural Networks (IMNs) offer a promising framework that combines the predictive power of deep neural networks with the interpretability of linear models. However, the original formulation lacks safeguards to ensure that the learned interpretations are in fact reliable. In particular, the network is free to concentrate all explanatory variance into a single weight of the linear output layer, achieving strong predictive performance while producing interpretations that are largely meaningless. Paradoxically, the L1 penalty proposed to encourage sparse solutions exacerbates this problem by further incentivizing such degenerate configurations. To address this vulnerability, we introduce Local Fidelity Regularization (LFR), a novel penalty term that prevents degenerate weight collapse by aligning the linear output weights with local data variations. This structural constraint guarantees faithful explanations and substantially improves the reliability of model interpretations. Furthermore, empirical evaluations across the OpenML benchmark suite demonstrate that LFR does not compromise accuracy for explainability; rather, it achieved improved AUROC over the unregularized IMN. By yielding results highly competitive with state-of-the-art black-box models, LFR provides the dual benefit of reliable interpretability and superior predictive performance. Source code and usage instructions are available at https://github.com/hugohammer/LFR-IMN.git.
• Abstract（参考訳）: 解釈可能なメソモルフィックニューラルネットワーク(IMN)は、ディープニューラルネットワークの予測能力と線形モデルの解釈可能性を組み合わせた有望なフレームワークを提供する。 しかし、本来の定式化には、学習された解釈が実際に信頼できることを保証するための安全策が欠けている。 特に、線形出力層の単一重みに説明的分散を集中させることは自由であり、ほとんど意味のない解釈を生成しながら、強い予測性能を達成することができる。 パラドックス的に、スパース解を促進するために提案されたL1ペナルティは、そのような縮退した構成をさらにインセンティブすることでこの問題を悪化させる。 この脆弱性に対処するために、線形出力重みと局所データ変動を整合させることにより、縮退重みの崩壊を防止する新しいペナルティ項であるローカルフィデリティ正規化(LFR)を導入する。 この構造的制約は忠実な説明を保証し、モデルの解釈の信頼性を大幅に向上させる。 さらに、OpenMLベンチマークスイートでの実証的な評価は、LFRが説明可能性の精度を損なうことなく、非正規化されたIMNよりも改善されたAUROCを実現していることを示している。 最先端のブラックボックスモデルと非常に競合する結果を得ることで、LFRは信頼性の高い解釈可能性と優れた予測性能の2つの利点を提供する。 ソースコードと利用指示はhttps://github.com/hugohammer/LFR-IMN.git.comで入手できる。

関連論文リスト

• LiD-GLM: Lipschitz-constrained Deep Generalized Linear Models [1.389948527681755]
  従来の統計モデルとニューラルネットワーク(NN)コンポーネントの組み合わせは、ハイブリッドモデルを構築するための興味深いアプローチである。 本稿では,分布仮定を柔軟に補正したモデルに,非可逆的残差ニューラルネットワーク(i-ResNets)を提案する。 我々は,本モデルに固有の解釈手法を開発し,適応されたポストホック化によりモデル識別性を強制する。
  論文  参考訳（メタデータ） (2026-08-17T09:45:35Z)
• Interpretability Without Tradeoffs: Disentangling Polysemanticity At Equal Predictive Performance [58.49623467782041]
  ELUDeはディープニューラルネットワークの解釈可能性を改善する方法である。 潜在表現を、解釈可能な機能のように振る舞う透明で検査可能なサブユニットに分解する。 明示的なトレーニングもラベルも必要とせず、事前訓練されたモデルにも適用できる。
  論文  参考訳（メタデータ） (2026-05-29T13:39:09Z)
• Learning a Generative Meta-Model of LLM Activations [75.30161960337892]
  ネットワークの内部状態の分布を学習する"メタモデル"を作成します。 ステアリング介入前に学んだメタモデルを適用することで、損失が減少するにつれて、流速が向上する。 これらの結果は、生成的メタモデルが制限的な構造的仮定を伴わずに、解釈可能性へのスケーラブルな経路を提供することを示唆している。
  論文  参考訳（メタデータ） (2026-02-06T18:59:56Z)
• FIRE: Multi-fidelity Regression with Distribution-conditioned In-context Learning using Tabular Foundation Models [3.8824066002669855]
  MF(Multi-fidelity)レグレッションは、極端なデータ不均衡のレギュレーションでしばしば機能する。 トレーニングフリーなMFフレームワークであるFIREを紹介する。 Fireは、最先端のGPベースまたはディープラーニングのMF回帰メソッドの7つよりもパフォーマンスタイムのトレードオフが強い。
  論文  参考訳（メタデータ） (2026-01-29T22:29:58Z)
• Bayesian Neural Networks vs. Mixture Density Networks: Theoretical and Empirical Insights for Uncertainty-Aware Nonlinear Modeling [2.0797819204842036]
  本研究では,不確実性を考慮した非線形回帰に対するベイズニューラルネットワーク(BNN)と混合密度ネットワーク(MDN)のアプローチを比較する。 理論的には、H"古い滑らかさ条件下での収束率と誤差境界を導出し、MDNがより高速なクルバック・リーブラー(KL)分散収束を実現することを示す。 本研究は, 非線形システムにおける不確実性を考慮したモデリングの指針として, 後進的および確率的確率論的学習の相補的強みを明らかにした。
  論文  参考訳（メタデータ） (2025-10-28T22:00:30Z)
• Cycles of Thought: Measuring LLM Confidence through Stable Explanations [53.15438489398938]
  大規模言語モデル(LLM)は、様々なベンチマークで人間レベルの精度に到達し、さらに超えることができるが、不正確な応答における過度な自信は、依然として十分に文書化された障害モードである。 本稿では,LLMの不確実性を測定するためのフレームワークを提案する。
  論文  参考訳（メタデータ） (2024-06-05T16:35:30Z)
• An NMF-Based Building Block for Interpretable Neural Networks With Continual Learning [0.8158530638728501]
  既存の学習方法は、解釈可能性と予測性能のバランスをとるのに苦労することが多い。 我々のアプローチは、NMFに基づくビルディングブロックを使用することで、これらの2つの側面のバランスを改善することを目的としています。
  論文  参考訳（メタデータ） (2023-11-20T02:00:33Z)
• Achieving Constraints in Neural Networks: A Stochastic Augmented Lagrangian Approach [49.1574468325115]
  DNN(Deep Neural Networks)の正規化は、一般化性の向上とオーバーフィッティングの防止に不可欠である。 制約付き最適化問題としてトレーニングプロセスのフレーミングによるDNN正規化に対する新しいアプローチを提案する。 我々はAugmented Lagrangian (SAL) 法を用いて、より柔軟で効率的な正規化機構を実現する。
  論文  参考訳（メタデータ） (2023-10-25T13:55:35Z)
• Outlier-robust neural network training: variation regularization meets trimmed loss to prevent functional breakdown [2.5628953713168685]
  我々は,高度に表現力のあるニューラルネットワークを用いた外乱予測モデリングの課題に取り組む。 提案手法は,(1)変換トリミング損失(TTL)と(2)高次変動正規化(HOVR)の2つの重要な要素を統合し,予測関数に滑らかさの制約を課す。
  論文  参考訳（メタデータ） (2023-08-04T12:57:13Z)
• Lipschitz Continuity Retained Binary Neural Network [52.17734681659175]
  我々は,BNNのモデルロバスト性を定義するための厳密な基準として,リプシッツ連続性を導入する。 次に、モデルロバスト性を改善するための正規化項としてリプシッツ連続性を維持することを提案する。 実験により,我々のBNN固有の正規化手法は,BNNの堅牢性を効果的に強化できることが証明された。
  論文  参考訳（メタデータ） (2022-07-13T22:55:04Z)
• Unlabelled Data Improves Bayesian Uncertainty Calibration under Covariate Shift [100.52588638477862]
  後続正則化に基づく近似ベイズ推定法を開発した。 前立腺癌の予後モデルを世界規模で導入する上で,本手法の有用性を実証する。
  論文  参考訳（メタデータ） (2020-06-26T13:50:19Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。