論文の概要: SPEAR: Structure Property Explainability with Attention Regularization
- arxiv url: http://arxiv.org/abs/2608.13826v1
- Date: Thu, 13 Aug 2026 23:24:43 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-17 20:14:29.223768
- Title: SPEAR: Structure Property Explainability with Attention Regularization
- Title(参考訳): SPEAR: 注意規則化による構造的特性説明可能性
- Abstract要約: 本研究では,SPEAR(Structure Property Explainability with Attention Regularization)について紹介する。
SPEARは注意に基づく回帰を、注意集中を制御する学習可能な温度と、近隣のスペクトル位置のコヒーレンスを強制する滑らかなペナルティで強化する。
注意規則化は, 予測精度を維持しつつ, 因果的特徴に整合したスムーズで連続的な帰属プロファイルを生成することを示す。
- 参考スコア(独自算出の注目度): 0.6055934915901143
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Machine learning is increasingly used to learn structure property relationships from spectroscopic and diffraction data, yet its adoption in materials discovery is often limited by poor interpretability of model predictions. Although attention mechanisms are frequently treated as inherently explainable, unregularized attention can yield unstable, fragmented, or intensity driven attribution patterns that obscure the physical origin of these relationships. Here we introduce SPEAR (Structure Property Explainability with Attention Regularization), a framework that constrains attention distributions during training to improve their stability, selectivity, and physical interpretability. SPEAR augments attention based regression with a learnable temperature that controls attention concentration and a smoothness penalty that enforces coherence across neighboring spectral positions, treating attention as a learnable explanatory object rather than a post hoc visualization. Using synthetic spectral benchmarks with known generative structure, we show that attention regularization produces smooth, contiguous attribution profiles aligned with causal features while preserving predictive accuracy. Applied to experimental X ray diffraction data from a combinatorial rare earth zirconate thin film library, the regularized model selectively emphasizes physically relevant diffraction features and decouples feature importance from raw peak intensity. The reflection it identified prompted a reassessment of our earlier structural analysis, revealing a correlation between the 220 peak position, the tetragonal distortion that accommodates cation size disorder, and the local thermal conductivity. Attention regularization therefore provides a principled training constraint for explainable structure property regression, yielding mechanistically meaningful explanations without sacrificing predictive performance.
- Abstract(参考訳): 機械学習は、分光データや回折データから構造的特性関係を学習するためにますます使われているが、物質発見におけるその採用は、モデル予測の解釈可能性の貧弱さによって制限されることが多い。
注意機構はしばしば本質的に説明可能なものとして扱われるが、規則化されていない注意は、これらの関係の物理的起源を曖昧にする不安定、断片化、あるいは強度駆動的な帰属パターンをもたらす可能性がある。
本稿では,SPEAR(Structure Property Explainability with Attention Regularization)について紹介する。
SPEARは、注意集中を制御する学習可能な温度と、近隣のスペクトル位置のコヒーレンスを強制する滑らかなペナルティによって、注意を学習可能な説明対象として扱い、ポストホック視覚化よりも学習可能な説明対象として扱う。
合成スペクトルベンチマークを用いて、注意規則化は、予測精度を維持しつつ、因果的特徴に整合したスムーズで連続的な属性プロファイルを生成することを示す。
合成希土類ジルコネート薄膜ライブラリを用いた実験X線回折データに適用すると, 正規化モデルは物理的に関係のある回折特性を選択的に強調し, 原ピーク強度から特徴を分離する。
反射は初期の構造解析を再評価し、220のピーク位置、カチオンサイズ障害を許容する四角形歪み、局所熱伝導率の相関関係を明らかにした。
したがって、注意規則化は、予測性能を犠牲にすることなく機械的に意味のある説明を与える、説明可能な構造特性の回帰のための原則化された訓練制約を提供する。
関連論文リスト
- NVExplain: Explaining Time Series Forecasting with Latent Trajectory Analysis and Structure-Preserving Surrogates [2.0320459617688793]
時系列予測モデルは、ハイテイクな設定で広く使われている。
既存のポストホック法はしばしば時間的依存を無視し、地平線固有の説明を提供しない。
本稿では,各予測地平線を時間的関係のある歴史的遅れに寄与させることで予測予測を説明するモデルに依存しない説明可能性フレームワークを提案する。
論文 参考訳(メタデータ) (2026-08-25T19:14:12Z) - PhysAttNet: Enhancing Predictive Performance in Industrial and Astrophysical Time Series via Physics-Informed Attention [2.4965742139895313]
PhysAttNetは、時系列予測のための物理インフォームドアテンションフレームワークである。
ドメインインフォームド・レギュラー化によって誘導される注目ヘッドを備えた軽量CNN予測器を増強する。
構造的に重要なイベントの予測精度、一般化、予測性能を改善する。
論文 参考訳(メタデータ) (2026-08-07T18:09:31Z) - Improving Adversarial Robustness of Attribution via Implicit Regularization [9.78455276849371]
属性の敵対的堅牢性は、深層学習における信頼性説明可能性の基本的な要件である。
我々は、標準勾配降下の学習力学から頑健性が暗黙的に生じることを示した。
本研究は,ロバストな説明可能性のための原理的かつ実践的なメカニズムとして,学習力学を強調した。
論文 参考訳(メタデータ) (2026-05-28T14:19:39Z) - K-Models: a Flexible and Interpretable Method for Ordinal Clustering with Application to Antigen-Antibody Interaction Profiles [65.21921642886367]
K-Modelsは、順序的制約を統合し、観察された機能プロファイルを生成するランダムプロセスの基本的な要素を推定する新しいフレームワークである。
提案手法はシミュレーションと実世界の応用を通して評価する。
論文 参考訳(メタデータ) (2026-05-14T13:35:44Z) - SLASH the Sink: Sharpening Structural Attention Inside LLMs [55.75072688988806]
大規模言語モデル(LLM)は目覚ましい意味的理解を示すが、連続化されたフォーマットでグラフトポロジを処理する際に構造的理解に苦慮する。
本稿では,StructuraL Attention SHarpening (SLASH)を提案する。
論文 参考訳(メタデータ) (2026-05-11T12:59:07Z) - Explicit Dropout: Deterministic Regularization for Transformer Architectures [55.09895958546215]
ドロップアウトはディープラーニングにおいて広く使われている正規化手法であるが、その効果は一般的にマスキングによって実現される。
トレーニング損失に直接組み込まれた加算正則化器としてドロップアウトを表現する決定論的定式化を提案する。
論文 参考訳(メタデータ) (2026-04-22T12:45:51Z) - Causal-INSIGHT: Probing Temporal Models to Extract Causal Structure [4.718641165826564]
Causal-INSIGHTは、訓練された時間的予測器からモデル実装された(予測者に依存しない)時間的な影響構造を抽出するためのモデルに依存しない、ポストホックな解釈フレームワークである。
提案するQbicは,地平線グラフラベルを必要とせずに,予測忠実度と構造的複雑さのバランスをとる,空間性を考慮したグラフ選択基準である。
論文 参考訳(メタデータ) (2026-03-26T14:16:37Z) - Geometric Observability Index: An Operator-Theoretic Framework for Per-Feature Sensitivity, Weak Observability, and Dynamic Effects in SE(3) Pose Estimation [0.552480439325792]
本稿では,Lie群SE(3)におけるカメラポーズ推定における機能ごとの感度を解析するための統一演算子理論フレームワークを提案する。
影響関数論を行列リー群に拡張し、SE(3) 上の左自明な M-推定子に対する固有摂動作用素を導出する。
結果として得られる幾何可観測性指数(GOI)は、曲率演算子と可観測部分空間のリー代数構造による単一の測定の寄与を定量化する。
論文 参考訳(メタデータ) (2026-02-05T12:12:00Z) - Defining Energy Indicators for Impact Identification on Aerospace Composites: A Physics-Informed Machine Learning Perspective [0.4104921880358479]
エネルギー推定は、航空宇宙複合材料に対する影響の同定に重要である。
本研究では、ドメイン知識を機械学習に組み込む物理インフォームドフレームワークを紹介する。
論文 参考訳(メタデータ) (2025-11-03T13:58:03Z) - Transformers Learn Faster with Semantic Focus [57.97235825738412]
学習性と一般化の観点からスパース変圧器について検討する。
入力依存のスパースアテンションモデルは、標準アテンションモデルよりも早く収束し、より一般化しているように見える。
論文 参考訳(メタデータ) (2025-06-17T01:19:28Z) - Nonparametric Partial Disentanglement via Mechanism Sparsity: Sparse
Actions, Interventions and Sparse Temporal Dependencies [58.179981892921056]
この研究は、メカニズムのスパーシティ正則化(英語版)と呼ばれる、アンタングルメントの新たな原理を導入する。
本稿では,潜在要因を同時に学習することで,絡み合いを誘発する表現学習手法を提案する。
学習した因果グラフをスパースに規則化することにより、潜伏因子を復元できることを示す。
論文 参考訳(メタデータ) (2024-01-10T02:38:21Z) - Discovering Latent Causal Variables via Mechanism Sparsity: A New
Principle for Nonlinear ICA [81.4991350761909]
ICA(Independent component analysis)は、この目的を定式化し、実用的な応用のための推定手順を提供する手法の集合を指す。
潜伏変数は、潜伏機構をスパースに正則化すれば、置換まで復元可能であることを示す。
論文 参考訳(メタデータ) (2021-07-21T14:22:14Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。