論文の概要: The Quadrilateral Loss: Additivity as a Measurable Behavior of Dense Neural Networks
- arxiv url: http://arxiv.org/abs/2607.20201v1
- Date: Wed, 22 Jul 2026 14:23:37 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-23 18:51:38.111668
- Title: The Quadrilateral Loss: Additivity as a Measurable Behavior of Dense Neural Networks
- Title（参考訳）: 四辺損失:高密度ニューラルネットワークの計測可能な挙動としての付加性
- Authors: Antonio Di Cecco,
- Abstract要約: 積算性を測定可能な振る舞いとして扱う4次的損失,すなわち微分可能なペナルティを導入する。
我々は, 正確な添加率, 構造マスク, 行動的ペナルティ, 体重減少, バックフィッティング, 共有断面モデル, バンチ強化切り株の経路を比較した。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Additive models buy interpretability by forbidding feature interactions, a constraint that neural instantiations enforce architecturally. We introduce the quadrilateral loss, a differentiable penalty that treats additivity as a measurable behavior instead: a second-order mixed difference on pairs of training points swapping one coordinate, which vanishes if and only if the coordinate carries no interaction, remains informative for piecewise-linear networks, and equals in expectation the per-coordinate interaction mass of the interventional Shapley-GAM. The loss turns additivity into a dial - most learned interactions prove removable almost for free, and on small datasets a moderate penalty improves accuracy and additivity simultaneously - and into an online observable: its per-feature surrender curves show, across seeds and datasets, that pre-regularization interaction magnitude barely predicts what a regularized model retains, undermining post-hoc interaction rankings. Against this instrument we compare routes to exact additivity, spanning structural masks, behavioral penalties (optionally crystallized into exact structure), weight decay, backfitting, the shared-section model, and bagged boosted stumps: constraining behavior before structure dominates weight-space constraints, rankings reverse between data regimes, and converging routes agree on the shape functions themselves. Three silent failure modes we document share one anatomy: guarantees imported into settings that quietly void their preconditions.
- Abstract（参考訳）: 付加モデルは、ニューラルインスタンス化がアーキテクチャ的に強制する制約である機能相互作用を禁止して解釈可能性を取得する。
1つの座標を交互に交換する2次混合差は、座標が相互作用を持たない場合にのみ消滅し、一方向線形ネットワークに対して情報的であり、干渉シャプリー-GAMの座標間相互作用質量を期待するときに等しい。
小さなデータセットでは、適度なペナルティによって正確性と付加性が同時に向上し、オンライン観測可能になります。その機能ごとの降伏曲線は、種子やデータセット全体にわたって、正規化前のインタラクションの規模は、正規化モデルが保持するものをわずかに予測し、ポストホックなインタラクションランキングを損ないます。
この装置に対して、我々は、厳密な付加性へのルート、構造マスク、行動ペナルティ(任意に正確な構造に結晶化される)、ウェイト崩壊、バックフィッティング、共有セクションモデル、およびタグ付きブーストされた切り株と比較する: 構造が重み空間の制約を支配下に置く前に、行動が重み空間の制約を支配、データ構造間の逆のランク付け、および収束ルートは、形状関数自体に一致する。
ドキュメントにある3つのサイレント障害モードは1つの解剖を共有します。
関連論文リスト
- CDS: Counterfactual Directionality Score for Structured Interventions in Spatial Graphs [0.0]
本稿では,ノード間の指向性の影響を推定するために,グラフベースモデルにおける非実効的介入を構造化するフレームワークを提案する。
我々の手法は、近隣地域からノード状態を予測するために、Nighbor Influence Model (NIM) を訓練する。
我々は,目標摂動による予測ノード状態の変化を計測するCDS(Conserfactal Directionality Score)を定義した。
論文 参考訳（メタデータ） (2026-07-15T07:02:33Z) - The Representational Limit of Scalar Interactions: An Interventional Decomposition [9.850981754860754]
署名されたペア相互作用スコアが、一意性(U)、冗長性(R)、シナジー(S)を根本的に説明することを証明する。
介入マスクによる推定により,機能当たりのU/R/Sプロファイルを推定する,ポストホックかつリトレーニング不要な予測可能性分解であるHi-Fiを導入する。
論文 参考訳（メタデータ） (2026-06-17T15:21:28Z) - Repurposing Adversarial Perturbations for Continual Learning: From Defense to Active Alignment [20.37950128370149]
AdvCLは3つのプラグインモジュールを組み合わせている:-Smoothは小さな対向的摂動によって局所的な滑らかさを促進する; Proto-Clipは、現在のタスクプロトタイプへの過剰なアライメントを防ぐために類似性クリッピングを使用する; Inter-Alignは、表現的ギャップを減らすために、以前のタスクプロトタイプに対して方向アライメントを適用する。
実験では、標準性能とロバスト性の両方で一貫した利得を示し、忘れられやすく、より強い転送が可能である。
論文 参考訳（メタデータ） (2026-06-01T14:35:59Z) - On the Structural Non-Preservation of Epistemic Behaviour under Policy Transformation [51.56484100374058]
このような情報条件の相互作用パターンを振る舞い依存として定式化する。
これにより、$$-behavioural equivalenceというプローブ相対的な概念と、政治内行動距離が導かれる。
その結果、共通政策変換の下でプローブ条件の挙動分離が保存されない構造条件が明らかになった。
論文 参考訳（メタデータ） (2026-02-24T22:55:21Z) - Generalizing GNNs with Tokenized Mixture of Experts [75.8310720413187]
安定性の向上には,変化に敏感な特徴への依存を低減し,既約最悪の一般化フロアを残す必要があることを示す。
本研究では,STEM-GNNを提案する。STEM-GNN,STEM-GNN,STEM-GNN,STEM-GNN,STEM-GNN,STEM-GNN,STEM-GNN,STEM-GNN,STEM-GNN。
9つのノード、リンク、グラフのベンチマークで、STEM-GNNはより強力な3方向バランスを実現し、クリアグラフ上での競争力を維持しながら、次数/ホモフィリーシフトや特徴/エッジの破損に対する堅牢性を改善している。
論文 参考訳（メタデータ） (2026-02-09T22:48:30Z) - Geometric-Disentangelment Unlearning [106.99160454669902]
忘れたサンプルへの勾配は しばしば 保持された知識を傷つける
本稿では,GU(Geometric-disment Unlearning)を提案する。
本手法はプラグ・アンド・プレイであり,既存の勾配に基づくアンラーニング手法と併用することで副作用を軽減できる。
論文 参考訳（メタデータ） (2025-11-21T09:58:25Z) - The Butterfly Effect: Neural Network Training Trajectories Are Highly Sensitive to Initial Conditions [51.68215326304272]
たとえ小さな摂動であっても、同じ訓練軌跡を確実に引き起こすことで、トレーニング時間とともに急速に減少する効果が発散することを示します。
この結果から,ニューラルネットワークのトレーニング安定性,微調整,モデルマージ,モデルアンサンブルの多様性の実践的意味が示唆された。
論文 参考訳（メタデータ） (2025-06-16T08:35:16Z) - Towards Continual Learning Desiderata via HSIC-Bottleneck
Orthogonalization and Equiangular Embedding [55.107555305760954]
本稿では,レイヤワイドパラメータのオーバーライトや決定境界の歪みに起因する,概念的にシンプルで効果的な手法を提案する。
提案手法は,ゼロの指数バッファと1.02倍の差が絶対的に優れていても,競争精度が向上する。
論文 参考訳（メタデータ） (2024-01-17T09:01:29Z) - Improving Neural Additive Models with Bayesian Principles [54.29602161803093]
ニューラル加算モデル(NAM)は、個別の加算サブネットワークでキャリブレーションされた入力特徴を扱うことにより、ディープニューラルネットワークの透明性を高める。
本研究では,Laplace-approximated NAM (LA-NAMs) を開発した。
論文 参考訳（メタデータ） (2023-05-26T13:19:15Z) - GAMI-Net: An Explainable Neural Network based on Generalized Additive
Models with Structured Interactions [5.8010446129208155]
構造的相互作用を持つ一般化付加モデル(GAMI-Net)に基づく説明可能なニューラルネットワークを提案し,予測精度とモデル解釈可能性とのバランスを良好に追求する。
GAMI-Net(英語版)は、複数の添加物を持つ非絡み合ったフィードフォワードネットワークである。
合成関数と実世界のデータセットの双方に関する数値実験により,提案モデルが優れた解釈性を有することが示された。
論文 参考訳（メタデータ） (2020-03-16T11:51:38Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。