Fugu-MT 論文翻訳(概要): Challenges in interpretability of additive models

論文の概要: Challenges in interpretability of additive models

arxiv url: http://arxiv.org/abs/2504.10169v1
Date: Mon, 14 Apr 2025 12:24:17 GMT
ステータス: 翻訳完了
システム内更新日: 2025-04-15 16:55:03.618352
Title: Challenges in interpretability of additive models
Title（参考訳）: 加法モデルの解釈可能性の課題
Authors: Xinyu Zhang, Julien Martinelli, ST John,
Abstract要約: このモデルクラスでは、複数のタイプの非識別性を強調します。このようなモデルにおける「解釈可能性」や「安全クリティカルなアプリケーション」に対する適合性を主張する場合の抑制を論じる。
参考スコア（独自算出の注目度）: 8.650551367438778
License:
Abstract: We review generalized additive models as a type of ``transparent'' model that has recently seen renewed interest in the deep learning community as neural additive models. We highlight multiple types of nonidentifiability in this model class and discuss challenges in interpretability, arguing for restraint when claiming ``interpretability'' or ``suitability for safety-critical applications'' of such models.
Abstract（参考訳）: 我々は、最近ディープラーニングコミュニティにニューラルな付加モデルとして新たな関心が寄せられている「透明」モデルのタイプとして一般化された加法モデルについてレビューする。このようなモデルの「解釈可能性」や「安全クリティカルなアプリケーションへの適合性」を主張する場合の「解釈可能性」を論じ、解釈可能性の課題について議論する。

関連論文リスト

Towards Compositional Interpretability for XAI [3.3768167170511587]
本稿では,カテゴリ理論に基づくAIモデルとその解釈可能性の定義手法を提案する。我々は、幅広いAIモデルを構成モデルと比較する。標準の'本質的に解釈可能な'モデルを作るものは、最も明確に図式化されます。
論文参考訳（メタデータ） (2024-06-25T14:27:03Z)
Are Neural Topic Models Broken? [81.15470302729638]
トピックモデルの自動評価と人的評価の関係について検討する。ニューラルトピックモデルは、確立された古典的手法と比較して、両方の点においてより悪くなる。
論文参考訳（メタデータ） (2022-10-28T14:38:50Z)
Evaluating Disentanglement in Generative Models Without Knowledge of Latent Factors [71.79984112148865]
本稿では,学習中に提示される学習力学に基づいて生成モデルのランキング付けを行う手法を提案する。本手法は,近年の解離の理論的特徴から着想を得たものであり,その根底にある潜伏因子の監督は不要である。
論文参考訳（メタデータ） (2022-10-04T17:27:29Z)
Towards Interpretable Deep Reinforcement Learning Models via Inverse Reinforcement Learning [27.841725567976315]
本稿では,逆逆強化学習を利用した新しいフレームワークを提案する。このフレームワークは、強化学習モデルによる決定のグローバルな説明を提供する。モデルの意思決定過程を要約することで、モデルが従う直感的な傾向を捉える。
論文参考訳（メタデータ） (2022-03-30T17:01:59Z)
Recurrence-Aware Long-Term Cognitive Network for Explainable Pattern Classification [0.0]
構造化データの解釈可能なパターン分類のためのLCCNモデルを提案する。本手法は, 決定過程における各特徴の関連性を定量化し, 説明を提供する独自のメカニズムを提供する。解釈可能なモデルでは,最先端の白黒ボックスと比較して競争性能が向上する。
論文参考訳（メタデータ） (2021-07-07T18:14:50Z)
Beyond Trivial Counterfactual Explanations with Diverse Valuable Explanations [64.85696493596821]
コンピュータビジョンの応用において、生成的対実法はモデルの入力を摂動させて予測を変更する方法を示す。本稿では,多様性強化損失を用いて制約される不連続潜在空間における摂動を学習する反事実法を提案する。このモデルは, 従来の最先端手法と比較して, 高品質な説明を生産する成功率を向上させる。
論文参考訳（メタデータ） (2021-03-18T12:57:34Z)
On the Transferability of Adversarial Attacksagainst Neural Text Classifier [121.6758865857686]
テキスト分類モデルの逆例の転送可能性について検討する。本稿では,ほとんどすべての既存モデルを騙すために,敵の例を誘導できるモデル群を見つける遺伝的アルゴリズムを提案する。これらの逆例からモデル診断に使用できる単語置換規則を導出する。
論文参考訳（メタデータ） (2020-11-17T10:45:05Z)
Improving the Reconstruction of Disentangled Representation Learners via Multi-Stage Modeling [54.94763543386523]
現在の自己エンコーダに基づく非絡み合い表現学習法は、(集合体)後部をペナルティ化し、潜伏因子の統計的独立を促進することで、非絡み合いを実現する。本稿では,不整合因子をペナルティに基づく不整合表現学習法を用いて学習する,新しい多段階モデリング手法を提案する。次に、低品質な再構成を、欠落した関連潜伏変数をモデル化するために訓練された別の深層生成モデルで改善する。
論文参考訳（メタデータ） (2020-10-25T18:51:15Z)
Explainable Matrix -- Visualization for Global and Local Interpretability of Random Forest Classification Ensembles [78.6363825307044]
本研究では,ランダムフォレスト (RF) 解釈のための新しい可視化手法である Explainable Matrix (ExMatrix) を提案する。単純なマトリックスのようなメタファで、行はルール、列は特徴、セルはルールを述語する。 ExMatrixの適用性は、異なる例を通じて確認され、RFモデルの解釈可能性を促進するために実際にどのように使用できるかを示している。
論文参考訳（メタデータ） (2020-05-08T21:03:48Z)
Towards Explainability of Machine Learning Models in Insurance Pricing [0.0]
本論では, 不動産におけるモデル解釈可能性の必要性について論じる。モデルを説明するためのフレームワークを提案し,そのフレームワークを説明するケーススタディを提案する。
論文参考訳（メタデータ） (2020-03-24T05:51:30Z)
Causal Interpretability for Machine Learning -- Problems, Methods and Evaluation [30.664546254344593]
ほとんどの機械学習モデルはブラックボックスであり、それらがどのように決定されるかは明確ではない。これらのモデルの意思決定プロセスに関する洞察を提供するため、様々な従来の解釈可能なモデルが提案されている。この研究では、因果的疑問に答えようとするモデルを因果的解釈可能なモデルと呼ぶ。
論文参考訳（メタデータ） (2020-03-09T06:16:00Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。