Fugu-MT 論文翻訳(概要): Actionable Interpretability Must Be Defined in Terms of Symmetries

論文の概要: Actionable Interpretability Must Be Defined in Terms of Symmetries

arxiv url: http://arxiv.org/abs/2601.12913v1
Date: Mon, 19 Jan 2026 10:10:17 GMT
ステータス: 翻訳完了
システム内更新日: 2026-01-21 22:47:22.852428
Title: Actionable Interpretability Must Be Defined in Terms of Symmetries
Title（参考訳）: 対称性の観点で解釈可能性を定義する必要がある
Authors: Pietro Barbiero, Mateo Espinosa Zarlenga, Francesco Giannini, Alberto Termine, Filippo Bonchi, Mateja Jamnik, Giuseppe Marra,
Abstract要約: 本稿では、人工知能における解釈可能性研究は、既存の解釈可能性の定義が*動作可能ではないため、基本的に不適切である、と論じる。我々は、解釈可能性の定義が作用可能であるためには、*対称性*の観点で与えられる必要があると仮定する。
参考スコア（独自算出の注目度）: 37.964025348175504
License: http://creativecommons.org/licenses/by/4.0/
Abstract: This paper argues that interpretability research in Artificial Intelligence is fundamentally ill-posed as existing definitions of interpretability are not *actionable*: they fail to provide formal principles from which concrete modelling and inferential rules can be derived. We posit that for a definition of interpretability to be actionable, it must be given in terms of *symmetries*. We hypothesise that four symmetries suffice to (i) motivate core interpretability properties, (ii) characterize the class of interpretable models, and (iii) derive a unified formulation of interpretable inference (e.g., alignment, interventions, and counterfactuals) as a form of Bayesian inversion.
Abstract（参考訳）: 本稿では, 人工知能における解釈可能性研究は, 既存の解釈可能性の定義が*動作可能ではないため, 基本的には不適切である,と論じる。我々は、解釈可能性の定義が作用可能であるためには、*対称性*の観点で与えられる必要があると仮定する。我々は4つの対称性が十分であると仮定する (i)コア解釈可能性特性を動機づける (ii)解釈可能なモデルのクラスを特徴づけ、三ベイズ的逆転の一形態として解釈可能な推論(例えば、アライメント、介入、反事実)を統一的に定式化すること。

関連論文リスト

Maxitive Donsker-Varadhan Formulation for Possibilistic Variational Inference [5.621958475334369]
我々は確率的変分推論の原理的定式化を開発する。これを指数関数の特殊クラスに適用すると、確率論的関数と平行点が強調される。
論文参考訳（メタデータ） (2025-11-26T09:53:28Z)
Towards the Formalization of a Trustworthy AI for Mining Interpretable Models explOiting Sophisticated Algorithms [4.587316936127635]
解釈可能な設計モデルは、信頼、説明責任、そして現実世界のアプリケーションにおける自動意思決定モデルの安全な採用を促進するために不可欠である。我々は、解釈可能性と性能のバランスをとる予測モデルを生成するための包括的な方法論を定式化する。モデル生成時の倫理的措置を評価することにより、この枠組みはAIシステムの開発のための理論的基盤を確立する。
論文参考訳（メタデータ） (2025-10-23T14:54:33Z)
The Foundations of Tokenization: Statistical and Computational Concerns [51.370165245628975]
トークン化は、NLPパイプラインにおける重要なステップである。 NLPにおける標準表現法としての重要性は認識されているが、トークン化の理論的基盤はまだ完全には理解されていない。本稿では,トークン化モデルの表現と解析のための統一的な形式的枠組みを提案することによって,この理論的ギャップに対処することに貢献している。
論文参考訳（メタデータ） (2024-07-16T11:12:28Z)
Model Interpretation and Explainability: Towards Creating Transparency in Prediction Models [0.0]
説明可能なAI(XAI)には、モデル説明可能性と呼ばれる分析モデルがある。クレジットカード会社からの融資のデータセットを分析し、4つの異なる予測手法を実行・比較し、現在の文献で最もよく知られた説明可能性手法をモデルトレーニングセットに適用し、特徴重要度(FI)を識別する(静的ケース)。静的ケースと動的ケースのFI識別に矛盾が認められた。
論文参考訳（メタデータ） (2024-05-31T13:54:25Z)
Phenomenal Yet Puzzling: Testing Inductive Reasoning Capabilities of Language Models with Hypothesis Refinement [92.61557711360652]
言語モデル(LM)は、しばしば帰納的推論に不足する。我々は,反復的仮説修正を通じて,LMの帰納的推論能力を体系的に研究する。本研究は, LMの誘導的推論過程と人間とのいくつかの相違点を明らかにし, 誘導的推論タスクにおけるLMの使用の可能性と限界に光を当てる。
論文参考訳（メタデータ） (2023-10-12T17:51:10Z)
Evaluating the Robustness of Interpretability Methods through Explanation Invariance and Equivariance [72.50214227616728]
解釈可能性法は、それらの説明が説明されたモデルを忠実に記述した場合にのみ有用である。特定の対称性群の下で予測が不変であるニューラルネットワークを考える。
論文参考訳（メタデータ） (2023-04-13T17:59:03Z)
Logical Satisfiability of Counterfactuals for Faithful Explanations in NLI [60.142926537264714]
本稿では, 忠実度スルー・カウンタファクトの方法論について紹介する。これは、説明に表される論理述語に基づいて、反実仮説を生成する。そして、そのモデルが表現された論理と反ファクトの予測が一致しているかどうかを評価する。
論文参考訳（メタデータ） (2022-05-25T03:40:59Z)
Explainability in Process Outcome Prediction: Guidelines to Obtain Interpretable and Faithful Models [77.34726150561087]
本稿では、プロセス結果予測の分野における説明可能性モデルと説明可能性モデルの忠実性を通して、説明可能性を定義する。本稿では,イベントログの仕様に基づいて適切なモデルを選択することのできる,X-MOPというガイドラインのセットを提案する。
論文参考訳（メタデータ） (2022-03-30T05:59:50Z)
Distributional Formal Semantics [0.18352113484137625]
形式モデルレベルでの形式的意味論システムへの分布性を統合する分布形式的セマンティクスを提案する。このアプローチは、本質的に構成的である確率的で分散的な意味表現を提供する。これらの表現が確率的推論を可能にする方法と、「情報」の情報理論的概念がそれから自然に従う方法を示す。
論文参考訳（メタデータ） (2021-03-02T13:38:00Z)
Trust but Verify: Assigning Prediction Credibility by Counterfactual Constrained Learning [123.3472310767721]
予測信頼性尺度は統計学と機械学習において基本的なものである。これらの措置は、実際に使用される多種多様なモデルを考慮に入れるべきである。この研究で開発されたフレームワークは、リスクフィットのトレードオフとして信頼性を表現している。
論文参考訳（メタデータ） (2020-11-24T19:52:38Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。