Fugu-MT 論文翻訳(概要): Causal Abstraction in Model Interpretability: A Compact Survey

論文の概要: Causal Abstraction in Model Interpretability: A Compact Survey

arxiv url: http://arxiv.org/abs/2410.20161v1
Date: Sat, 26 Oct 2024 12:24:28 GMT
ステータス: 翻訳完了
システム内更新日: 2024-10-29 12:19:23.915626
Title: Causal Abstraction in Model Interpretability: A Compact Survey
Title（参考訳）: モデル解釈可能性における因果的抽象化:コンパクトな調査
Authors: Yihao Zhang,
Abstract要約: 因果的抽象化は、モデル行動の基礎となる因果的メカニズムを理解し説明するための原則化されたアプローチを提供する。本研究は, 因果的抽象の領域を掘り下げ, その理論的基礎, 実践的応用, モデル解釈可能性の分野への含意について考察する。
参考スコア（独自算出の注目度）: 5.963324728136442
License:
Abstract: The pursuit of interpretable artificial intelligence has led to significant advancements in the development of methods that aim to explain the decision-making processes of complex models, such as deep learning systems. Among these methods, causal abstraction stands out as a theoretical framework that provides a principled approach to understanding and explaining the causal mechanisms underlying model behavior. This survey paper delves into the realm of causal abstraction, examining its theoretical foundations, practical applications, and implications for the field of model interpretability.
Abstract（参考訳）: 解釈可能な人工知能の追求は、深層学習システムのような複雑なモデルの意思決定過程を説明する手法の開発において、大きな進歩をもたらした。これらの手法の中で、因果的抽象化は、モデル行動の基礎となる因果的メカニズムを理解し説明するための原則的アプローチを提供する理論的枠組みとして際立っている。本研究は, 因果的抽象の領域を掘り下げ, その理論的基礎, 実践的応用, モデル解釈可能性の分野への含意について考察する。

関連論文リスト

Learning Discrete Concepts in Latent Hierarchical Models [73.01229236386148]
自然の高次元データから学習する概念は、ヒューマンアライメントと解釈可能な機械学習モデルの構築の可能性を秘めている。我々は概念を階層的因果モデルを通して関連付けられた離散潜在因果変数として定式化する。我々は、理論的な主張を合成データ実験で裏付ける。
論文参考訳（メタデータ） (2024-06-01T18:01:03Z)
Inverse Decision Modeling: Learning Interpretable Representations of Behavior [72.80902932543474]
我々は,逆決定モデルに関する表現的,統一的な視点を開拓する。これを逆問題(記述モデルとして)の形式化に用います。この構造が(有界な)有理性の学習(解釈可能な)表現を可能にする方法について説明する。
論文参考訳（メタデータ） (2023-10-28T05:05:01Z)
Explainability for Large Language Models: A Survey [59.67574757137078]
大規模言語モデル(LLM)は、自然言語処理における印象的な能力を示している。本稿では,トランスフォーマーに基づく言語モデルを記述する手法について,説明可能性の分類法を紹介した。
論文参考訳（メタデータ） (2023-09-02T22:14:26Z)
Causal Abstraction: A Theoretical Foundation for Mechanistic Interpretability [30.76910454663951]
因果抽象化は機械的解釈可能性の理論的基盤を提供する。我々の貢献は、メカニズム置換から任意のメカニズム変換への因果的抽象化の理論の一般化である。
論文参考訳（メタデータ） (2023-01-11T20:42:41Z)
Abstract Interpretation for Generalized Heuristic Search in Model-Based Planning [50.96320003643406]
ドメイン・ジェネラル・モデル・ベース・プランナーは、しばしば記号的世界モデルの緩和を通じて探索を構築することによって一般性を導出する。抽象解釈がこれらの抽象化の統一フレームワークとして機能し、よりリッチな世界モデルに探索の範囲を広げる方法について説明する。また、これらは学習と統合することができ、エージェントは抽象的な情報を通じて、新しい世界のモデルで計画を開始することができる。
論文参考訳（メタデータ） (2022-08-05T00:22:11Z)
Towards Computing an Optimal Abstraction for Structural Causal Models [16.17846886492361]
我々は抽象学習の問題に焦点をあてる。我々は,情報損失の具体的な尺度を提案し,その新しい抽象化の学習への貢献について説明する。
論文参考訳（メタデータ） (2022-08-01T14:35:57Z)
Causal Dynamics Learning for Task-Independent State Abstraction [61.707048209272884]
タスク独立状態抽象化(CDL)のための因果ダイナミクス学習を導入する。 CDLは、状態変数とアクションの間の不要な依存関係を取り除く理論的に証明された因果ダイナミクスモデルを学ぶ。状態抽象化は、学習されたダイナミクスから導き出すことができる。
論文参考訳（メタデータ） (2022-06-27T17:02:53Z)
Towards Interpretable Reasoning over Paragraph Effects in Situation [126.65672196760345]
我々は,原因と効果を理解するためのモデルを必要とする状況において,段落効果を推論する作業に焦点をあてる。本稿では,ニューラルネットワークモジュールを用いた推論プロセスの各ステップを明示的にモデル化する逐次的手法を提案する。特に、5つの推論モジュールはエンドツーエンドで設計され、学習され、より解釈可能なモデルにつながる。
論文参考訳（メタデータ） (2020-10-03T04:03:52Z)
Knowledge Patterns [19.57676317580847]
本稿では,公理に富む形式オントロジー構築を支援する新しい手法である「知識パターン」について述べる。知識パターンは、形式オントロジーの構造に関する重要な洞察を提供する。それらを使って構築されたテクニックとアプリケーションを説明し、その強みと弱点を批判する。
論文参考訳（メタデータ） (2020-05-08T22:33:30Z)
The Pragmatic Turn in Explainable Artificial Intelligence (XAI) [0.0]
私は、AIにおける説明可能なモデルと解釈可能な決定の探索は、AIにおける理解の実践的で自然主義的な説明を提供するというより広いプロジェクトの観点から、再編成されなければならないと論じます。解釈モデルや近似モデルは、機械学習モデルの客観的理解に最適な方法を提供するだけでなく、ポストホックな解釈可能性を実現するために必要な条件でもあると結論付けます。
論文参考訳（メタデータ） (2020-02-22T01:40:01Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。