論文の概要: Interpreting "Interpretability" and Explaining "Explainability" in Machine Learning in Physics

• arxiv url: http://arxiv.org/abs/2606.26228v1
• Date: Wed, 24 Jun 2026 18:00:01 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-26 18:46:32.035867
• Title: Interpreting "Interpretability" and Explaining "Explainability" in Machine Learning in Physics
• Title（参考訳）: 物理における機械学習における「解釈可能性」と「説明可能性」の解釈
• Abstract要約: 物理学における機械学習における解釈可能性と説明可能性の概念を概観する。 我々は、機械学習モデルは古典モデルと同じ科学的問題の対象であり、規模だけが異なることを強調する。
• 参考スコア（独自算出の注目度）: 0.6372261626436676
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: We review the concepts of interpretability and explainability as they apply to machine learning in physics. We define interpretability as concerning the structural transparency of a model (the ability to understand or approximate its inner workings) and explainability as concerning the scientific content of a model (the ability to map it onto domain knowledge). We discuss the trade-offs each entails (interpretability vs. expressivity; explainability vs. adaptability), the contexts in which each is needed, and the intrinsic and post-hoc tools available for achieving them. Throughout, we emphasize that machine-learned models are subject to the same scientific questions as classical models, differing only in scale, and that interpretability and explainability are best understood as deliberate modeling choices rather than inherent properties. We also emphasize the importance of task specification and intervention plans as a core aspect of model design.
• Abstract（参考訳）: 物理学における機械学習における解釈可能性と説明可能性の概念を概観する。 我々は、解釈可能性について、モデルの構造的透明性(内部の動作を理解したり近似したりする能力)と説明可能性について、モデルの科学的内容(ドメイン知識にマッピングする能力)に関するものとして定義する。 本稿は、それぞれが持つトレードオフ(解釈可能性対表現性、説明可能性対適応性)、必要なコンテキスト、それらを達成するための本質的でポストホックなツールについて論じる。 全体を通して、機械学習モデルは古典的モデルと同じ科学的問題の対象であり、スケールのみが異なること、そして解釈可能性と説明性は、本質的な性質よりも故意にモデル化する選択として最もよく理解されていることを強調する。 また、モデル設計の中核的な側面として、タスク仕様と介入計画の重要性を強調します。

関連論文リスト

• From Observation to Insight: Mechanistic World Models and the Quest for Autonomous Discovery [60.11725132433485]
  科学的発見は基本的に知識組織の問題であると主張する。 本稿では,表現,計算,学習の中心に再利用可能な機構を配置する新しい設計パラダイムであるメカニスティック・ワールド・モデルを紹介する。
  論文  参考訳（メタデータ） (2026-07-14T08:03:27Z)
• From Black-box to Causal-box: Towards Building More Interpretable Models [57.23201263629627]
  本稿では, 因果解釈可能性の概念を導入し, 特定のモデルのクラスから対実的クエリを評価できるときの形式化について述べる。 我々は、与えられたモデルアーキテクチャが与えられた偽物クエリをサポートするかどうかを決定する完全なグラフィカルな基準を導出する。
  論文  参考訳（メタデータ） (2025-10-24T20:03:18Z)
• A Mathematical Philosophy of Explanations in Mechanistic Interpretability -- The Strange Science Part I.i [0.0]
  我々は、機械的解釈可能性の研究は、モデルを理解するための原則的なアプローチであると主張している。 説明的忠実性(Explainatory Faithfulness)は、説明がモデルにどの程度適合するかを評価する。
  論文  参考訳（メタデータ） (2025-05-01T19:08:34Z)
• Beyond Model Interpretability: Socio-Structural Explanations in Machine Learning [5.159407277301709]
  我々は、機械学習のアウトプットを規範的に健全な領域で解釈するには、第3のタイプの説明に訴える必要があると論じている。 この説明型の関連性は、機械学習モデルが独立した実体ではなく、社会構造に埋め込まれて形成されているという事実によって動機付けられている。
  論文  参考訳（メタデータ） (2024-09-05T15:47:04Z)
• On the Relationship Between Interpretability and Explainability in Machine Learning [2.828173677501078]
  解釈可能性と説明可能性は、機械学習の分野でますます注目を集めている。 両者は予測者とその決定プロセスに関する情報を提供するため、単一のエンドに対して2つの独立した手段と見なされることが多い。 複雑なブラックボックスモデル用に設計された説明可能性技術、あるいは多くの説明可能性ツールを無視した解釈可能なアプローチ。
  論文  参考訳（メタデータ） (2023-11-20T02:31:08Z)
• Explainability for Large Language Models: A Survey [59.67574757137078]
  大規模言語モデル(LLM)は、自然言語処理における印象的な能力を示している。 本稿では,トランスフォーマーに基づく言語モデルを記述する手法について,説明可能性の分類法を紹介した。
  論文  参考訳（メタデータ） (2023-09-02T22:14:26Z)
• ExSum: From Local Explanations to Model Understanding [6.23934576145261]
  ブラックボックスモデルの動作メカニズムを理解するために,解釈可能性法を開発した。 この目標をフルフィルするには、これらのメソッドによって生成された説明が正しいことと、人々が容易に確実に理解できることの両方が必要である。 本稿では,モデル理解の定量化のための数学的枠組みである説明要約(ExSum)を紹介する。
  論文  参考訳（メタデータ） (2022-04-30T02:07:20Z)
• Explainability in Process Outcome Prediction: Guidelines to Obtain Interpretable and Faithful Models [77.34726150561087]
  本稿では、プロセス結果予測の分野における説明可能性モデルと説明可能性モデルの忠実性を通して、説明可能性を定義する。 本稿では,イベントログの仕様に基づいて適切なモデルを選択することのできる,X-MOPというガイドラインのセットを提案する。
  論文  参考訳（メタデータ） (2022-03-30T05:59:50Z)
• The Need for Interpretable Features: Motivation and Taxonomy [69.07189753428553]
  我々は、「解釈可能な特徴」という用語は、機械学習の説明の有用性に影響を与える機能の全範囲を捉えるのに十分な具体的あるいは詳細ではないと主張している。 本稿では,(1)解釈可能な機能空間と呼ぶもの,あるいはドメインの専門家が現実の行動を取る上で有用な機能の現状に,より注意を払わなければならない,という3つの重要な教訓を論じる。
  論文  参考訳（メタデータ） (2022-02-23T19:19:14Z)
• Rethinking Explainability as a Dialogue: A Practitioner's Perspective [57.87089539718344]
  医師、医療専門家、政策立案者に対して、説明を求めるニーズと欲求について尋ねる。 本研究は, 自然言語対話の形での対話的説明を, 意思決定者が強く好むことを示唆する。 これらのニーズを考慮して、インタラクティブな説明を設計する際に、研究者が従うべき5つの原則を概説する。
  論文  参考訳（メタデータ） (2022-02-03T22:17:21Z)
• The Pragmatic Turn in Explainable Artificial Intelligence (XAI) [0.0]
  私は、AIにおける説明可能なモデルと解釈可能な決定の探索は、AIにおける理解の実践的で自然主義的な説明を提供するというより広いプロジェクトの観点から、再編成されなければならないと論じます。 解釈モデルや近似モデルは、機械学習モデルの客観的理解に最適な方法を提供するだけでなく、ポストホックな解釈可能性を実現するために必要な条件でもあると結論付けます。
  論文  参考訳（メタデータ） (2020-02-22T01:40:01Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。