論文の概要: On the definition and importance of interpretability in scientific machine learning

• arxiv url: http://arxiv.org/abs/2505.13510v2
• Date: Wed, 28 May 2025 18:55:13 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-05-30 15:42:33.914957
• Title: On the definition and importance of interpretability in scientific machine learning
• Title（参考訳）: 科学機械学習における解釈可能性の定義と重要性について
• Authors: Conor Rowan, Alireza Doostan,
• Abstract要約: 物理科学の研究者たちは、予測モデルだけでなく、関心のシステムを支配する基本的な原理を明らかにすることを模索している。 方程式発見と記号回帰の研究者は、スパーシティの概念を解釈可能性で説明する傾向があると論じる。 我々の解釈可能性の概念は、数学的疎性に関するメカニズムの理解を強調する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Though neural networks trained on large datasets have been successfully used to describe and predict many physical phenomena, there is a sense among scientists that, unlike traditional scientific models comprising simple mathematical expressions, their findings cannot be integrated into the body of scientific knowledge. Critics of machine learning's inability to produce human-understandable relationships have converged on the concept of "interpretability" as its point of departure from more traditional forms of science. As the growing interest in interpretability has shown, researchers in the physical sciences seek not just predictive models, but also to uncover the fundamental principles that govern a system of interest. However, clarity around a definition of interpretability and the precise role that it plays in science is lacking in the literature. In this work, we argue that researchers in equation discovery and symbolic regression tend to conflate the concept of sparsity with interpretability. We review key papers on interpretable machine learning from outside the scientific community and argue that, though the definitions and methods they propose can inform questions of interpretability for scientific machine learning (SciML), they are inadequate for this new purpose. Noting these deficiencies, we propose an operational definition of interpretability for the physical sciences. Our notion of interpretability emphasizes understanding of the mechanism over mathematical sparsity. Innocuous though it may seem, this emphasis on mechanism shows that sparsity is often unnecessary. It also questions the possibility of interpretable scientific discovery when prior knowledge is lacking. We believe a precise and philosophically informed definition of interpretability in SciML will help focus research efforts toward the most significant obstacles to realizing a data-driven scientific future.
• Abstract（参考訳）: 大規模なデータセットでトレーニングされたニューラルネットワークは、多くの物理現象を記述し、予測するためにうまく利用されてきたが、科学者の間では、単純な数学的表現を含む伝統的な科学的モデルとは異なり、それらの発見は科学的な知識の体系に統合できないという感覚がある。 機械学習が人間と理解不能な関係を創出できないという批判は、「解釈可能性」という概念に収束し、より伝統的な科学形態から逸脱するポイントとなっている。 解釈可能性への関心の高まりが示すように、物理科学の研究者は予測モデルだけでなく、関心のシステムを支配する基本的な原則を明らかにすることを求めている。 しかし、解釈可能性の定義と、それが科学で果たす正確な役割に関する明快さは、文学において欠落している。 本研究では、方程式発見と記号回帰の研究者は、スパーシティの概念を解釈可能性で説明する傾向があると論じる。 科学コミュニティの外での機械学習の解釈に関する重要な論文をレビューし、彼らが提案する定義と手法は、科学的機械学習(SciML)の解釈可能性に関する疑問を通知することができるが、この新しい目的には不十分であると主張している。 これらの欠陥に注目し、物理科学における解釈可能性の運用的定義を提案する。 我々の解釈可能性の概念は、数学的疎性に関するメカニズムの理解を強調する。 一見無害に思えるかもしれないが、このメカニズムに重点を置くことは、スパーシティがしばしば不要であることを示している。 また、先行知識の欠如による科学的発見の可能性についても疑問を呈している。 我々は、SciMLにおける解釈可能性の正確かつ哲学的な定義は、データ駆動科学の未来を実現するための最も重要な障害に研究の取り組みを集中させるのに役立つと信じている。

関連論文リスト

• A Mathematical Philosophy of Explanations in Mechanistic Interpretability -- The Strange Science Part I.i [0.0]
  我々は、機械的解釈可能性の研究は、モデルを理解するための原則的なアプローチであると主張している。 説明的忠実性(Explainatory Faithfulness)は、説明がモデルにどの程度適合するかを評価する。
  論文  参考訳（メタデータ） (2025-05-01T19:08:34Z)
• Interpretable Machine Learning in Physics: A Review [10.77934040629518]
  我々は、科学における中核研究として解釈可能な機械学習を確立することを目指している。 我々は、解釈可能性の異なる側面を分類し、解釈可能性と性能の両方の観点から機械学習モデルについて議論する。 我々は、物理学の多くのサブフィールドにまたがる、解釈可能な機械学習の最近の進歩を強調した。
  論文  参考訳（メタデータ） (2025-03-30T22:44:40Z)
• In Defence of Post-hoc Explainability [0.0]
  我々は、科学AIにおけるポストホック解釈可能性の哲学的枠組みとして計算補間主義(CI)を紹介した。 ポストホック合理化が信頼性のあるパフォーマンスと共存する人間の専門知識と平行して描くことで、CIは経験的検証によって適切に拘束された場合、構造化されたモデル解釈を通じて科学的知識が生まれることを証明している。
  論文  参考訳（メタデータ） (2024-12-23T06:22:03Z)
• LLM and Simulation as Bilevel Optimizers: A New Paradigm to Advance Physical Scientific Discovery [141.39722070734737]
  本稿では,大規模言語モデルの知識駆動型抽象推論能力をシミュレーションの計算力で強化することを提案する。 本稿では,2段階最適化フレームワークであるSGA(Scientific Generative Agent)を紹介する。 法発見と分子設計における枠組みの有効性を実証するための実験を行った。
  論文  参考訳（メタデータ） (2024-05-16T03:04:10Z)
• A Review of Neuroscience-Inspired Machine Learning [58.72729525961739]
  バイオプルーシブル・クレジット・アサインメントは、事実上あらゆる学習条件と互換性があり、エネルギー効率が高い。 本稿では,人工ニューラルネットワークにおける信用代入の生体評価可能なルールをモデル化する,いくつかの重要なアルゴリズムについて検討する。 我々は,このようなアルゴリズムを実用アプリケーションでより有用にするためには,今後の課題に対処する必要があることを論じる。
  論文  参考訳（メタデータ） (2024-02-16T18:05:09Z)
• Diverse Explanations From Data-Driven and Domain-Driven Perspectives in the Physical Sciences [4.442043151145212]
  このパースペクティブは、物理科学における機械学習応用における多様な説明の源泉と意味を探求する。 モデル, 説明方法, 特徴属性レベル, 利害関係者のニーズが, ML出力の様々な解釈をもたらすかを検討する。 我々の分析は、科学的な文脈でMLモデルを解釈する際に、複数の視点を考慮することの重要性を浮き彫りにしている。
  論文  参考訳（メタデータ） (2024-02-01T05:28:28Z)
• SciMON: Scientific Inspiration Machines Optimized for Novelty [68.46036589035539]
  文献に基づく新たな科学的方向を生成するために,ニューラルランゲージモデルを探索し,拡張する。 モデルが入力背景コンテキストとして使用される新しい設定で、劇的な出発をとっています。 本稿では,過去の科学的論文から「吸入」を抽出するモデリングフレームワークであるSciMONを紹介する。
  論文  参考訳（メタデータ） (2023-05-23T17:12:08Z)
• Intrinsic Physical Concepts Discovery with Object-Centric Predictive Models [86.25460882547581]
  PHYsical Concepts Inference NEtwork (PHYCINE) は、異なる抽象レベルの物理概念を監督なしで推論するシステムである。 物理概念変数を含むオブジェクト表現は因果推論タスクの性能向上に有効であることを示す。
  論文  参考訳（メタデータ） (2023-03-03T11:52:21Z)
• Interpretable and Explainable Machine Learning for Materials Science and Chemistry [2.2175470459999636]
  材料科学・化学における解釈可能性および説明可能性技術の応用を概説する。 材料科学における機械学習の解釈に関する様々な課題について論じる。 我々は、物質科学や化学問題における解釈可能性に恩恵をもたらす可能性のある、他の分野における多くのエキサイティングな展開を紹介します。
  論文  参考訳（メタデータ） (2021-11-01T15:40:36Z)
• Compositional Processing Emerges in Neural Networks Solving Math Problems [100.80518350845668]
  人工知能の最近の進歩は、大きなモデルが十分な言語データに基づいて訓練されると、文法構造が表現に現れることを示している。 我々は、この研究を数学的推論の領域にまで拡張し、どのように意味を構成するべきかについての正確な仮説を定式化することができる。 私たちの研究は、ニューラルネットワークがトレーニングデータに暗黙的に構造化された関係について何かを推測できるだけでなく、個々の意味の合成を合成全体へと導くために、この知識を展開できることを示している。
  論文  参考訳（メタデータ） (2021-05-19T07:24:42Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。