論文の概要: Explainable AI and the Scientific Method: Interpretability-Guided Knowledge Discovery

• arxiv url: http://arxiv.org/abs/2406.10557v4
• Date: Fri, 21 Feb 2025 11:49:25 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-02-24 17:08:15.202253
• Title: Explainable AI and the Scientific Method: Interpretability-Guided Knowledge Discovery
• Title（参考訳）: 説明可能なAIと科学的方法:解釈可能性に基づく知識発見
• Authors: Gianmarco Mengaldo,
• Abstract要約: 我々は、人類の科学的発見のための複雑な推論が、少なくとも人工知能の出現以前には重要な存在であると主張している。 意思決定に使用されるAIシステムの原則を知ることは、ドメインの専門家や科学者と接触するポイントになり得る。 我々は、この分野を、予測AIシステムの解釈可能性に基づいて、領域の専門家が科学的仮説と説明を定式化する、説明可能な科学用AIと定義する。
• 参考スコア（独自算出の注目度）: 0.9065034043031668
• License:
• Abstract: The scientific method is the cornerstone of human progress across all branches of the natural and applied sciences, from understanding the human body to explaining how the universe works. The scientific method is based on identifying systematic rules or principles that describe the phenomenon of interest in a reproducible way that can be validated through experimental evidence. In the era of generative artificial intelligence, there are discussions on how AI systems may discover new knowledge. We argue that human complex reasoning for scientific discovery remains of vital importance, at least before the advent of artificial general intelligence. Yet, AI can be leveraged for scientific discovery via explainable AI. More specifically, knowing the `principles' the AI systems used to make decisions can be a point of contact with domain experts and scientists, that can lead to divergent or convergent views on a given scientific problem. Divergent views may spark further scientific investigations leading to interpretability-guided explanations (IGEs), and possibly to new scientific knowledge. We define this field as Explainable AI for Science, where domain experts -- potentially assisted by generative AI -- formulate scientific hypotheses and explanations based on the interpretability of a predictive AI system.
• Abstract（参考訳）: 科学的手法は、人間の身体の理解から宇宙の仕組みの説明に至るまで、自然科学と応用科学のすべての分野における人間の進歩の基盤となっている。 科学的手法は、実験的な証拠を通じて検証できる再現可能な方法で興味の現象を記述する体系的な規則や原則を識別することに基づいている。 生成人工知能の時代には、AIシステムが新しい知識をいかに発見するかが議論されている。 我々は、人類の科学的発見のための複雑な推論が、少なくとも人工知能の出現以前には重要な存在であると主張している。 しかし、AIは説明可能なAIを介して科学的発見に活用することができる。 より具体的には、意思決定に使用されるAIシステムの‘原則’を知ることは、ドメインの専門家や科学者との接触点となり、与えられた科学的問題に対する散発的あるいは収束的な見解につながる可能性がある。 ダイバージェントな見解は、解釈可能性に基づく説明(IGE)や、おそらく新しい科学的知識に繋がるさらなる科学的調査を引き起こす可能性がある。 そこでは、予測AIシステムの解釈可能性に基づいて、科学的仮説と説明を定式化する。

関連論文リスト

• Towards Scientific Discovery with Generative AI: Progress, Opportunities, and Challenges [11.232704182001253]
  本稿では、科学的な課題に応用された大規模言語モデルやその他のAI技術の最近の進歩に注目し、科学的な発見のためのAIの現状について考察する。 そして、科学的な発見のためのより包括的なAIシステムの開発に向けた重要な課題と研究の方向性を概説する。
  論文  参考訳（メタデータ） (2024-12-16T03:52:20Z)
• Towards a Science Exocortex [0.5687661359570725]
  我々はエージェントAIシステムにおける技術の現状をレビューし、これらの手法をどのように拡張して科学により大きな影響を与えるかについて論じる。 科学の外食はAIエージェントの群れとして設計することができ、各エージェントは特定の研究者のタスクを個別に合理化することができる。
  論文  参考訳（メタデータ） (2024-06-24T14:32:32Z)
• AI for Mathematics: A Cognitive Science Perspective [86.02346372284292]
  数学は人間によって開発された最も強力な概念体系の1つである。 AIの急速な進歩、特に大規模言語モデル(LLM)の進歩による推進により、そのようなシステム構築に対する新たな、広範な関心が生まれている。
  論文  参考訳（メタデータ） (2023-10-19T02:00:31Z)
• DeepSpeed4Science Initiative: Enabling Large-Scale Scientific Discovery through Sophisticated AI System Technologies [116.09762105379241]
  DeepSpeed4Scienceは、AIシステム技術革新を通じてユニークな機能を構築することを目指している。 我々は、構造生物学研究における2つの重要なシステム課題に対処するために、DeepSpeed4Scienceで行った初期の進歩を紹介した。
  論文  参考訳（メタデータ） (2023-10-06T22:05:15Z)
• Artificial Intelligence for Science in Quantum, Atomistic, and Continuum Systems [268.585904751315]
  科学のためのAI(AI4Science)として知られる新しい研究領域 領域は、物理世界(波動関数と電子密度)、原子(分子、タンパク質、物質、相互作用)、マクロ(流体、気候、地下)まで理解することを目的としている。 主要な課題は、物理第一原理、特に対称性を深層学習法によって自然システムで捉える方法である。
  論文  参考訳（メタデータ） (2023-07-17T12:14:14Z)
• The Future of Fundamental Science Led by Generative Closed-Loop Artificial Intelligence [67.70415658080121]
  機械学習とAIの最近の進歩は、技術革新、製品開発、社会全体を破壊している。 AIは、科学的な実践とモデル発見のための高品質なデータの大規模なデータセットへのアクセスがより困難であるため、基礎科学にはあまり貢献していない。 ここでは、科学的な発見に対するAI駆動、自動化、クローズドループアプローチの側面を調査し、調査する。
  論文  参考訳（メタデータ） (2023-07-09T21:16:56Z)
• Automated Scientific Discovery: From Equation Discovery to Autonomous Discovery Systems [5.7923858184309385]
  本稿では、方程式発見から記号回帰から自律的な発見システムやエージェントまで、自動的な科学的発見を調査する。 我々は、Adamシステムに関する先駆的な研究から、物質科学から天文学まで、現在の分野への取り組みまで、クローズドループ科学発見システムを紹介する。 レベル5の最大レベルは、科学的知識の創出において人間の介入を必要としないと定義されている。
  論文  参考訳（メタデータ） (2023-05-03T16:35:41Z)
• On scientific understanding with artificial intelligence [2.2911874889696775]
  我々は科学的理解を理解するために科学哲学からのアドバイスを求める。 そして、コンピューターの助けを借りて、どのようにして新しい概念的理解を得たかについて、科学者から数十の逸話を集めました。 各次元について、ステータスクォーを超えて進むための新しい道について説明する。
  論文  参考訳（メタデータ） (2022-04-04T13:45:13Z)
• Learning from learning machines: a new generation of AI technology to meet the needs of science [59.261050918992325]
  科学的な発見のためのAIの有用性を高めるための新たな機会と課題を概説する。 産業におけるAIの目標と科学におけるAIの目標の区別は、データ内のパターンを識別することと、データから世界のパターンを発見することとの間に緊張を生じさせる。
  論文  参考訳（メタデータ） (2021-11-27T00:55:21Z)
• From Kepler to Newton: Explainable AI-based Paradigm for Science Discovery [16.392568986688595]
  我々は、科学発見のための説明可能なAIベースのパラダイムを導入する。 AIに基づく科学発見プロセスを示すために、ケプラーの惑星運動法則とニュートンの普遍重力法則が(説明可能な)AIによってどのように再発見されるかを示す。
  論文  参考訳（メタデータ） (2021-11-24T00:45:27Z)
• Inductive Biases for Deep Learning of Higher-Level Cognition [108.89281493851358]
  興味深い仮説は、人間と動物の知性はいくつかの原則によって説明できるということである。 この研究は、主に高いレベルとシーケンシャルな意識的処理に関心のある人を中心に、より大きなリストを考察する。 これらの特定の原則を明確にする目的は、人間の能力から恩恵を受けるAIシステムを構築するのに役立つ可能性があることである。
  論文  参考訳（メタデータ） (2020-11-30T18:29:25Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。