Fugu-MT 論文翻訳(概要): Inductive Models for Artificial Intelligence Systems are Insufficient without Good Explanations

論文の概要: Inductive Models for Artificial Intelligence Systems are Insufficient without Good Explanations

arxiv url: http://arxiv.org/abs/2401.09011v1
Date: Wed, 17 Jan 2024 07:14:04 GMT
ステータス: 処理完了
システム内更新日: 2024-01-18 16:34:51.694734
Title: Inductive Models for Artificial Intelligence Systems are Insufficient without Good Explanations
Title（参考訳）: 人工知能システムのための帰納的モデルは、十分な説明なしで不十分である
Authors: Udesh Habaraduwa
Abstract要約: 論文は、単に予測を行うだけでなく、良い説明を提供することの重要性を論じている。 AIが進むためには、単に予測だけでなく、洞察と説明を提供するモデルを探さなければならないことを示唆している。
参考スコア（独自算出の注目度）: 0.0
License: http://creativecommons.org/licenses/by/4.0/
Abstract: This paper discusses the limitations of machine learning (ML), particularly deep artificial neural networks (ANNs), which are effective at approximating complex functions but often lack transparency and explanatory power. It highlights the `problem of induction' : the philosophical issue that past observations may not necessarily predict future events, a challenge that ML models face when encountering new, unseen data. The paper argues for the importance of not just making predictions but also providing good explanations, a feature that current models often fail to deliver. It suggests that for AI to progress, we must seek models that offer insights and explanations, not just predictions.
Abstract（参考訳）: 本稿では、複雑な関数の近似に有効な機械学習(ML)、特に深層ニューラルネットワーク(ANN)の限界について論じる。過去の観察が将来の出来事を必ずしも予測しないという哲学的な問題、新しい、目に見えないデータに遭遇した時にMLモデルが直面する課題である。論文は、単に予測を行うだけでなく、良い説明を提供することの重要性を論じている。 AIが進むためには、単に予測だけでなく、洞察と説明を提供するモデルを探さなければなりません。

関連論文リスト

XForecast: Evaluating Natural Language Explanations for Time Series Forecasting [72.57427992446698]
時系列予測は、特に正確な予測に依存するステークホルダーにとって、意思決定を支援する。伝統的に説明可能なAI(XAI)メソッドは、機能や時間的重要性を基盤とするものであり、専門家の知識を必要とすることが多い。時系列データにおける複雑な因果関係のため,予測NLEの評価は困難である。
論文参考訳（メタデータ） (2024-10-18T05:16:39Z)
From Neurons to Neutrons: A Case Study in Interpretability [5.242869847419834]
高次元ニューラルネットワークはトレーニングデータの低次元表現を学習することができると我々は主張する。このことは、解釈可能性に対するそのようなアプローチが、問題を解決するために訓練されたモデルから問題に対する新しい理解を導き出すのに有用であることを示している。
論文参考訳（メタデータ） (2024-05-27T17:59:35Z)
How Well Do Feature-Additive Explainers Explain Feature-Additive Predictors? [12.993027779814478]
LIME、SHAP、SHAPR、MAPLE、PDPといった人気機能付加型推論器は、機能付加型予測器を説明できるだろうか? 本稿では,モデルの加法構造から解析的に導出される基底真理について,そのような説明を行う。以上の結果から,全ての説明者が機能の重要性を正しく評価できないことが示唆された。
論文参考訳（メタデータ） (2023-10-27T21:16:28Z)
Interpretable Self-Aware Neural Networks for Robust Trajectory Prediction [50.79827516897913]
本稿では,意味概念間で不確実性を分散する軌道予測のための解釈可能なパラダイムを提案する。実世界の自動運転データに対する我々のアプローチを検証し、最先端のベースラインよりも優れた性能を示す。
論文参考訳（メタデータ） (2022-11-16T06:28:20Z)
Logic-Based Explainability in Machine Learning [0.0]
最も成功した機械学習モデルの運用は、人間の意思決定者にとって理解できない。近年,MLモデルを説明するためのアプローチの開発が試みられている。本稿では,MLモデルの厳密なモデルに基づく説明を計算するための研究成果について概説する。
論文参考訳（メタデータ） (2022-10-24T13:43:07Z)
Learnware: Small Models Do Big [69.88234743773113]
自然言語処理やコンピュータビジョンの応用で目覚ましい成果を上げてきた、一般的なビッグモデルパラダイムは、これらの問題にまだ対応していないが、炭素排出量の深刻な源となっている。この記事では、マシンラーニングモデルをスクラッチから構築する必要がないようにするための学習ソフトウェアパラダイムの概要を紹介します。
論文参考訳（メタデータ） (2022-10-07T15:55:52Z)
Towards Interpretable Deep Reinforcement Learning Models via Inverse Reinforcement Learning [27.841725567976315]
本稿では,逆逆強化学習を利用した新しいフレームワークを提案する。このフレームワークは、強化学習モデルによる決定のグローバルな説明を提供する。モデルの意思決定過程を要約することで、モデルが従う直感的な傾向を捉える。
論文参考訳（メタデータ） (2022-03-30T17:01:59Z)
EINNs: Epidemiologically-Informed Neural Networks [75.34199997857341]
本稿では,疫病予測のための新しい物理インフォームドニューラルネットワークEINNを紹介する。メカニスティックモデルによって提供される理論的柔軟性と、AIモデルによって提供されるデータ駆動表現性の両方を活用する方法について検討する。
論文参考訳（メタデータ） (2022-02-21T18:59:03Z)
Beyond Trivial Counterfactual Explanations with Diverse Valuable Explanations [64.85696493596821]
コンピュータビジョンの応用において、生成的対実法はモデルの入力を摂動させて予測を変更する方法を示す。本稿では,多様性強化損失を用いて制約される不連続潜在空間における摂動を学習する反事実法を提案する。このモデルは, 従来の最先端手法と比較して, 高品質な説明を生産する成功率を向上させる。
論文参考訳（メタデータ） (2021-03-18T12:57:34Z)
Learning to Rationalize for Nonmonotonic Reasoning with Distant Supervision [44.32874972577682]
モデル予測を説明する自然言語の理性について,ニューラルモデルが判断できる範囲について検討する。トレーニング済みの言語モデル、ニューラルナレッジモデル、関連するタスクからの遠隔監視を使用します。我々のモデルは、追加情報から推論が多かれ少なかれ起こりそうな理由を説明するポストホック論理を生成することを約束している。
論文参考訳（メタデータ） (2020-12-14T23:50:20Z)
Explainability in Deep Reinforcement Learning [68.8204255655161]
説明可能な強化学習(XRL)の実現に向けての最近の成果を概観する。エージェントの振る舞いを正当化し、説明することが不可欠である重要な状況において、RLモデルのより良い説明可能性と解釈性は、まだブラックボックスと見なされているものの内部動作に関する科学的洞察を得るのに役立つ。
論文参考訳（メタデータ） (2020-08-15T10:11:42Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。