論文の概要: Logic-Based Explainability in Machine Learning

• arxiv url: http://arxiv.org/abs/2211.00541v1
• Date: Mon, 24 Oct 2022 13:43:07 GMT
• ステータス: 処理完了
• システム内更新日: 2022-11-06 14:48:52.881009
• Title: Logic-Based Explainability in Machine Learning
• Title（参考訳）: 機械学習における論理に基づく説明可能性
• Authors: Joao Marques-Silva
• Abstract要約: 最も成功した機械学習モデルの運用は、人間の意思決定者にとって理解できない。 近年,MLモデルを説明するためのアプローチの開発が試みられている。 本稿では,MLモデルの厳密なモデルに基づく説明を計算するための研究成果について概説する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: The last decade witnessed an ever-increasing stream of successes in Machine Learning (ML). These successes offer clear evidence that ML is bound to become pervasive in a wide range of practical uses, including many that directly affect humans. Unfortunately, the operation of the most successful ML models is incomprehensible for human decision makers. As a result, the use of ML models, especially in high-risk and safety-critical settings is not without concern. In recent years, there have been efforts on devising approaches for explaining ML models. Most of these efforts have focused on so-called model-agnostic approaches. However, all model-agnostic and related approaches offer no guarantees of rigor, hence being referred to as non-formal. For example, such non-formal explanations can be consistent with different predictions, which renders them useless in practice. This paper overviews the ongoing research efforts on computing rigorous model-based explanations of ML models; these being referred to as formal explanations. These efforts encompass a variety of topics, that include the actual definitions of explanations, the characterization of the complexity of computing explanations, the currently best logical encodings for reasoning about different ML models, and also how to make explanations interpretable for human decision makers, among others.
• Abstract（参考訳）: この10年で、機械学習(ML)の成功はますます増え続けている。 これらの成功は、MLが人間に直接影響する多くのものを含め、広範囲の実用的な用途で普及しつつあるという明確な証拠を提供する。 残念ながら、最も成功したMLモデルの運用は、人間の意思決定者にとって理解できない。 結果として、特にリスクの高い安全クリティカルな設定では、MLモデルの使用に懸念はない。 近年,MLモデルを説明するためのアプローチの開発が試みられている。 これらの取り組みの多くは、いわゆるモデルに依存しないアプローチに焦点を当てている。 しかしながら、モデルに依存しないアプローチと関連するアプローチはすべて厳密さを保証せず、非形式的とみなされる。 例えば、そのような非形式的な説明は異なる予測と一致し、実際には役に立たない。 本稿では,MLモデルの厳密なモデルに基づく説明を計算するための研究成果について概説する。 これらの取り組みには、説明の実際の定義、計算説明の複雑さのキャラクタリゼーション、さまざまなMLモデルについての推論に最適な論理的エンコーディング、そして人間の意思決定者に対して説明を解釈する方法など、さまざまなトピックが含まれている。

関連論文リスト

• Cycles of Thought: Measuring LLM Confidence through Stable Explanations [53.15438489398938]
  大規模言語モデル(LLM)は、様々なベンチマークで人間レベルの精度に到達し、さらに超えることができるが、不正確な応答における過度な自信は、依然として十分に文書化された障害モードである。 本稿では,LLMの不確実性を測定するためのフレームワークを提案する。
  論文  参考訳（メタデータ） (2024-06-05T16:35:30Z)
• Distance-Restricted Explanations: Theoretical Underpinnings & Efficient Implementation [19.22391463965126]
  機械学習(ML)のいくつかの用途には、高い評価と安全性クリティカルなアプリケーションが含まれる。 本稿では,論理ベースの説明器の性能向上のための新しいアルゴリズムについて検討する。
  論文  参考訳（メタデータ） (2024-05-14T03:42:33Z)
• Pyreal: A Framework for Interpretable ML Explanations [51.14710806705126]
  Pyrealは、さまざまな解釈可能な機械学習説明を生成するシステムである。 Pyrealは、モデルによって期待される機能空間、関連する説明アルゴリズム、および人間のユーザ間でデータと説明を変換する。 我々の研究は、Pyrealが既存のシステムよりも有用な説明を生成することを示した。
  論文  参考訳（メタデータ） (2023-12-20T15:04:52Z)
• Explainability for Large Language Models: A Survey [59.67574757137078]
  大規模言語モデル(LLM)は、自然言語処理における印象的な能力を示している。 本稿では,トランスフォーマーに基づく言語モデルを記述する手法について,説明可能性の分類法を紹介した。
  論文  参考訳（メタデータ） (2023-09-02T22:14:26Z)
• Beyond Explaining: Opportunities and Challenges of XAI-Based Model Improvement [75.00655434905417]
  説明可能な人工知能(XAI)は、高度に複雑な機械学習(ML)モデルに透明性をもたらす新たな研究分野である。 本稿では,機械学習モデルの諸特性を改善するために,XAIを実用的に応用する手法を概観する。 実験では,モデル一般化能力や推論などの特性を改善する上で,説明がどのように役立つのかを,おもちゃと現実的な設定で実証的に示す。
  論文  参考訳（メタデータ） (2022-03-15T15:44:28Z)
• Learning by Design: Structuring and Documenting the Human Choices in Machine Learning Development [6.903929927172917]
  本稿では,機械学習モデル作成における熟考と規範的選択を概説する8つの設計質問からなる手法を提案する。 本手法は,方法論的透明性を通じた批判的評価を支援するなど,いくつかの利点がある。 本手法は,MLモデルの開発において,ML実践者が選択や仮定を構造化し,正当化する上で有効であると考えている。
  論文  参考訳（メタデータ） (2021-05-03T08:47:45Z)
• Beyond Trivial Counterfactual Explanations with Diverse Valuable Explanations [64.85696493596821]
  コンピュータビジョンの応用において、生成的対実法はモデルの入力を摂動させて予測を変更する方法を示す。 本稿では,多様性強化損失を用いて制約される不連続潜在空間における摂動を学習する反事実法を提案する。 このモデルは, 従来の最先端手法と比較して, 高品質な説明を生産する成功率を向上させる。
  論文  参考訳（メタデータ） (2021-03-18T12:57:34Z)
• Survey of explainable machine learning with visual and granular methods beyond quasi-explanations [0.0]
  我々は、MLで支配的な準説明から、粒度の視覚によって支えられるドメイン固有の説明に移行することに注力する。 この論文は、ジョンソン-リンデンシュトラウス補題に基づくn-D距離の低次元保存に関する理論的限界に関する結果を含む。
  論文  参考訳（メタデータ） (2020-09-21T23:39:06Z)
• An Information-Theoretic Approach to Personalized Explainable Machine Learning [92.53970625312665]
  本稿では,予測とユーザ知識のための簡易確率モデルを提案する。 説明と予測の間の条件付き相互情報による説明の効果を定量化する。
  論文  参考訳（メタデータ） (2020-03-01T13:06:29Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。