論文の概要: Pitfalls of Explainable ML: An Industry Perspective

• arxiv url: http://arxiv.org/abs/2106.07758v1
• Date: Mon, 14 Jun 2021 21:05:05 GMT
• ステータス: 処理完了
• システム内更新日: 2021-06-16 15:31:56.239880
• Title: Pitfalls of Explainable ML: An Industry Perspective
• Title（参考訳）: 説明可能なMLの落とし穴:産業的展望
• Authors: Sahil Verma, Aditya Lahiri, John P. Dickerson, Su-In Lee
• Abstract要約: 説明は機械学習(ML)システムの望ましい属性の中核に位置する。 説明可能なMLの目標は、さまざまな利害関係者のニーズを守りながら、直感的にMLシステムの予測を説明することである。
• 参考スコア（独自算出の注目度）: 29.49574255183219
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: As machine learning (ML) systems take a more prominent and central role in contributing to life-impacting decisions, ensuring their trustworthiness and accountability is of utmost importance. Explanations sit at the core of these desirable attributes of a ML system. The emerging field is frequently called ``Explainable AI (XAI)'' or ``Explainable ML.'' The goal of explainable ML is to intuitively explain the predictions of a ML system, while adhering to the needs to various stakeholders. Many explanation techniques were developed with contributions from both academia and industry. However, there are several existing challenges that have not garnered enough interest and serve as roadblocks to widespread adoption of explainable ML. In this short paper, we enumerate challenges in explainable ML from an industry perspective. We hope these challenges will serve as promising future research directions, and would contribute to democratizing explainable ML.
• Abstract（参考訳）: 機械学習(ML)システムは、人生に影響を及ぼす決定に貢献する上で、より顕著で中心的な役割を担います。 説明は、MLシステムのこれらの望ましい属性の中核に位置する。 新興分野はしばしば「説明可能ai(xai)」または「説明可能ml」と呼ばれる。 説明可能なMLの目標は、さまざまな利害関係者のニーズを守りながら、直感的にMLシステムの予測を説明することである。 アカデミックと産業の両方から貢献を得て、多くの説明技法が開発された。 しかし、十分な関心を集めていない既存の課題がいくつかあり、説明可能なMLを広く採用するための障害となっている。 本稿では,業界の観点から説明可能なMLの課題を列挙する。 これらの課題が将来有望な研究方向として役立ち、説明可能なMLの民主化に寄与することを期待しています。

関連論文リスト

• Efficient Multimodal Large Language Models: A Survey [60.7614299984182]
  MLLM(Multimodal Large Language Models)は、視覚的質問応答、視覚的理解、推論などのタスクにおいて顕著な性能を示す。 モデルサイズと高いトレーニングと推論コストが、MLLMのアカデミックや産業への応用を妨げている。 本調査は,効率的なMLLMの現状を包括的かつ体系的に概観するものである。
  論文  参考訳（メタデータ） (2024-05-17T12:37:10Z)
• Look Before You Decide: Prompting Active Deduction of MLLMs for Assumptive Reasoning [68.83624133567213]
  そこで本研究では,MLLMの最も普及している手法が,その問題に先入観を導入することで,容易に騙せることを示す。 また, モデルに対して, 合成推論を積極的に行うための, 単純かつ効果的な手法であるアクティブ推論(AD)を提案する。
  論文  参考訳（メタデータ） (2024-04-19T15:53:27Z)
• Rethinking Interpretability in the Era of Large Language Models [76.1947554386879]
  大規模言語モデル(LLM)は、幅広いタスクにまたがる顕著な機能を示している。 自然言語で説明できる能力により、LLMは人間に与えられるパターンのスケールと複雑さを拡大することができる。 これらの新しい機能は、幻覚的な説明や膨大な計算コストなど、新しい課題を提起する。
  論文  参考訳（メタデータ） (2024-01-30T17:38:54Z)
• A Survey on Multimodal Large Language Models [71.63375558033364]
  GPT-4Vで表されるマルチモーダル大言語モデル(MLLM)は、新たな研究ホットスポットとなっている。 本稿では,MLLMの最近の進歩を追跡・要約することを目的とする。
  論文  参考訳（メタデータ） (2023-06-23T15:21:52Z)
• MLCopilot: Unleashing the Power of Large Language Models in Solving Machine Learning Tasks [31.733088105662876]
  我々は、新しいフレームワークを導入することで、機械学習と人間の知識のギャップを埋めることを目指している。 本稿では、構造化された入力を理解するためのLLMの能力を拡張し、新しいMLタスクを解くための徹底的な推論を行う可能性を示す。
  論文  参考訳（メタデータ） (2023-04-28T17:03:57Z)
• Interpretability and accessibility of machine learning in selected food processing, agriculture and health applications [0.0]
  MLベースのシステムの解釈可能性の欠如は、これらの強力なアルゴリズムの普及の大きな障害である。 自動モデル設計によるMLアクセシビリティ向上のために、新たなテクニックが登場している。 本稿では,グローバル問題における機械学習の解釈可能性とアクセシビリティ向上に向けた取り組みについて概説する。
  論文  参考訳（メタデータ） (2022-11-30T02:44:13Z)
• The Role of Machine Learning in Cybersecurity [1.6932802756478726]
  サイバーセキュリティにおける機械学習の展開はまだ初期段階であり、研究と実践の間には大きな違いがある。 本論文は,サイバーセキュリティ領域全体におけるMLの役割を包括的に理解するための最初の試みである。 我々は、ヒューマン駆動検出手法に対するMLの利点と、サイバーセキュリティにおけるMLによって対処できる追加のタスクを強調した。
  論文  参考訳（メタデータ） (2022-06-20T10:56:08Z)
• Does Explainable Machine Learning Uncover the Black Box in Vision Applications? [1.0660480034605242]
  説明可能なMLの背景にある現在の哲学は、一定の限界に悩まされていると我々は主張する。 また、より厳格な原則に頼ることで、MLにおける説明力がどのように役立つかという視点も提供します。
  論文  参考訳（メタデータ） (2021-12-18T10:37:52Z)
• Declarative Machine Learning Systems [7.5717114708721045]
  機械学習(ML)は、学術的な取り組みから、コンピューティングのほぼすべての側面で採用されている普及した技術へと移行してきた。 近年の自然科学におけるMLの適用の成功により、MLは人類が直面する最も困難な現実世界問題に対処するために利用できることが明らかとなった。 MLシステムの次の波は、おそらくコーディングスキルなしで、より多くの人が同じタスクを実行できると信じています。
  論文  参考訳（メタデータ） (2021-07-16T23:57:57Z)
• Understanding the Usability Challenges of Machine Learning In High-Stakes Decision Making [67.72855777115772]
  機械学習(ML)は、多種多様な成長を続ける一連のドメインに適用されている。 多くの場合、MLやデータサイエンスの専門知識を持たないドメインの専門家は、ML予測を使用してハイステークな意思決定を行うように求められます。 児童福祉スクリーニングにおけるMLユーザビリティの課題について,児童福祉スクリーニング者との一連のコラボレーションを通じて検討する。
  論文  参考訳（メタデータ） (2021-03-02T22:50:45Z)
• An Information-Theoretic Approach to Personalized Explainable Machine Learning [92.53970625312665]
  本稿では,予測とユーザ知識のための簡易確率モデルを提案する。 説明と予測の間の条件付き相互情報による説明の効果を定量化する。
  論文  参考訳（メタデータ） (2020-03-01T13:06:29Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。