論文の概要: Interpretable Machine Learning -- A Brief History, State-of-the-Art and Challenges

• arxiv url: http://arxiv.org/abs/2010.09337v1
• Date: Mon, 19 Oct 2020 09:20:03 GMT
• ステータス: 処理完了
• システム内更新日: 2022-10-05 20:56:21.710176
• Title: Interpretable Machine Learning -- A Brief History, State-of-the-Art and Challenges
• Title（参考訳）: 解釈可能な機械学習 -- 短い歴史、最新技術、挑戦
• Authors: Christoph Molnar, Giuseppe Casalicchio, and Bernd Bischl
• Abstract要約: 我々は、解釈可能な機械学習(IML)の分野の簡単な歴史を提示し、最先端の解釈手法の概要を説明し、課題について議論する。 この分野は若いが、回帰モデリングとルールベースの機械学習に200年以上のルーツがある。 多くの新しいIML手法が提案され、その多くがモデルに依存しないが、深層学習や木に基づくアンサンブルに特有の解釈技術も提案されている。
• 参考スコア（独自算出の注目度）: 0.8029049649310213
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: We present a brief history of the field of interpretable machine learning (IML), give an overview of state-of-the-art interpretation methods, and discuss challenges. Research in IML has boomed in recent years. As young as the field is, it has over 200 years old roots in regression modeling and rule-based machine learning, starting in the 1960s. Recently, many new IML methods have been proposed, many of them model-agnostic, but also interpretation techniques specific to deep learning and tree-based ensembles. IML methods either directly analyze model components, study sensitivity to input perturbations, or analyze local or global surrogate approximations of the ML model. The field approaches a state of readiness and stability, with many methods not only proposed in research, but also implemented in open-source software. But many important challenges remain for IML, such as dealing with dependent features, causal interpretation, and uncertainty estimation, which need to be resolved for its successful application to scientific problems. A further challenge is a missing rigorous definition of interpretability, which is accepted by the community. To address the challenges and advance the field, we urge to recall our roots of interpretable, data-driven modeling in statistics and (rule-based) ML, but also to consider other areas such as sensitivity analysis, causal inference, and the social sciences.
• Abstract（参考訳）: 我々は、解釈可能な機械学習(IML)の分野の簡単な歴史を述べ、最先端の解釈手法の概要を示し、課題について議論する。 近年、IMLの研究が盛んになっている。 この分野の若い段階では、回帰モデリングとルールベースの機械学習に200年以上のルーツがあり、1960年代から始まっている。 近年、多くの新しいIML手法が提案され、その多くがモデルに依存しないが、深層学習や木に基づくアンサンブルに特有の解釈技術も提案されている。 IML法は、モデルコンポーネントを直接解析するか、入力摂動に対する感度を研究するか、あるいはMLモデルの局所的あるいは大域的代理近似を分析する。 この分野は、研究において提案されただけでなく、オープンソースソフトウェアにも実装された多くの方法によって、準備と安定性の状況にアプローチしている。 しかし、IMLにとって重要な課題は、依存する特徴、因果解釈、不確実性推定などであり、科学的問題への応用が成功するためには解決する必要がある。 さらなる課題は、コミュニティが受け入れている解釈可能性の厳密な定義の欠如である。 課題に対処し、分野を前進させるため、統計学や(ルールベース)MLにおける解釈可能なデータ駆動モデリングのルーツを思い出すとともに、感度分析、因果推論、社会科学など他の分野についても検討する。

関連論文リスト

• ErrorRadar: Benchmarking Complex Mathematical Reasoning of Multimodal Large Language Models Via Error Detection [60.297079601066784]
  エラー検出におけるMLLMの能力を評価するために設計された最初のベンチマークであるErrorRadarを紹介する。 ErrorRadarはエラーステップ識別とエラー分類という2つのサブタスクを評価している。 2500の高品質なマルチモーダルK-12数学問題で構成され、実世界の学生相互作用から収集される。 GPT-4oの優れた性能は、まだ人間の評価に約10%遅れているため、大きな課題が残っている。
  論文  参考訳（メタデータ） (2024-10-06T14:59:09Z)
• Retrieval-Enhanced Machine Learning: Synthesis and Opportunities [60.34182805429511]
  検索エンハンスメントは機械学習(ML)の幅広い範囲に拡張できる この研究は、MLの様々な領域の文献を、現在の文献から欠落している一貫した表記で合成することで、このパラダイムの正式なフレームワークであるRetrieval-Enhanced Machine Learning (REML)を導入する。 本研究の目的は、様々な分野の研究者に対して、検索強化モデルの包括的、正式に構造化された枠組みを付与し、学際的な将来の研究を促進することである。
  論文  参考訳（メタデータ） (2024-07-17T20:01:21Z)
• Ontology Embedding: A Survey of Methods, Applications and Resources [54.3453925775069]
  オントロジはドメイン知識とメタデータを表現するために広く使われている。 1つの簡単な解決策は、統計分析と機械学習を統合することである。 埋め込みに関する多くの論文が出版されているが、体系的なレビューの欠如により、研究者はこの分野の包括的な理解を妨げている。
  論文  参考訳（メタデータ） (2024-06-16T14:49:19Z)
• Rethinking Interpretability in the Era of Large Language Models [76.1947554386879]
  大規模言語モデル(LLM)は、幅広いタスクにまたがる顕著な機能を示している。 自然言語で説明できる能力により、LLMは人間に与えられるパターンのスケールと複雑さを拡大することができる。 これらの新しい機能は、幻覚的な説明や膨大な計算コストなど、新しい課題を提起する。
  論文  参考訳（メタデータ） (2024-01-30T17:38:54Z)
• From Understanding to Utilization: A Survey on Explainability for Large Language Models [27.295767173801426]
  この調査は、Large Language Models (LLMs) における説明可能性の向上を示唆している。 主に、トレーニング済みの Transformer ベースの LLM に重点を置いています。 説明可能性の活用を考える際に、モデル編集、制御生成、モデル拡張に集中するいくつかの魅力的な方法を検討する。
  論文  参考訳（メタデータ） (2024-01-23T16:09:53Z)
• Machine-assisted quantitizing designs: augmenting humanities and social sciences with artificial intelligence [0.0]
  大規模言語モデル(LLM)は、人文科学や社会科学におけるデータ分析をスケールアップする前例のない機会であることが示された。 設計原則を定量化し、変換し、言語学から特徴分析し、人間の専門知識と機械のスケーラビリティを透過的に統合する混合手法を構築します。 このアプローチは、1ダース以上のLDM支援ケーススタディで議論され、9つの多様な言語、複数の規律、タスクをカバーしている。
  論文  参考訳（メタデータ） (2023-09-24T14:21:50Z)
• Bias and Fairness in Large Language Models: A Survey [73.87651986156006]
  本稿では,大規模言語モデル(LLM)のバイアス評価と緩和手法に関する総合的な調査を行う。 まず、自然言語処理における社会的偏見と公平性の概念を統合し、形式化し、拡張する。 次に,3つの直感的な2つのバイアス評価法と1つの緩和法を提案し,文献を統一する。
  論文  参考訳（メタデータ） (2023-09-02T00:32:55Z)
• Interpretability and accessibility of machine learning in selected food processing, agriculture and health applications [0.0]
  MLベースのシステムの解釈可能性の欠如は、これらの強力なアルゴリズムの普及の大きな障害である。 自動モデル設計によるMLアクセシビリティ向上のために、新たなテクニックが登場している。 本稿では,グローバル問題における機械学習の解釈可能性とアクセシビリティ向上に向けた取り組みについて概説する。
  論文  参考訳（メタデータ） (2022-11-30T02:44:13Z)
• Use and Misuse of Machine Learning in Anthropology [0.9786690381850356]
  生物学的・文化的な証拠に基づいて人類の進化を理解することを目指す古人類学の分野に焦点をあてる。 本研究の目的は,MLが古人類学に応用されている方法について,簡単な紹介を行うことである。 人類学文献の集積部において,ML手法の正しいプロトコルの一連の誤り,誤り,違反について論じる。
  論文  参考訳（メタデータ） (2022-09-06T20:32:24Z)
• The worst of both worlds: A comparative analysis of errors in learning from data in psychology and machine learning [17.336655978572583]
  機械学習(ML)が誤診や複製の危機に直面しているという最近の懸念は、ML研究で公表された主張の一部が対面価値で評価できないことを示唆している。 教師付きMLにおける研究の関心事は、実験科学における複製危機と共通している。
  論文  参考訳（メタデータ） (2022-03-12T18:26:24Z)
• Understanding the Usability Challenges of Machine Learning In High-Stakes Decision Making [67.72855777115772]
  機械学習(ML)は、多種多様な成長を続ける一連のドメインに適用されている。 多くの場合、MLやデータサイエンスの専門知識を持たないドメインの専門家は、ML予測を使用してハイステークな意思決定を行うように求められます。 児童福祉スクリーニングにおけるMLユーザビリティの課題について,児童福祉スクリーニング者との一連のコラボレーションを通じて検討する。
  論文  参考訳（メタデータ） (2021-03-02T22:50:45Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。