論文の概要: Explainability in Practice: A Survey of Explainable NLP Across Various Domains
- arxiv url: http://arxiv.org/abs/2502.00837v1
- Date: Sun, 02 Feb 2025 16:18:44 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-02-05 15:04:39.849745
- Title: Explainability in Practice: A Survey of Explainable NLP Across Various Domains
- Title（参考訳）: 実践における説明可能性: さまざまな領域にわたる説明可能なNLPに関する調査
- Authors: Hadi Mohammadi, Ayoub Bagheri, Anastasia Giachanou, Daniel L. Oberski,
- Abstract要約: レビューでは、実用的デプロイメントと実世界のアプリケーションに焦点を当てた説明可能なNLP(XNLP)について検討している。
本稿は,XNLPの理解を深め,より広範に応用できる今後の研究方向を提案することで締めくくっている。
- 参考スコア（独自算出の注目度）: 2.494550479408289
- License:
- Abstract: Natural Language Processing (NLP) has become a cornerstone in many critical sectors, including healthcare, finance, and customer relationship management. This is especially true with the development and use of advanced models such as GPT-based architectures and BERT, which are widely used in decision-making processes. However, the black-box nature of these advanced NLP models has created an urgent need for transparency and explainability. This review explores explainable NLP (XNLP) with a focus on its practical deployment and real-world applications, examining its implementation and the challenges faced in domain-specific contexts. The paper underscores the importance of explainability in NLP and provides a comprehensive perspective on how XNLP can be designed to meet the unique demands of various sectors, from healthcare's need for clear insights to finance's emphasis on fraud detection and risk assessment. Additionally, this review aims to bridge the knowledge gap in XNLP literature by offering a domain-specific exploration and discussing underrepresented areas such as real-world applicability, metric evaluation, and the role of human interaction in model assessment. The paper concludes by suggesting future research directions that could enhance the understanding and broader application of XNLP.
- Abstract（参考訳）: 自然言語処理(NLP)は、医療、金融、顧客関係管理など、多くの重要な分野において基盤となっている。
これは特に、意思決定プロセスで広く使われているGPTベースのアーキテクチャやBERTのような高度なモデルの開発と使用に当てはまる。
しかしながら、これらの高度なNLPモデルのブラックボックスの性質は、透明性と説明可能性に対する緊急の要求を生み出している。
本稿では,その実践的展開と実世界のアプリケーションに焦点を当てた説明可能なNLP(XNLP)について検討し,その実装とドメイン固有のコンテキストで直面する課題について考察する。
この論文は、NLPにおける説明可能性の重要性を強調し、医療が不正検出とリスクアセスメントに重点を置くことへの明確な洞察の必要性から、様々な分野のユニークな要求を満たすためにXNLPをどのように設計できるかを包括的に考察する。
さらに,本論文は,XNLP文献における知識ギャップを,ドメイン固有の探索を提供することによって埋めることを目的としており,実際の応用性,計量評価,モデル評価におけるヒューマンインタラクションの役割など,表現の浅い領域について論じている。
本稿は,XNLPの理解を深め,より広範に応用できる今後の研究方向を提案することで締めくくっている。
関連論文リスト
- Pragmatics in the Era of Large Language Models: A Survey on Datasets, Evaluation, Opportunities and Challenges [26.846627984383836]
NLPにおける実用能力を評価するために設計されたリソースのレビューを行う。
タスク設計,データ収集方法,評価手法,および実世界のアプリケーションとの関係について分析する。
本調査は,実用的評価の状況を明確にし,より包括的で目標とするベンチマークの開発を導くことを目的としている。
論文 参考訳（メタデータ） (2025-02-17T23:31:38Z) - On Behalf of the Stakeholders: Trends in NLP Model Interpretability in the Era of LLMs [20.589396689900614]
この記事では、なぜ解釈可能性が必要なのか、どのように解釈されているのか、という3つの根本的な疑問に対処する。
これらの質問を探索することにより、既存の解釈可能性パラダイム、それらの特性、および異なる利害関係者との関係について検討する。
分析の結果,NLP開発者と非開発者ユーザ,および研究分野の相違が明らかとなり,利害関係者の多様なニーズを浮き彫りにしている。
論文 参考訳（メタデータ） (2024-07-27T08:00:27Z) - Leveraging Large Language Models for NLG Evaluation: Advances and Challenges [57.88520765782177]
大規模言語モデル(LLM)は、コヒーレンス、クリエイティビティ、コンテキスト関連など、生成されたコンテンツ品質を評価するための新たな道を開いた。
既存のLCMに基づく評価指標を整理し、これらの手法を理解し比較するための構造化された枠組みを提供する。
本稿では, 偏見, 堅牢性, ドメイン固有性, 統一評価などの未解決課題を議論することによって, 研究者に洞察を提供し, より公平で高度なNLG評価手法を提唱することを目的とする。
論文 参考訳（メタデータ） (2024-01-13T15:59:09Z) - Practical Guidelines for the Selection and Evaluation of Natural Language Processing Techniques in Requirements Engineering [8.779031107963942]
自然言語(NL)は現在、要求自動化の基盤となっている。
多くの異なるNLPソリューション戦略が利用可能であるため、特定のREタスクに対して適切な戦略を選択することは困難である。
特に,従来のNLP,特徴ベース機械学習,言語モデルに基づく手法など,さまざまな戦略を選択する方法について議論する。
論文 参考訳（メタデータ） (2024-01-03T02:24:35Z) - The Shifted and The Overlooked: A Task-oriented Investigation of
User-GPT Interactions [114.67699010359637]
実際のユーザクエリの大規模なコレクションをGPTに解析する。
ユーザインタラクションでは'設計'や'計画'といったタスクが一般的だが,従来のNLPベンチマークとは大きく異なる。
論文 参考訳（メタデータ） (2023-10-19T02:12:17Z) - Uncertainty in Natural Language Processing: Sources, Quantification, and
Applications [56.130945359053776]
NLP分野における不確実性関連作業の総合的なレビューを行う。
まず、自然言語の不確実性の原因を、入力、システム、出力の3つのタイプに分類する。
我々は,NLPにおける不確実性推定の課題について論じ,今後の方向性について論じる。
論文 参考訳（メタデータ） (2023-06-05T06:46:53Z) - Interactive Natural Language Processing [67.87925315773924]
対話型自然言語処理(iNLP)は,NLP分野における新しいパラダイムとして登場した。
本稿では,iNLPの概念の統一的定義と枠組みを提案することから,iNLPに関する包括的調査を行う。
論文 参考訳（メタデータ） (2023-05-22T17:18:29Z) - A Review of the Trends and Challenges in Adopting Natural Language
Processing Methods for Education Feedback Analysis [4.040584701067227]
機械学習、ディープラーニング、自然言語処理(NLP)はAIのサブセットであり、データ処理とモデリングのさまざまな領域に取り組む。
本稿では、現在の機会を概観した、AIが教育に与える影響の概要について述べる。
論文 参考訳（メタデータ） (2023-01-20T23:38:58Z) - An Inclusive Notion of Text [69.36678873492373]
テキストの概念の明確さは再現可能で一般化可能なNLPにとって不可欠である,と我々は主張する。
言語的および非言語的要素の2層分類を導入し,NLPモデリングに使用することができる。
論文 参考訳（メタデータ） (2022-11-10T14:26:43Z) - Meta Learning for Natural Language Processing: A Survey [88.58260839196019]
ディープラーニングは自然言語処理(NLP)分野において主要な技術である。
ディープラーニングには多くのラベル付きデータが必要です。
メタ学習は、より良いアルゴリズムを学ぶためのアプローチを研究する機械学習の分野である。
論文 参考訳（メタデータ） (2022-05-03T13:58:38Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。