論文の概要: Usable XAI: 10 Strategies Towards Exploiting Explainability in the LLM Era

• arxiv url: http://arxiv.org/abs/2403.08946v1
• Date: Wed, 13 Mar 2024 20:25:27 GMT
• ステータス: 処理完了
• システム内更新日: 2024-03-15 22:27:10.630087
• Title: Usable XAI: 10 Strategies Towards Exploiting Explainability in the LLM Era
• Title（参考訳）: 使用可能なXAI: LLM時代の爆発可能性への10の戦略
• Authors: Xuansheng Wu, Haiyan Zhao, Yaochen Zhu, Yucheng Shi, Fan Yang, Tianming Liu, Xiaoming Zhai, Wenlin Yao, Jundong Li, Mengnan Du, Ninghao Liu,
• Abstract要約: XAIはLarge Language Models (LLM)に拡張されている 本稿では,XAIがLLMやAIシステムにどのようなメリットをもたらすかを分析する。 10の戦略を導入し、それぞれに重要なテクニックを導入し、関連する課題について議論します。
• 参考スコア（独自算出の注目度）: 77.174117675196
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Explainable AI (XAI) refers to techniques that provide human-understandable insights into the workings of AI models. Recently, the focus of XAI is being extended towards Large Language Models (LLMs) which are often criticized for their lack of transparency. This extension calls for a significant transformation in XAI methodologies because of two reasons. First, many existing XAI methods cannot be directly applied to LLMs due to their complexity advanced capabilities. Second, as LLMs are increasingly deployed across diverse industry applications, the role of XAI shifts from merely opening the "black box" to actively enhancing the productivity and applicability of LLMs in real-world settings. Meanwhile, unlike traditional machine learning models that are passive recipients of XAI insights, the distinct abilities of LLMs can reciprocally enhance XAI. Therefore, in this paper, we introduce Usable XAI in the context of LLMs by analyzing (1) how XAI can benefit LLMs and AI systems, and (2) how LLMs can contribute to the advancement of XAI. We introduce 10 strategies, introducing the key techniques for each and discussing their associated challenges. We also provide case studies to demonstrate how to obtain and leverage explanations. The code used in this paper can be found at: https://github.com/JacksonWuxs/UsableXAI_LLM.
• Abstract（参考訳）: 説明可能なAI(XAI)とは、AIモデルの動作に対する人間の理解可能な洞察を提供する技術である。 近年、XAIの焦点はLarge Language Models(LLM)へと拡張され、透明性の欠如をしばしば批判されている。 この拡張は2つの理由から、XAI方法論における重要な転換を要求する。 第一に、多くの既存のXAIメソッドは、その複雑さが進んだため、LSMに直接適用できない。 第二に、LLMが様々な業界アプリケーションに展開されるにつれて、XAIの役割は単に「ブラックボックス」をオープンすることから、現実の環境でのLCMの生産性と適用性を積極的に強化することへとシフトする。 一方、XAIインサイトを受動的に受信する従来の機械学習モデルとは異なり、LLMの異なる能力はXAIを相互に強化することができる。 そこで本論文では,(1) XAIがLLMやAIシステムにどのような恩恵をもたらすか,(2) LLMがXAIの進歩にどのように貢献するかを分析することによって,LLMの文脈における利用可能なXAIを紹介する。 10の戦略を導入し、それぞれに重要なテクニックを導入し、関連する課題について議論します。 ケーススタディも提供して、説明の入手と活用の方法を紹介します。 https://github.com/JacksonWuxs/UsableXAI_LLM。

関連論文リスト

• XAI meets LLMs: A Survey of the Relation between Explainable AI and Large Language Models [33.04648289133944]
  LLM(Large Language Models)研究の主な課題は、解釈可能性の重要性である。 AIやビジネスセクターからの関心が増すことで、私たちはLLMにおける透明性の必要性を強調します。 本稿では,機能的進歩と同等に解釈可能性を評価するバランスの取れたアプローチを提唱する。
  論文  参考訳（メタデータ） (2024-07-21T19:23:45Z)
• LLMs for XAI: Future Directions for Explaining Explanations [50.87311607612179]
  既存のXAIアルゴリズムを用いて計算した説明の精細化に着目する。 最初の実験とユーザスタディは、LLMがXAIの解釈可能性とユーザビリティを高めるための有望な方法を提供することを示唆している。
  論文  参考訳（メタデータ） (2024-05-09T19:17:47Z)
• Rethinking Interpretability in the Era of Large Language Models [76.1947554386879]
  大規模言語モデル(LLM)は、幅広いタスクにまたがる顕著な機能を示している。 自然言語で説明できる能力により、LLMは人間に与えられるパターンのスケールと複雑さを拡大することができる。 これらの新しい機能は、幻覚的な説明や膨大な計算コストなど、新しい課題を提起する。
  論文  参考訳（メタデータ） (2024-01-30T17:38:54Z)
• XAI for All: Can Large Language Models Simplify Explainable AI? [0.0699049312989311]
  x-[plAIn]"は、カスタムのLarge Language Modelを通じて、XAIをより広く利用できるようにする新しいアプローチである。 我々の目標は、様々なXAI手法の明確で簡潔な要約を生成できるモデルを設計することであった。 使用事例調査の結果から,本モデルは理解し易く,観衆特有の説明を提供するのに有効であることが示された。
  論文  参考訳（メタデータ） (2024-01-23T21:47:12Z)
• Supervised Knowledge Makes Large Language Models Better In-context Learners [94.89301696512776]
  大規模言語モデル(LLM)は、素早い工学を通して、文脈内学習能力の出現を示す。 自然言語理解と質問応答におけるLLMの一般化性と事実性の向上という課題は、まだ未解決のままである。 本研究では, LLM の信頼性を高める枠組みを提案する。1) 分布外データの一般化,2) 差別モデルによる LLM のメリットの解明,3) 生成タスクにおける幻覚の最小化。
  論文  参考訳（メタデータ） (2023-12-26T07:24:46Z)
• LanguageMPC: Large Language Models as Decision Makers for Autonomous Driving [87.1164964709168]
  この作業では、複雑な自律運転シナリオの意思決定コンポーネントとして、Large Language Models(LLM)を採用している。 大規模実験により,提案手法は単車載タスクのベースラインアプローチを一貫して超えるだけでなく,複数車載コーディネートにおいても複雑な運転動作の処理にも有効であることが示された。
  論文  参考訳（メタデータ） (2023-10-04T17:59:49Z)
• Strategies to exploit XAI to improve classification systems [0.0]
  XAIは、AIモデルの意思決定プロセスに関する洞察を提供することを目的としている。 ほとんどのXAI文献は、AIシステムを説明する方法に焦点を当てているが、AIシステムを改善するためにXAIメソッドをどのように活用するかについては、あまり注目されていない。
  論文  参考訳（メタデータ） (2023-06-09T10:38:26Z)
• SoK: Explainable Machine Learning for Computer Security Applications [9.078841062353561]
  我々は、サイバーセキュリティタスクにXAIメソッドを開発し、活用する、ますます増加する(しかし断片化された)研究のマイクロコズムを体系化する。 MLパイプライン内の5つの異なる目的のためにXAIを利用する3つのサイバーセキュリティステークホルダー、すなわち、モデルユーザー、デザイナ、および敵を特定します。
  論文  参考訳（メタデータ） (2022-08-22T21:23:13Z)
• Explainability in Deep Reinforcement Learning [68.8204255655161]
  説明可能な強化学習(XRL)の実現に向けての最近の成果を概観する。 エージェントの振る舞いを正当化し、説明することが不可欠である重要な状況において、RLモデルのより良い説明可能性と解釈性は、まだブラックボックスと見なされているものの内部動作に関する科学的洞察を得るのに役立つ。
  論文  参考訳（メタデータ） (2020-08-15T10:11:42Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。