Fugu-MT 論文翻訳(概要): An AI Chatbot for Explaining Deep Reinforcement Learning Decisions of Service-oriented Systems

論文の概要: An AI Chatbot for Explaining Deep Reinforcement Learning Decisions of Service-oriented Systems

arxiv url: http://arxiv.org/abs/2309.14391v1
Date: Mon, 25 Sep 2023 09:05:36 GMT
ステータス: 処理完了
システム内更新日: 2023-09-27 16:46:39.790481
Title: An AI Chatbot for Explaining Deep Reinforcement Learning Decisions of Service-oriented Systems
Title（参考訳）: サービス指向システムの深層強化学習決定を説明するAIチャットボット
Authors: Andreas Metzger, Jone Bartel, Jan Laufer
Abstract要約: Deep RLの意思決定を理解することは、学習した意思決定ポリシーが本質的にブラックボックスとして現れるため、難しい。本稿では、自然言語による説明を提供することで、Deep RLの意思決定の理解を容易にするためにChat4XAIを紹介する。視覚的な説明と比較すると、自然言語による説明の利点は、非技術的ユーザーの理解性の向上、ユーザの受け入れと信頼の向上、そしてより効率的な説明である。
参考スコア（独自算出の注目度）: 0.3222802562733786
License: http://creativecommons.org/licenses/by-nc-nd/4.0/
Abstract: Deep Reinforcement Learning (Deep RL) is increasingly used to cope with the open-world assumption in service-oriented systems. Deep RL was successfully applied to problems such as dynamic service composition, job scheduling, and offloading, as well as service adaptation. While Deep RL offers many benefits, understanding the decision-making of Deep RL is challenging because its learned decision-making policy essentially appears as a black box. Yet, understanding the decision-making of Deep RL is key to help service developers perform debugging, support service providers to comply with relevant legal frameworks, and facilitate service users to build trust. We introduce Chat4XAI to facilitate the understanding of the decision-making of Deep RL by providing natural-language explanations. Compared with visual explanations, the reported benefits of natural-language explanations include better understandability for non-technical users, increased user acceptance and trust, as well as more efficient explanations. Chat4XAI leverages modern AI chatbot technology and dedicated prompt engineering. Compared to earlier work on natural-language explanations using classical software-based dialogue systems, using an AI chatbot eliminates the need for eliciting and defining potential questions and answers up-front. We prototypically realize Chat4XAI using OpenAI's ChatGPT API and evaluate the fidelity and stability of its explanations using an adaptive service exemplar.
Abstract（参考訳）: 深層強化学習(deep rl)は、サービス指向システムにおけるオープンワールドの仮定に対処するためにますます使われています。 Deep RLは、動的サービス構成、ジョブスケジューリング、オフロード、およびサービス適応といった問題にうまく適用されました。 Deep RLは多くの利点を提供しているが、Deep RLの意思決定を理解することは難しい。しかし、Deep RLの意思決定を理解することが、サービス開発者がデバッグを実行し、サービスプロバイダが関連する法的フレームワークに準拠することをサポートし、サービスユーザが信頼を構築するのを手助けする鍵となります。自然言語による説明を提供することで,Deep RLの意思決定の理解を容易にするためにChat4XAIを導入する。視覚的な説明と比較して、自然言語による説明の利点は、非技術的ユーザーの理解性の向上、ユーザの受け入れと信頼の向上、より効率的な説明などである。 Chat4XAIは、現代のAIチャットボット技術と専用のプロンプトエンジニアリングを活用している。従来のソフトウェアベースの対話システムを用いた自然言語説明の以前の作業と比較すると、aiチャットボットを使用すると、潜在的な質問や回答を先取りして定義する必要がなくなる。 OpenAIのChatGPT APIを用いてChat4XAIをプロトタイプで実現し、適応型サービス例を用いてその説明の忠実さと安定性を評価する。

関連論文リスト

Combining AI Control Systems and Human Decision Support via Robustness and Criticality [53.10194953873209]
我々は、逆説(AE)の方法論を最先端の強化学習フレームワークに拡張する。学習したAI制御システムは、敵のタンパリングに対する堅牢性を示す。トレーニング/学習フレームワークでは、この技術は人間のインタラクションを通じてAIの決定と説明の両方を改善することができる。
論文参考訳（メタデータ） (2024-07-03T15:38:57Z)
Towards Reconciling Usability and Usefulness of Explainable AI Methodologies [2.715884199292287]
ブラックボックスAIシステムは、誤った判断を下すと、責任と説明責任の問題を引き起こす可能性がある。説明可能なAI(XAI)は、開発者とエンドユーザの間の知識ギャップを埋めようとしている。
論文参考訳（メタデータ） (2023-01-13T01:08:49Z)
Intent Recognition in Conversational Recommender Systems [0.0]
会話における入力発話を文脈化するためのパイプラインを導入する。次に、逆機能エンジニアリングを活用して、コンテキスト化された入力と学習モデルをリンクして、意図認識をサポートするための次のステップを踏み出します。
論文参考訳（メタデータ） (2022-12-06T11:02:42Z)
Seamful XAI: Operationalizing Seamful Design in Explainable AI [59.89011292395202]
AIシステムのミスは必然的であり、技術的制限と社会技術的ギャップの両方から生じる。本稿では, 社会工学的・インフラ的ミスマッチを明らかにすることにより, シームレスな設計がAIの説明可能性を高めることを提案する。 43人のAI実践者と実際のエンドユーザでこのプロセスを探求します。
論文参考訳（メタデータ） (2022-11-12T21:54:05Z)
Towards Human Cognition Level-based Experiment Design for Counterfactual Explanations (XAI) [68.8204255655161]
XAI研究の重点は、より理解を深めるために、より実践的な説明アプローチに変わったようだ。認知科学研究がXAIの進歩に大きく影響を与える可能性のある領域は、ユーザの知識とフィードバックを評価することである。本研究では,異なる認知レベルの理解に基づく説明の生成と評価を実験する枠組みを提案する。
論文参考訳（メタデータ） (2022-10-31T19:20:22Z)
Redefining Counterfactual Explanations for Reinforcement Learning: Overview, Challenges and Opportunities [2.0341936392563063]
AIのほとんどの説明方法は、開発者とエキスパートユーザーに焦点を当てている。ブラックボックスモデルの出力が変更されるための入力で何が変更されるのかについて、カウンターファクトな説明がユーザにアドバイスします。カウンターファクトはユーザフレンドリで、AIシステムから望ましいアウトプットを達成するための実行可能なアドバイスを提供する。
論文参考訳（メタデータ） (2022-10-21T09:50:53Z)
Transcending XAI Algorithm Boundaries through End-User-Inspired Design [27.864338632191608]
エンドユーザに対する説明責任重視の機能サポートの欠如は、高度なドメインにおけるAIの安全で責任ある使用を妨げる可能性がある。我々の研究は、エンドユーザーがXAIを使用する際の技術的な問題を根底から解決することで、新たな研究課題がもたらされることを示している。このようなエンドユーザにインスパイアされた研究質問は、AIを民主化し、クリティカルドメインにおけるAIの責任ある使用を保証することによって、社会的善を促進できる可能性がある。
論文参考訳（メタデータ） (2022-08-18T09:44:51Z)
"Explanation" is Not a Technical Term: The Problem of Ambiguity in XAI [2.5899040911480173]
本稿では,これらの特徴を実用性評価に利用する方法について検討する。我々は,機能的役割によって定義された説明の要件,理解しようとするユーザの知識状態,それらの生成に必要な情報の提供に焦点をあてる。
論文参考訳（メタデータ） (2022-06-27T21:42:53Z)
Asking for Knowledge: Training RL Agents to Query External Knowledge Using Language [121.56329458876655]
グリッドワールドベースのQ-BabyAIとテキストベースのQ-TextWorldの2つの新しい環境を紹介した。本稿では,意味のある知識を問うための言語コマンドを生成する「知識の探索(AFK)」エージェントを提案する。
論文参考訳（メタデータ） (2022-05-12T14:20:31Z)
A User-Centred Framework for Explainable Artificial Intelligence in Human-Robot Interaction [70.11080854486953]
本稿では,XAIのソーシャル・インタラクティブな側面に着目したユーザ中心型フレームワークを提案する。このフレームワークは、エキスパートでないユーザのために考えられた対話型XAIソリューションのための構造を提供することを目的としている。
論文参考訳（メタデータ） (2021-09-27T09:56:23Z)
Explainability in Deep Reinforcement Learning [68.8204255655161]
説明可能な強化学習(XRL)の実現に向けての最近の成果を概観する。エージェントの振る舞いを正当化し、説明することが不可欠である重要な状況において、RLモデルのより良い説明可能性と解釈性は、まだブラックボックスと見なされているものの内部動作に関する科学的洞察を得るのに役立つ。
論文参考訳（メタデータ） (2020-08-15T10:11:42Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。