論文の概要: Understanding the Prediction Mechanism of Sentiments by XAI
Visualization
- arxiv url: http://arxiv.org/abs/2003.01425v1
- Date: Tue, 3 Mar 2020 10:25:50 GMT
- ステータス: 処理完了
- システム内更新日: 2022-12-26 22:15:30.616700
- Title: Understanding the Prediction Mechanism of Sentiments by XAI
Visualization
- Title(参考訳): XAI可視化による感性予測機構の解明
- Authors: Chaehan So
- Abstract要約: 説明可能なAI(XAI)手法を用いて、オンラインホテルレビューから抽出された感情の効果を可視化すること。
研究1では、抽出した感情を特徴として、5つの機械学習アルゴリズムによるレビュー評価を予測した。
調査2では,無作為林モデルを特徴的重要度で分析し,最も予測的な特徴として,喜び,嫌悪,肯定的,否定的な感情を明らかにした。
- 参考スコア(独自算出の注目度): 1.52292571922932
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: People often rely on online reviews to make purchase decisions. The present
work aimed to gain an understanding of a machine learning model's prediction
mechanism by visualizing the effect of sentiments extracted from online hotel
reviews with explainable AI (XAI) methodology. Study 1 used the extracted
sentiments as features to predict the review ratings by five machine learning
algorithms (knn, CART decision trees, support vector machines, random forests,
gradient boosting machines) and identified random forests as best algorithm.
Study 2 analyzed the random forests model by feature importance and revealed
the sentiments joy, disgust, positive and negative as the most predictive
features. Furthermore, the visualization of additive variable attributions and
their prediction distribution showed correct prediction in direction and effect
size for the 5-star rating but partially wrong direction and insufficient
effect size for the 1-star rating. These prediction details were corroborated
by a what-if analysis for the four top features. In conclusion, the prediction
mechanism of a machine learning model can be uncovered by visualization of
particular observations. Comparing instances of contrasting ground truth values
can draw a differential picture of the prediction mechanism and inform
decisions for model improvement.
- Abstract(参考訳): 人々はしばしば購入決定をオンラインレビューに頼っている。
本研究の目的は、オンラインホテルレビューから抽出した感情を、説明可能なAI(XAI)手法で可視化することで、機械学習モデルの予測メカニズムを理解することである。
研究1では、抽出した感情を、5つの機械学習アルゴリズム(knn、CART決定木、サポートベクターマシン、ランダムフォレスト、勾配向上マシン)によるレビュー評価を予測する機能として使用し、ランダムフォレストを最適なアルゴリズムとして同定した。
研究2では,ランダムフォレストモデルを特徴量で分析し,最も予測的な特徴として,喜び感,嫌悪感,肯定感,否定感を明らかにした。
さらに, 加法変数属性の可視化と予測分布は, 5星評価では正しい方向と効果の大きさを示したが, 1星評価では部分的に誤り, 効果サイズが不十分であった。
これらの予測の詳細は、4つのトップ機能のwhat-if分析によって裏付けられた。
結論として、機械学習モデルの予測機構は、特定の観測の可視化によって明らかにされる。
対照的な基底真理値の比較例は、予測機構の差分図を描き、モデル改善のための決定を通知することができる。
関連論文リスト
- Explaining Hate Speech Classification with Model Agnostic Methods [0.9990687944474738]
本研究の目的は、ヘイトスピーチ予測と、その決定を支援するためにシステムによって生成された説明とのギャップを埋めることである。
これは、まずテキストの分類を予測し、その後、ポストホック、モデル非依存、代理的解釈可能性アプローチを提供することによって達成されている。
論文 参考訳(メタデータ) (2023-05-30T19:52:56Z) - Rationalizing Predictions by Adversarial Information Calibration [65.19407304154177]
我々は2つのモデルを共同で訓練する: 1つは、正確だがブラックボックスな方法でタスクを解く典型的なニューラルモデルであり、もう1つは、予測の理論的根拠を付加するセレクタ・予測モデルである。
我々は,2つのモデルから抽出した情報を,それらの違いが欠落した特徴や過度に選択された特徴の指標であるように校正するために,敵対的手法を用いる。
論文 参考訳(メタデータ) (2023-01-15T03:13:09Z) - Generalizability Analysis of Graph-based Trajectory Predictor with
Vectorized Representation [29.623692599892365]
軌道予測は自動運転車にとって不可欠な課題の1つである。
機械学習の最近の進歩は、一連の高度な軌道予測アルゴリズムを生み出した。
論文 参考訳(メタデータ) (2022-08-06T20:19:52Z) - Beyond Trivial Counterfactual Explanations with Diverse Valuable
Explanations [64.85696493596821]
コンピュータビジョンの応用において、生成的対実法はモデルの入力を摂動させて予測を変更する方法を示す。
本稿では,多様性強化損失を用いて制約される不連続潜在空間における摂動を学習する反事実法を提案する。
このモデルは, 従来の最先端手法と比較して, 高品質な説明を生産する成功率を向上させる。
論文 参考訳(メタデータ) (2021-03-18T12:57:34Z) - SparseBERT: Rethinking the Importance Analysis in Self-attention [107.68072039537311]
トランスフォーマーベースのモデルは、その強力な能力のために自然言語処理(NLP)タスクに人気がある。
事前学習モデルの注意マップの可視化は,自己着脱機構を理解するための直接的な方法の一つである。
本研究では,sparsebert設計の指導にも適用可能な微分可能アテンションマスク(dam)アルゴリズムを提案する。
論文 参考訳(メタデータ) (2021-02-25T14:13:44Z) - Learning from the Best: Rationalizing Prediction by Adversarial
Information Calibration [39.685626118667074]
2つのモデルを共同でトレーニングする。1つは手前のタスクを正確だがブラックボックスな方法で解く典型的なニューラルモデルであり、もう1つはセレクタ-予測モデルであり、予測の根拠も生み出す。
両モデルから抽出した情報の校正には,逆数に基づく手法を用いる。
自然言語タスクには, 言語モデルに基づく正規化子を用いて, 流線型論理の抽出を促進することを提案する。
論文 参考訳(メタデータ) (2020-12-16T11:54:15Z) - Aspect Based Sentiment Analysis with Aspect-Specific Opinion Spans [66.77264982885086]
複数のリニアチェインCRFを集約することで、きれいで効果的な構造化されたアテンションモデルを提案する。
このような設計により、モデルはアスペクト固有の意見空間を抽出し、抽出した意見特徴を利用して感情極性を評価することができる。
論文 参考訳(メタデータ) (2020-10-06T13:18:35Z) - Deducing neighborhoods of classes from a fitted model [68.8204255655161]
本稿では,新しいタイプの解釈可能な機械学習手法を提案する。
量子シフトを用いた分類モデルでは、特徴空間の予測クラスへの分割を理解するのに役立ちます。
基本的に、実際のデータポイント(または特定の関心点)を使用し、特定の特徴をわずかに引き上げたり減少させたりした後の予測の変化を観察する。
論文 参考訳(メタデータ) (2020-09-11T16:35:53Z) - Are Visual Explanations Useful? A Case Study in Model-in-the-Loop
Prediction [49.254162397086006]
画像に基づく年齢予測課題における視覚的満足度に基づく説明について検討する。
モデル予測の提示により,人間の精度が向上することが判明した。
しかし、様々な種類の説明は、人間の正確さやモデルの信頼を著しく変えることができない。
論文 参考訳(メタデータ) (2020-07-23T20:39:40Z) - What Emotions Make One or Five Stars? Understanding Ratings of Online
Product Reviews by Sentiment Analysis and XAI [1.52292571922932]
この研究はオンラインレビューを感情分析によって分析し、抽出した感情を製品評価を予測する機能として利用した。
予測は、予測中にモデルにバイアスが現れるかどうかを理解するために、説明可能なAI(XAI)の様々なメソドによって歪められた。
論文 参考訳(メタデータ) (2020-02-29T07:39:35Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。