論文の概要: Evaluating graph-based explanations for AI-based recommender systems

• arxiv url: http://arxiv.org/abs/2407.12357v1
• Date: Wed, 17 Jul 2024 07:28:49 GMT
• ステータス: 処理完了
• システム内更新日: 2024-07-18 18:07:45.433342
• Title: Evaluating graph-based explanations for AI-based recommender systems
• Title（参考訳）: AIに基づくレコメンデータシステムのためのグラフに基づく説明の評価
• Authors: Simon Delarue, Astrid Bertrand, Tiphaine Viard,
• Abstract要約: 本稿では,AIによるレコメンデーションに対するユーザの認識を改善するために,グラフに基づく説明の有効性について検討する。 ユーザがグラフベースの説明を,機能の重要性を含む設計よりも有用であると認識していることが分かりました。
• 参考スコア（独自算出の注目度）: 1.2499537119440245
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Recent years have witnessed a rapid growth of recommender systems, providing suggestions in numerous applications with potentially high social impact, such as health or justice. Meanwhile, in Europe, the upcoming AI Act mentions \emph{transparency} as a requirement for critical AI systems in order to ``mitigate the risks to fundamental rights''. Post-hoc explanations seamlessly align with this goal and extensive literature on the subject produced several forms of such objects, graphs being one of them. Early studies in visualization demonstrated the graphs' ability to improve user understanding, positioning them as potentially ideal explanations. However, it remains unclear how graph-based explanations compare to other explanation designs. In this work, we aim to determine the effectiveness of graph-based explanations in improving users' perception of AI-based recommendations using a mixed-methods approach. We first conduct a qualitative study to collect users' requirements for graph explanations. We then run a larger quantitative study in which we evaluate the influence of various explanation designs, including enhanced graph-based ones, on aspects such as understanding, usability and curiosity toward the AI system. We find that users perceive graph-based explanations as more usable than designs involving feature importance. However, we also reveal that textual explanations lead to higher objective understanding than graph-based designs. Most importantly, we highlight the strong contrast between participants' expressed preferences for graph design and their actual ratings using it, which are lower compared to textual design. These findings imply that meeting stakeholders' expressed preferences might not alone guarantee ``good'' explanations. Therefore, crafting hybrid designs successfully balancing social expectations with downstream performance emerges as a significant challenge.
• Abstract（参考訳）: 近年、リコメンデーター制度の急速な成長が見られ、健康や正義などの社会的影響の高い多くのアプリケーションで提案されている。 一方、ヨーロッパでは「基本的権利に対するリスクを緩和する」ために、'emph{transparency}'を重要なAIシステムの要件として言及している。 ポストホックな説明は、この目標とシームレスに一致し、主題に関する広範な文献は、そのような対象のいくつかの形式を生み出し、グラフはその1つとなった。 視覚化に関する初期の研究は、グラフがユーザ理解を改善する能力を示し、それらを潜在的に理想的な説明として位置づけた。 しかし、グラフに基づく説明が他の説明設計とどのように比較されるかは定かではない。 本研究では,混合メソッドアプローチを用いて,AIによる推薦に対するユーザの認識を改善するために,グラフに基づく説明の有効性を決定することを目的とする。 まず,ユーザからのグラフ説明要求を定性的に収集する。 次に、より大規模な定量的研究を行い、グラフベースのものを含む様々な説明設計がAIシステムに対する理解、ユーザビリティ、好奇心などの側面に与える影響を評価する。 ユーザがグラフベースの説明を,機能の重要性を含む設計よりも有用であると認識していることが分かりました。 しかし,テキストによる説明がグラフに基づく設計よりも客観的な理解につながることも明らかにした。 最も重要なことは、参加者のグラフデザインに対する表現された嗜好とそれを用いた実際の評価との間に強いコントラストを強調し、これはテキストデザインよりも低い。 これらの結果は、利害関係者の表明された嗜好が「良い」説明を保障するだけでなく、単に「良い」説明を保証している可能性を示唆している。 そのため、社会的期待と下流のパフォーマンスのバランスをとるためにハイブリッドデザインを開発することが大きな課題となる。

関連論文リスト

• Narrating Causal Graphs with Large Language Models [1.437446768735628]
  本研究では、因果グラフからテキストを生成するための、大規模事前学習言語モデルの能力について検討する。 これらのグラフにエンコードされた因果推論は、医療やマーケティングのような多様なアプリケーションをサポートすることができる。 結果として、生成AIのユーザは、いくつかの例だけでモデルをトレーニングするときに、同様のパフォーマンスが得られるため、将来のアプリケーションをより早くデプロイできる可能性が示唆されている。
  論文  参考訳（メタデータ） (2024-03-11T19:19:59Z)
• Explanation Graph Generation via Generative Pre-training over Synthetic Graphs [6.25568933262682]
  説明グラフの生成は,ユーザの入力に応じて説明グラフを作成することを目的とした重要なタスクである。 現在の研究では、ラベル付きグラフで注釈付けされた小さな下流データセット上で、テキストベースの事前学習言語モデルを微調整するのが一般的である。 本稿では,説明グラフ生成タスクのための新しい事前学習フレームワークEG3Pを提案する。
  論文  参考訳（メタデータ） (2023-06-01T13:20:22Z)
• State of the Art and Potentialities of Graph-level Learning [54.68482109186052]
  グラフレベルの学習は、比較、回帰、分類など、多くのタスクに適用されている。 グラフの集合を学習する伝統的なアプローチは、サブストラクチャのような手作りの特徴に依存している。 ディープラーニングは、機能を自動的に抽出し、グラフを低次元表現に符号化することで、グラフレベルの学習をグラフの規模に適応させるのに役立っている。
  論文  参考訳（メタデータ） (2023-01-14T09:15:49Z)
• Towards Explanation for Unsupervised Graph-Level Representation Learning [108.31036962735911]
  既存の説明手法は,教師付き設定,例えばノード分類,グラフ分類に重点を置いているが,教師なしグラフレベルの表現学習に関する説明はまだ探索されていない。 本稿では,非教師付きグラフ表現における説明問題に対処するために,インフォメーション・ボトルネックの原則(IB)を推進し,新しい原理であるtextitUnsupervised Subgraph Information Bottleneck(USIB)を導出する。 また,グラフ表現とラベル空間上の説明部分グラフの関連性も理論的に解析し,表現の堅牢性が説明部分グラフの忠実性に寄与することを明らかにする。
  論文  参考訳（メタデータ） (2022-05-20T02:50:15Z)
• Unbiased Graph Embedding with Biased Graph Observations [52.82841737832561]
  基礎となるバイアスのないグラフから学習することで、バイアスのない表現を得るための、原則化された新しい方法を提案する。 この新たな視点に基づいて、そのような基礎となるグラフを明らかにするための2つの補完的手法を提案する。
  論文  参考訳（メタデータ） (2021-10-26T18:44:37Z)
• Graphing else matters: exploiting aspect opinions and ratings in explainable graph-based recommendations [66.83527496838937]
  本稿では,テキストレビューで表現された評価情報とアスペクトベースの意見を組み合わせたグラフから抽出した埋め込みを活用することを提案する。 次に、AmazonとYelpの6つのドメインのレビューから生成されたグラフに対して、最先端のグラフ埋め込み技術を適用して評価する。 提案手法は,推奨項目について利用者が提示したアスペクトベースの意見を活用した説明を提供することの利点がある。
  論文  参考訳（メタデータ） (2021-07-07T13:57:28Z)
• Graph Learning based Recommender Systems: A Review [111.43249652335555]
  グラフ学習ベースのレコメンダーシステム(GLRS)は、高度なグラフ学習アプローチを使用して、ユーザーの好みと意図、および推奨項目の特性をモデル化します。 本稿では,グラフに基づく表現から重要な知識を抽出し,レコメンデーションの正確性,信頼性,説明性を向上する方法について論じることにより,GLRSの体系的なレビューを行う。
  論文  参考訳（メタデータ） (2021-05-13T14:50:45Z)
• ExplaGraphs: An Explanation Graph Generation Task for Structured Commonsense Reasoning [65.15423587105472]
  スタンス予測のための説明グラフ生成の新しい生成および構造化コモンセンスリゾニングタスク(および関連するデータセット)を紹介します。 具体的には、信念と議論が与えられた場合、モデルは、議論が信念を支持しているかどうかを予測し、予測されたスタンスに対する非自明で完全で曖昧な説明として機能する常識強化グラフを生成する必要がある。 グラフの83%は、様々な構造と推論深度を持つ外部のコモンセンスノードを含んでいる。
  論文  参考訳（メタデータ） (2021-04-15T17:51:36Z)
• EAGER: Embedding-Assisted Entity Resolution for Knowledge Graphs [4.363674669941547]
  EAGER(Embedding-Assisted Knowledge Graph Entity Resolution)と呼ばれる,より包括的なERアプローチを提案する。 異なる大きさの知識グラフと構造化された知識グラフを持つ23のベンチマークデータセットに対するアプローチを評価した。
  論文  参考訳（メタデータ） (2021-01-15T14:12:10Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。