論文の概要: Explaining Image Classification with Visual Debates

• arxiv url: http://arxiv.org/abs/2210.09015v2
• Date: Tue, 23 May 2023 09:58:18 GMT
• ステータス: 処理完了
• システム内更新日: 2023-05-25 01:23:53.061102
• Title: Explaining Image Classification with Visual Debates
• Title（参考訳）: ビジュアルディベートによる画像分類の説明
• Authors: Avinash Kori, Ben Glocker, Francesca Toni
• Abstract要約: 本稿では,特定の予測を行うための連続画像分類器の推論の理解と説明のための新しい議論フレームワークを提案する。 我々の枠組みは、対戦相手が見逃した推論の道筋を拾い上げることで、競技者が様々な議論を行うよう促す。 我々は、幾何学的SHAPEおよびMNISTデータセット上で、視覚的議論を実証し、評価する(実用的な実現)。
• 参考スコア（独自算出の注目度）: 26.76139301708958
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: An effective way to obtain different perspectives on any given topic is by conducting a debate, where participants argue for and against the topic. Here, we propose a novel debate framework for understanding and explaining a continuous image classifier's reasoning for making a particular prediction by modeling it as a multiplayer sequential zero-sum debate game. The contrastive nature of our framework encourages players to learn to put forward diverse arguments during the debates, picking up the reasoning trails missed by their opponents and highlighting any uncertainties in the classifier. Specifically, in our proposed setup, players propose arguments, drawn from the classifier's discretized latent knowledge, to support or oppose the classifier's decision. The resulting Visual Debates collect supporting and opposing features from the discretized latent space of the classifier, serving as explanations for the internal reasoning of the classifier towards its predictions. We demonstrate and evaluate (a practical realization of) our Visual Debates on the geometric SHAPE and MNIST datasets and on the high-resolution animal faces (AFHQ) dataset, along standard evaluation metrics for explanations (i.e. faithfulness and completeness) and novel, bespoke metrics for visual debates as explanations (consensus and split ratio).
• Abstract（参考訳）: 特定のトピックについて異なる視点を得る効果的な方法は、参加者が議論し、そのトピックに対して反対する議論を行うことである。 本稿では,連続画像分類器の推論をマルチプレイヤーシーケンシャルゼロサムディベートゲームとしてモデル化することで理解し,説明するための新たな議論フレームワークを提案する。 我々のフレームワークの対照的な性質は、プレイヤーが議論中に多様な議論を提起することを学び、相手が見逃した推論の軌跡を拾い上げ、分類者の不確実性を強調させる。 特に, 提案手法では, プレイヤーは分類器の決定を支持するか, 反対するかするために, 分類器の非正規化された潜在知識から引き出された議論を提案する。 結果として得られた視覚的な議論は、分類器の離散化された潜在空間から支持と反対の特徴を収集し、分類器の内部的推論の予測への説明となる。 我々は、幾何学的SHAPEおよびMNISTデータセットと高分解能動物顔(AFHQ)データセットと、説明のための標準的な評価指標(忠実性と完全性)と、説明として視覚的議論のための目覚ましいメトリクス(合意と分割比率)を実証し、評価した。

関連論文リスト

• A Picture Is Worth a Graph: A Blueprint Debate Paradigm for Multimodal Reasoning [53.35861580821777]
  この研究は、過剰な要約による意見の自明化と、画像から導入された散逸した概念による焦点の転換という2つの主要な課題に対処する。 この問題に対処するため,BDoG (Blueprint Debate on Graphs) と呼ばれる演目的(トップダウン)な議論手法を提案する。 BDoGでは、世界レベルの要約による意見の自明化を防止するために、ブループリントグラフに限定して議論を行う。さらに、BDoGはグラフ内の枝に証拠を格納することで、頻繁だが無関係な概念によって引き起こされる混乱を緩和する。
  論文  参考訳（メタデータ） (2024-03-22T06:03:07Z)
• Debatrix: Multi-dimensional Debate Judge with Iterative Chronological Analysis Based on LLM [51.43102092480804]
  Debatrixは、Large Language Models (LLMs)に基づく自動ディスカッションジャッジである。 実世界の議論シナリオに合わせるため、私たちはPanelBenchベンチマークを導入し、システムの性能と実際の議論結果を比較した。 以上の結果から,LSMを直接使用して議論評価を行ない,顕著な改善が見られた。
  論文  参考訳（メタデータ） (2024-03-12T18:19:47Z)
• Argue with Me Tersely: Towards Sentence-Level Counter-Argument Generation [62.069374456021016]
  本稿では,文レベル逆問題生成のためのArgTerselyベンチマークを提案する。 また,Arg-LlaMAによる高品質な逆問題生成手法を提案する。
  論文  参考訳（メタデータ） (2023-12-21T06:51:34Z)
• Indicative Summarization of Long Discussions [37.80285705350554]
  本稿では,大規模言語モデル (LLM) を用いた非教師なしの手法を提案する。 提案手法では、まず、引数文をクラスタ化し、抽象的な要約としてクラスタラベルを生成し、生成されたクラスタラベルを引数フレームに分類する。 広範に最適化されたプロンプトエンジニアリングアプローチに基づいて、生成クラスタラベリングとフレーム分類のための19LLMを評価する。
  論文  参考訳（メタデータ） (2023-11-03T12:44:59Z)
• A Unifying Framework for Learning Argumentation Semantics [50.69905074548764]
  Inductive Logic Programmingアプローチを用いて、抽象的および構造化された議論フレームワークのアクセシビリティセマンティクスを解釈可能な方法で学習する新しいフレームワークを提案する。 提案手法は既存の議論解法よりも優れており,フォーマルな議論や人間と機械の対話の領域において,新たな研究の方向性が開けることになる。
  論文  参考訳（メタデータ） (2023-10-18T20:18:05Z)
• Persua: A Visual Interactive System to Enhance the Persuasiveness of Arguments in Online Discussion [52.49981085431061]
  説得力のある議論を書く能力を高めることは、オンラインコミュニケーションの有効性と文明性に寄与する。 オンライン議論における議論の説得力向上を支援するツールの設計目標を4つ導き出した。 Persuaは対話型ビジュアルシステムであり、議論の説得力を高めるための説得戦略の例に基づくガイダンスを提供する。
  論文  参考訳（メタデータ） (2022-04-16T08:07:53Z)
• ConvoSumm: Conversation Summarization Benchmark and Improved Abstractive Summarization with Argument Mining [61.82562838486632]
  我々は、さまざまなオンライン会話形式のニュースコメント、ディスカッションフォーラム、コミュニティ質問応答フォーラム、電子メールスレッドに関する4つの新しいデータセットをクラウドソースする。 我々は、データセットの最先端モデルをベンチマークし、データに関連する特徴を分析します。
  論文  参考訳（メタデータ） (2021-06-01T22:17:13Z)
• The Unfolding Structure of Arguments in Online Debates: The case of a No-Deal Brexit [0.0]
  オンライン討論の潜在的な議論構造を抽出,分類,探索するための5段階の手法を提案する。 合意なし」ブレグジットに関するTwitterのデータを用いて、このイベントが実現した場合の期待される影響に焦点を当てる。 その結果,提案手法を議論の統計的レトリック解析に用いることができることがわかった。
  論文  参考訳（メタデータ） (2021-03-09T12:29:43Z)
• Exploring the Role of Argument Structure in Online Debate Persuasion [39.74040217761505]
  オンライン討論会における議論における議論の談話構造の役割について考察する。 我々は、より優れた予測性能を達成する上で、引数構造が重要な役割を担っていることを発見した。
  論文  参考訳（メタデータ） (2020-10-07T17:34:50Z)
• AMPERSAND: Argument Mining for PERSuAsive oNline Discussions [41.06165177604387]
  本稿では,オンライン議論フォーラムにおける議論マイニングのための計算モデルを提案する。 我々のアプローチは、議論スレッド内の引数のコンポーネント間の関係を識別することに依存します。 我々のモデルは最近の最先端のアプローチと比較して大幅に改善されている。
  論文  参考訳（メタデータ） (2020-04-30T10:33:40Z)
• Reasoning on Knowledge Graphs with Debate Dynamics [27.225048123690243]
  本稿では,議論力学に基づく知識グラフの自動推論手法を提案する。 主な考え方は、2つの強化学習エージェント間の議論ゲームとして三重分類のタスクを組むことである。 本稿では3つの分類とリンク予測タスクについてベンチマークを行う。
  論文  参考訳（メタデータ） (2020-01-02T14:44:23Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。