論文の概要: Aligning Explanations with Human Communication

• arxiv url: http://arxiv.org/abs/2505.15626v1
• Date: Wed, 21 May 2025 15:14:05 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-05-22 15:42:59.726014
• Title: Aligning Explanations with Human Communication
• Title（参考訳）: ヒューマンコミュニケーションによる説明の調整
• Authors: Jacopo Teneggi, Zhenzhen Wang, Paul H. Yi, Tianmin Shu, Jeremias Sulam,
• Abstract要約: 本稿では,実践的推論の原理に基づく反復的手続きと,コミュニケーションの利便性を最大化する説明文を生成する合理的な発話法を提案する。 本手法を画像分類タスクにおいて評価し、3つのデータセット間の説明とリスナーの嗜好の整合性の向上を示す。
• 参考スコア（独自算出の注目度）: 16.285213687701187
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Machine learning explainability aims to make the decision-making process of black-box models more transparent by finding the most important input features for a given prediction task. Recent works have proposed composing explanations from semantic concepts (e.g., colors, patterns, shapes) that are inherently interpretable to the user of a model. However, these methods generally ignore the communicative context of explanation-the ability of the user to understand the prediction of the model from the explanation. For example, while a medical doctor might understand an explanation in terms of clinical markers, a patient may need a more accessible explanation to make sense of the same diagnosis. In this paper, we address this gap with listener-adaptive explanations. We propose an iterative procedure grounded in principles of pragmatic reasoning and the rational speech act to generate explanations that maximize communicative utility. Our procedure only needs access to pairwise preferences between candidate explanations, relevant in real-world scenarios where a listener model may not be available. We evaluate our method in image classification tasks, demonstrating improved alignment between explanations and listener preferences across three datasets. Furthermore, we perform a user study that demonstrates our explanations increase communicative utility.
• Abstract（参考訳）: 機械学習の説明可能性とは、与えられた予測タスクにおいて最も重要な入力機能を見つけることによって、ブラックボックスモデルの意思決定プロセスをより透過的にすることを目的としている。 近年の研究では、モデルの使用者に対して本質的に解釈可能な意味概念(色、パターン、形状など)からの説明が提案されている。 しかし、これらの手法は一般的に説明のコミュニケーション的文脈を無視しており、ユーザーは説明からモデルの予測を理解することができる。 例えば、医師は臨床マーカーの観点で説明を理解できるが、患者は同じ診断を理解するために、よりアクセスしやすい説明が必要であるかもしれない。 本稿では,このギャップをリスナー適応的な説明を用いて解決する。 本稿では,実践的推論の原理に基づく反復的手続きと,コミュニケーションの利便性を最大化する説明文を生成する合理的な発話法を提案する。 我々の手順は、リスナーモデルが利用できない現実のシナリオにおいて、候補説明間のペアワイズな選好へのアクセスのみを必要とする。 本手法を画像分類タスクにおいて評価し、3つのデータセット間の説明とリスナーの嗜好の整合性の向上を示す。 さらに,コミュニケーション性の向上を実証するユーザスタディも実施している。

関連論文リスト

• Speechworthy Instruction-tuned Language Models [71.8586707840169]
  提案手法は,学習の促進と嗜好の両面において,一般的な命令調整型LLMの音声適合性の向上を図っている。 我々は,各手法が生成した応答の音声適合性向上にどのように貢献するかを示すために,語彙的,構文的,定性的な分析を共有する。
  論文  参考訳（メタデータ） (2024-09-23T02:34:42Z)
• Data-Centric Human Preference with Rationales for Direct Preference Alignment [23.243583332894737]
  本稿では,人間の嗜好の背景にある理由を説明する理屈による標準選好ペアの強化を提案する。 包括的分析により,合理性を取り入れることで学習効率が向上することが示された。 本研究は,優先学習における思慮深いデータ設計の可能性を示すものである。
  論文  参考訳（メタデータ） (2024-07-19T17:27:52Z)
• Evaluating the Utility of Model Explanations for Model Development [54.23538543168767]
  機械学習モデル構築の実践シナリオにおいて、説明が人間の意思決定を改善するかどうかを評価する。 驚いたことに、サリエンシマップが提供されたとき、タスクが大幅に改善されたという証拠は見つからなかった。 以上の結果から,サリエンシに基づく説明における誤解の可能性と有用性について注意が必要であることが示唆された。
  論文  参考訳（メタデータ） (2023-12-10T23:13:23Z)
• Regularized Conventions: Equilibrium Computation as a Model of Pragmatic Reasoning [72.21876989058858]
  本稿では,信号ゲームの正規化平衡を探索することにより,発話を生成・理解する実用的な言語理解のモデルを提案する。 このモデルでは、話者とリスナーは文脈的に適切な発話を探索し、ゲーム理論の最適規則に近づき、共有された'デフォルト'セマンティクスに近い意味のマッピングを意味づける。
  論文  参考訳（メタデータ） (2023-11-16T09:42:36Z)
• Improving Speaker Diarization using Semantic Information: Joint Pairwise Constraints Propagation [53.01238689626378]
  本稿では,話者ダイアリゼーションシステムにおける意味情報を活用する新しい手法を提案する。 音声言語理解モジュールを導入し、話者関連意味情報を抽出する。 本稿では,これらの制約を話者ダイアリゼーションパイプラインに統合する新しい枠組みを提案する。
  論文  参考訳（メタデータ） (2023-09-19T09:13:30Z)
• Knowledge Boosting: Rethinking Medical Contrastive Vision-Language Pre-Training [6.582001681307021]
  知識ブースティング・コントラスト・ビジョン・ランゲージ事前学習フレームワーク(KoBo)を提案する。 KoBoは、臨床知識を視覚言語意味一貫性の学習に統合する。 分類,セグメンテーション,検索,意味的関連性を含む8つのタスクに対するフレームワークの効果を検証する実験を行った。
  論文  参考訳（メタデータ） (2023-07-14T09:38:22Z)
• Explanation Selection Using Unlabeled Data for Chain-of-Thought Prompting [80.9896041501715]
  非専門家によって書かれたオフ・ザ・シェルフの説明のように、タスクのために"チューニング"されていない説明は、中途半端なパフォーマンスをもたらす可能性がある。 本稿では,ブラックボックス方式で説明拡散プロンプトを最適化する方法の課題に対処する。
  論文  参考訳（メタデータ） (2023-02-09T18:02:34Z)
• Curriculum Learning for Goal-Oriented Semantic Communications with a Common Language [60.85719227557608]
  話者とリスナーが協調して一連のタスクを実行することを可能にするために,総合目標指向のセマンティックコミュニケーションフレームワークを提案する。 話者とリスナーのセマンティックコミュニケーションを実現するために,階層的信念に基づく共通言語を提案する。 最適化問題は、イベントの完全かつ抽象的な記述を決定するために定義される。
  論文  参考訳（メタデータ） (2022-04-21T22:36:06Z)
• Human Interpretation of Saliency-based Explanation Over Text [65.29015910991261]
  テキストデータ上でのサリエンシに基づく説明について検討する。 人はしばしば説明を誤って解釈する。 本稿では,過度知覚と過小認識のモデル推定に基づいて,サリエンシを調整する手法を提案する。
  論文  参考訳（メタデータ） (2022-01-27T15:20:32Z)
• Explanation as a process: user-centric construction of multi-level and multi-modal explanations [0.34410212782758043]
  本稿では,マルチレベルとマルチモーダルな説明を組み合わせたプロセスベースアプローチを提案する。 私たちは、解釈可能な機械学習アプローチであるインダクティブロジックプログラミングを使用して、理解可能なモデルを学びます。
  論文  参考訳（メタデータ） (2021-10-07T19:26:21Z)
• Semi-Supervised Variational Reasoning for Medical Dialogue Generation [70.838542865384]
  医療対話生成には,患者の状態と医師の行動の2つの重要な特徴がある。 医療対話生成のためのエンドツーエンドの変分推論手法を提案する。 行動分類器と2つの推論検出器から構成される医師政策ネットワークは、拡張推論能力のために提案される。
  論文  参考訳（メタデータ） (2021-05-13T04:14:35Z)
• DHASP: Differentiable Hearing Aid Speech Processing [23.101074347473904]
  聴取者の聴力障害に対する適切な増幅は、良好な演奏に不可欠である。 本稿では,補聴器音声処理フレームワークの導入により,最適な適合度を求めるための代替手法を提案する。 このフレームワークは完全に差別化可能であり、効率的なデータ駆動最適化にバックプロパゲーションアルゴリズムを使用することができる。 最初の目的の実験では、ノイズのない音声増幅に有望な結果が示され、自動最適化されたプロセッサは、よく認識された補聴器処方薬の1つを上回る。
  論文  参考訳（メタデータ） (2021-03-15T17:34:22Z)
• Contrastive Explanations for Model Interpretability [77.92370750072831]
  分類モデルの対照的説明を生成する手法を提案する。 本手法は潜在空間へのモデル表現の投影に基づいている。 本研究は,モデル決定のより正確できめ細かな解釈性を提供するためのラベルコントラスト的説明の能力に光を当てた。
  論文  参考訳（メタデータ） (2021-03-02T00:36:45Z)
• Evaluating Explanations: How much do explanations from the teacher aid students? [103.05037537415811]
  本研究では,説明が生徒の学習モデルを改善する程度を測る学生-教師パラダイムを用いて,説明の価値を定式化する。 説明を評価するための従来の提案とは異なり、我々のアプローチは容易にゲーム化できず、原則付き、スケーラブルで、属性の自動評価を可能にします。
  論文  参考訳（メタデータ） (2020-12-01T23:40:21Z)
• Comparison of Speaker Role Recognition and Speaker Enrollment Protocol for conversational Clinical Interviews [9.728371067160941]
  エンドツーエンドのニューラルネットワークアーキテクチャをトレーニングし、各タスクに適応し、各アプローチを同じメトリクスで評価します。 結果は面接者の人口統計にも依存せず,その臨床的意義を浮き彫りにした。
  論文  参考訳（メタデータ） (2020-10-30T09:07:37Z)
• Explaining black-box text classifiers for disease-treatment information extraction [12.323983512532651]
  ポストホックな説明法はブラックボックスAIモデルの振る舞いを近似することができる。 医療概念とセマンティクスを説明プロセスに組み込むことで,インプットとアウトプットのセマンティクスの関係を見出す。
  論文  参考訳（メタデータ） (2020-10-21T09:58:00Z)
• The Struggles of Feature-Based Explanations: Shapley Values vs. Minimal Sufficient Subsets [61.66584140190247]
  機能に基づく説明は、自明なモデルでも問題を引き起こすことを示す。 そこで本研究では,2つの一般的な説明書クラスであるシェープリー説明書と十分最小限の部分集合説明書が,基本的に異なる基底的説明書のタイプをターゲットにしていることを示す。
  論文  参考訳（メタデータ） (2020-09-23T09:45:23Z)
• Sequential Explanations with Mental Model-Based Policies [20.64968620536829]
  本研究では,説明者の精神モデルに基づく説明を提供するための強化学習フレームワークを適用した。 我々は、説明が選ばれ、参加者に提示される新しいオンライン人間実験を行う。 以上の結果から,精神モデルに基づく政策は,複数のシーケンシャルな説明よりも解釈可能性を高める可能性が示唆された。
  論文  参考訳（メタデータ） (2020-07-17T14:43:46Z)
• Explanations of Black-Box Model Predictions by Contextual Importance and Utility [1.7188280334580195]
  本稿では,初級者だけでなく専門家が容易に理解できる説明を抽出するために,文脈重要度(CI)と文脈実用性(CU)の概念を提案する。 本手法は,モデルを解釈可能なモデルに変換することなく予測結果を説明する。 カーセレクションの例とアイリスの花分類における説明の有用性を,完全な(つまり,個人の予測の原因)と対照的な説明を提示することによって示す。
  論文  参考訳（メタデータ） (2020-05-30T06:49:50Z)
• LIMEtree: Consistent and Faithful Surrogate Explanations of Multiple Classes [7.031336702345381]
  マルチクラス説明の新しいパラダイムを紹介する。 LIMEtree と呼ばれる多出力回帰木に基づく局所代理モデルを提案する。 強い忠実性の保証に加えて、我々の実装は多様な説明型を提供します。
  論文  参考訳（メタデータ） (2020-05-04T12:31:29Z)
• The Explanation Game: Towards Prediction Explainability through Sparse Communication [6.497816402045099]
  我々は,説明責任の統一的な視点を,説明者と素人の間の問題として提供する。 このフレームワークを使って、説明の抽出にいくつかの先行したアプローチを比較します。 本稿では,選択的,スパースな注意力を用いて,説明可能性のための新しい組込み手法を提案する。
  論文  参考訳（メタデータ） (2020-04-28T22:27:19Z)
• Speaker Diarization with Lexical Information [59.983797884955]
  本研究では,音声認識による語彙情報を活用した話者ダイアリゼーション手法を提案する。 本稿では,話者クラスタリングプロセスに単語レベルの話者回転確率を組み込んだ話者ダイアリゼーションシステムを提案し,全体的なダイアリゼーション精度を向上させる。
  論文  参考訳（メタデータ） (2020-04-13T17:16:56Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。