論文の概要: How does this interaction affect me? Interpretable attribution for feature interactions

• arxiv url: http://arxiv.org/abs/2006.10965v1
• Date: Fri, 19 Jun 2020 05:14:24 GMT
• ステータス: 処理完了
• システム内更新日: 2022-11-19 03:48:24.542474
• Title: How does this interaction affect me? Interpretable attribution for feature interactions
• Title（参考訳）: この相互作用は私にどう影響しますか? 特徴相互作用の解釈的属性
• Authors: Michael Tsang, Sirisha Rambhatla, Yan Liu
• Abstract要約: 我々はArchipelagoと呼ばれる相互作用属性と検出フレームワークを提案する。 標準アノテーションラベルを用いた実験により,本手法は同等の手法よりもはるかに解釈可能な説明を提供することが示された。 また、ディープニューラルネットワークに新たな洞察を与えるアプローチの視覚化も提供しています。
• 参考スコア（独自算出の注目度）: 19.979889568380464
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Machine learning transparency calls for interpretable explanations of how inputs relate to predictions. Feature attribution is a way to analyze the impact of features on predictions. Feature interactions are the contextual dependence between features that jointly impact predictions. There are a number of methods that extract feature interactions in prediction models; however, the methods that assign attributions to interactions are either uninterpretable, model-specific, or non-axiomatic. We propose an interaction attribution and detection framework called Archipelago which addresses these problems and is also scalable in real-world settings. Our experiments on standard annotation labels indicate our approach provides significantly more interpretable explanations than comparable methods, which is important for analyzing the impact of interactions on predictions. We also provide accompanying visualizations of our approach that give new insights into deep neural networks.
• Abstract（参考訳）: 機械学習の透明性は、入力がどのように予測に関連しているかを解釈可能な説明を要求する。 特徴帰属(Feature Attribution)は、予測に対する機能の影響を分析する方法である。 特徴の相互作用は、予測に共同で影響を及ぼす特徴間のコンテキスト依存である。 予測モデルにおける特徴的相互作用を抽出する手法はいくつかあるが、相互作用への属性を割り当てる手法は解釈不能、モデル固有または非アキソティックである。 本稿では,これらの問題に対処し,実環境においてスケーラブルなインタラクション属性と検出フレームワークArchipelagoを提案する。 標準アノテーションラベルを用いた実験により,本手法は比較手法よりもはるかに解釈可能な説明を提供し,対話が予測に与える影響を分析する上で重要であることが示された。 また、ディープニューラルネットワークに新たな洞察を与えるアプローチの視覚化も提供しています。

関連論文リスト

• SSL-Interactions: Pretext Tasks for Interactive Trajectory Prediction [4.286256266868156]
  トラジェクティブ予測のためのインタラクションモデリングを強化するために,プリテキストタスクを提案するSSL-Interactionsを提案する。 エージェントインタラクションの様々な側面をカプセル化する4つの対話対応プレテキストタスクを導入する。 また,データセットからインタラクション重大シナリオをキュレートする手法を提案する。
  論文  参考訳（メタデータ） (2024-01-15T14:43:40Z)
• Understanding Before Recommendation: Semantic Aspect-Aware Review Exploitation via Large Language Models [53.337728969143086]
  レコメンデーションシステムは、クリックやレビューのようなユーザとイテムのインタラクションを利用して表現を学習する。 従来の研究では、様々な側面や意図にまたがるユーザの嗜好をモデル化することで、推奨精度と解釈可能性を改善する。 そこで本研究では,意味的側面と認識的相互作用を明らかにするためのチェーンベースのプロンプト手法を提案する。
  論文  参考訳（メタデータ） (2023-12-26T15:44:09Z)
• On the Joint Interaction of Models, Data, and Features [82.60073661644435]
  本稿では,データとモデル間の相互作用を実験的に解析する新しいツールであるインタラクションテンソルを紹介する。 これらの観測に基づいて,特徴学習のための概念的枠組みを提案する。 この枠組みの下では、一つの仮説に対する期待された精度と一対の仮説に対する合意はどちらも閉形式で導出することができる。
  論文  参考訳（メタデータ） (2023-06-07T21:35:26Z)
• Exploring the cloud of feature interaction scores in a Rashomon set [17.775145325515993]
  本稿では,Rashomon セットのコンテキストにおける特徴相互作用スコア (FIS) について述べる。 我々は、合成データを用いてFISの特性を実証し、他の統計分野との接続を図示する。 この結果から,提案したFISは,機械学習モデルにおける特徴相互作用の性質に関する貴重な洞察を得られることが示唆された。
  論文  参考訳（メタデータ） (2023-05-17T13:05:26Z)
• Asymmetric feature interaction for interpreting model predictions [13.934784414106087]
  自然言語処理では、ディープニューラルネットワーク(DNN)はコンテキスト間の複雑な相互作用をモデル化することができる。 本研究では,非対称な高次特徴相互作用の探索を目的とした非対称な特徴相互作用帰属モデルを提案する。 2つの感情分類データセットによる実験結果から,我々のモデルが最先端の特徴的相互作用帰属法に対して優位であることが確認された。
  論文  参考訳（メタデータ） (2023-05-12T03:31:24Z)
• REPID: Regional Effect Plots with implicit Interaction Detection [0.9023847175654603]
  解釈可能な機械学習手法は、限界特徴効果を可視化するが、特徴相互作用が存在する場合の誤解を招く可能性がある。 興味のある特徴と他の特徴との相互作用を検出する新しいフレームワークである暗黙の相互作用検出を導入する。 このフレームワークはまた、相互作用の強さを定量化し、特徴効果をより確実に解釈できる解釈可能な異なる領域を提供する。
  論文  参考訳（メタデータ） (2022-02-15T08:54:00Z)
• You Mostly Walk Alone: Analyzing Feature Attribution in Trajectory Prediction [52.442129609979794]
  軌道予測のための最近の深層学習手法は有望な性能を示す。 そのようなブラックボックスモデルが実際にどのモデルを予測するために使うのかは、まだ不明である。 本稿では,モデル性能に対する異なるキューの貢献度を定量化する手法を提案する。
  論文  参考訳（メタデータ） (2021-10-11T14:24:15Z)
• Information Interaction Profile of Choice Adoption [2.9972063833424216]
  相互作用するエンティティを分離する時間的距離に応じて、エンティティの相互作用ネットワークとその進化を推定する効率的な方法を紹介します。 相互作用プロファイルは、相互作用プロセスのメカニズムを特徴付けることができます。 ユーザに対する露出の組み合わせの効果は、各露出の独立した効果の総和以上のものであることを示す。
  論文  参考訳（メタデータ） (2021-04-28T10:42:25Z)
• Causal Discovery in Physical Systems from Videos [123.79211190669821]
  因果発見は人間の認知の中心にある。 本研究では,ビデオの因果発見の課題を,地層構造を監督せずにエンドツーエンドで検討する。
  論文  参考訳（メタデータ） (2020-07-01T17:29:57Z)
• Explaining Black Box Predictions and Unveiling Data Artifacts through Influence Functions [55.660255727031725]
  影響関数は、影響力のあるトレーニング例を特定することによって、モデルの判断を説明する。 本稿では,代表課題における影響関数と共通単語順応法の比較を行う。 我々は,学習データ中の成果物を明らかにすることができる影響関数に基づく新しい尺度を開発した。
  論文  参考訳（メタデータ） (2020-05-14T00:45:23Z)
• Self-Attention Attribution: Interpreting Information Interactions Inside Transformer [89.21584915290319]
  本稿では,トランスフォーマー内の情報相互作用を解釈する自己帰属属性法を提案する。 本研究は,BERT に対する非目標攻撃の実装において,その属性を敵対パターンとして用いることができることを示す。
  論文  参考訳（メタデータ） (2020-04-23T14:58:22Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。