論文の概要: Distributing Synergy Functions: Unifying Game-Theoretic Interaction
Methods for Machine-Learning Explainability
- arxiv url: http://arxiv.org/abs/2305.03100v2
- Date: Mon, 15 May 2023 18:46:21 GMT
- ステータス: 処理完了
- システム内更新日: 2023-05-17 18:21:20.000301
- Title: Distributing Synergy Functions: Unifying Game-Theoretic Interaction
Methods for Machine-Learning Explainability
- Title（参考訳）: シナジー関数の分散: 機械学習説明可能性のためのゲーム理論的相互作用手法の統合
- Authors: Daniel Lundstrom and Meisam Razaviyayn
- Abstract要約: ゲーム理論にインスパイアされた属性と$ktextth$-orderインタラクションのための統一フレームワークを提案する。
相乗効果を分配する政策によって, 様々な手法がどう特徴づけられるかを明らかにする。
様々な基準の組み合わせは、属性/相互作用法を一意に定義する。
- 参考スコア（独自算出の注目度）: 9.416757363901295
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Deep learning has revolutionized many areas of machine learning, from
computer vision to natural language processing, but these high-performance
models are generally "black box." Explaining such models would improve
transparency and trust in AI-powered decision making and is necessary for
understanding other practical needs such as robustness and fairness. A popular
means of enhancing model transparency is to quantify how individual inputs
contribute to model outputs (called attributions) and the magnitude of
interactions between groups of inputs. A growing number of these methods import
concepts and results from game theory to produce attributions and interactions.
This work presents a unifying framework for game-theory-inspired attribution
and $k^\text{th}$-order interaction methods. We show that, given modest
assumptions, a unique full account of interactions between features, called
synergies, is possible in the continuous input setting. We identify how various
methods are characterized by their policy of distributing synergies. We also
demonstrate that gradient-based methods are characterized by their actions on
monomials, a type of synergy function, and introduce unique gradient-based
methods. We show that the combination of various criteria uniquely defines the
attribution/interaction methods. Thus, the community needs to identify goals
and contexts when developing and employing attribution and interaction methods.
- Abstract（参考訳）: ディープラーニングはコンピュータビジョンから自然言語処理まで、機械学習の多くの領域に革命をもたらしたが、これらの高性能モデルは一般に「ブラックボックス」である。
このようなモデルを説明することで、AIによる意思決定に対する透明性と信頼が向上し、堅牢性や公正性といった他の実践的なニーズを理解する上で必要となる。
モデルの透明性を高める一般的な手段は、個々の入力がモデル出力(属性と呼ばれる)と入力のグループ間の相互作用の大きさにどのように貢献するかを定量化することである。
これらの手法はゲーム理論から概念や結果をインポートし、属性や相互作用を生成する。
本研究は,ゲーム理論に触発された帰属と$k^\text{th}$-orderインタラクションの統一フレームワークを提案する。
連続的な入力設定では、モデム的な仮定により、相乗効果と呼ばれる特徴間の相互作用の完全な説明が可能であることを示す。
相乗効果を分配する政策によって,様々な手法がどう特徴づけられるかを明らかにする。
また,相乗関数の一種であるモノミアルに対する作用が勾配ベース手法の特徴であることを示し,特異な勾配ベース手法を導入する。
様々な基準の組み合わせは、属性/相互作用法を一意に定義する。
したがって、コミュニティは属性とインタラクションメソッドを開発し、採用する際に、目標とコンテキストを特定する必要がある。
関連論文リスト
- The Geometry of Prompting: Unveiling Distinct Mechanisms of Task Adaptation in Language Models [40.128112851978116]
本研究では,異なるプロンプト法が言語モデルにおける表現の幾何学に与える影響について検討する。
本分析では,文脈内学習における入力分布サンプルとラベル意味論の重要性を強調した。
我々の研究は、大規模言語モデルの理論的理解に寄与し、より効果的で表現を意識した促進戦略の開発の基礎となる。
論文 参考訳（メタデータ） (2025-02-11T23:09:50Z) - Hierarchical Banzhaf Interaction for General Video-Language Representation Learning [60.44337740854767]
マルチモーダル表現学習は人工知能領域において重要な役割を担っている。
本稿では,多変量協調ゲーム理論を用いて,ビデオテキストをゲームプレイヤーとしてモデル化する手法を提案する。
元の構造をフレキシブルなエンコーダ・デコーダ・フレームワークに拡張し、モデルが様々な下流タスクに適応できるようにする。
論文 参考訳（メタデータ） (2024-12-30T14:09:15Z) - Unifying Feature-Based Explanations with Functional ANOVA and Cooperative Game Theory [21.405333804566357]
局所的およびグローバルな特徴に基づく説明のための統一的なフレームワークを導入する。
特徴分布の影響を決定する3つのfANOVA分解を導入する。
次に、合成および実世界のデータセットにおけるフレームワークの有用性を実証的に示す。
論文 参考訳（メタデータ） (2024-12-22T20:12:16Z) - Visual-Geometric Collaborative Guidance for Affordance Learning [63.038406948791454]
本稿では,視覚的・幾何学的手がかりを取り入れた視覚・幾何学的協調学習ネットワークを提案する。
本手法は,客観的指標と視覚的品質の代表的なモデルより優れている。
論文 参考訳（メタデータ） (2024-10-15T07:35:51Z) - Data Science Principles for Interpretable and Explainable AI [0.7581664835990121]
解釈可能でインタラクティブな機械学習は、複雑なモデルをより透明で制御しやすいものにすることを目的としている。
本論は, この分野における文献の発達から重要な原則を合成するものである。
論文 参考訳（メタデータ） (2024-05-17T05:32:27Z) - Learning Unseen Modality Interaction [54.23533023883659]
マルチモーダル学習は、すべてのモダリティの組み合わせが訓練中に利用でき、クロスモーダル対応を学ぶことを前提としている。
我々は、目に見えないモダリティ相互作用の問題を提起し、第1の解を導入する。
異なるモジュラリティの多次元的特徴を、豊富な情報を保存した共通空間に投影するモジュールを利用する。
論文 参考訳（メタデータ） (2023-06-22T10:53:10Z) - Multimodal Learning Without Labeled Multimodal Data: Guarantees and Applications [90.6849884683226]
ラベル付き単調データのみを用いた半教師付き環境における相互作用定量化の課題について検討する。
相互作用の正確な情報理論的定義を用いて、我々の重要な貢献は下界と上界の導出である。
本稿では、これらの理論結果を用いてマルチモーダルモデルの性能を推定し、データ収集をガイドし、様々なタスクに対して適切なマルチモーダルモデルを選択する方法について述べる。
論文 参考訳（メタデータ） (2023-06-07T15:44:53Z) - Characterizing and overcoming the greedy nature of learning in
multi-modal deep neural networks [62.48782506095565]
深層ニューラルネットワークにおける学習の欲張った性質から、モデルは一つのモダリティにのみ依存する傾向にあり、他のモダリティには不適合であることを示す。
本稿では,学習中のモーダル間の条件付き学習速度のバランスをとるアルゴリズムを提案し,グリージー学習の問題に対処できることを実証する。
論文 参考訳（メタデータ） (2022-02-10T20:11:21Z) - Self-Attention Attribution: Interpreting Information Interactions Inside
Transformer [89.21584915290319]
本稿では,トランスフォーマー内の情報相互作用を解釈する自己帰属属性法を提案する。
本研究は,BERT に対する非目標攻撃の実装において,その属性を敵対パターンとして用いることができることを示す。
論文 参考訳（メタデータ） (2020-04-23T14:58:22Z) - Interactions in information spread: quantification and interpretation
using stochastic block models [3.5450828190071655]
ソーシャルネットワークでは、ユーザーの行動は、対話する人々、フィード内のニュース、トレンドトピックから生じる。
本稿では、エンティティ間のインタラクションの役割を調査する新しいモデル、Interactive Mixed Membership Block Model (IMMSBM)を提案する。
推論タスクでは、それらを考慮すれば、結果の確率の最大150%の非相互作用モデルに対する平均的な相対的な変化につながる。
論文 参考訳（メタデータ） (2020-04-09T14:22:10Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。