論文の概要: "Honey, Tell Me What's Wrong", Global Explanation of Textual Discriminative Models through Cooperative Generation

• arxiv url: http://arxiv.org/abs/2310.18063v1
• Date: Fri, 27 Oct 2023 11:26:27 GMT
• ステータス: 処理完了
• システム内更新日: 2023-10-30 14:10:25.484823
• Title: "Honey, Tell Me What's Wrong", Global Explanation of Textual Discriminative Models through Cooperative Generation
• Title（参考訳）: 協調生成によるテキスト識別モデルのグローバル説明「honey, tell me what's wrong」
• Authors: Antoine Chaffin and Julien Delaunay
• Abstract要約: セラピーは、入力データセットを必要としないテキストに適応した最初のグローバルかつモデルに依存しない説明法である。 セラピーは、協調生成を通じて分類器によって学習された分布に従ってテキストを生成する。 実験の結果, サンプル生成に入力データを使用しなくても, 分類器が使用する特徴についての洞察に富んだ情報が得られることがわかった。
• 参考スコア（独自算出の注目度）: 4.165756973152978
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: The ubiquity of complex machine learning has raised the importance of model-agnostic explanation algorithms. These methods create artificial instances by slightly perturbing real instances, capturing shifts in model decisions. However, such methods rely on initial data and only provide explanations of the decision for these. To tackle these problems, we propose Therapy, the first global and model-agnostic explanation method adapted to text which requires no input dataset. Therapy generates texts following the distribution learned by a classifier through cooperative generation. Because it does not rely on initial samples, it allows to generate explanations even when data is absent (e.g., for confidentiality reasons). Moreover, conversely to existing methods that combine multiple local explanations into a global one, Therapy offers a global overview of the model behavior on the input space. Our experiments show that although using no input data to generate samples, Therapy provides insightful information about features used by the classifier that is competitive with the ones from methods relying on input samples and outperforms them when input samples are not specific to the studied model.
• Abstract（参考訳）: 複雑な機械学習の普遍性は、モデルに依存しない説明アルゴリズムの重要性を高めた。 これらのメソッドは、実際のインスタンスをわずかに摂動させ、モデル決定のシフトをキャプチャすることで、人工インスタンスを生成する。 しかし、そのような方法は初期データに依存しており、決定の説明のみを提供する。 そこで本研究では,入力データセットを必要とせず,テキストに適応した最初のグローバルかつモデルに依存しない説明手法であるセラピーを提案する。 セラピーはコラボレーティブ・ジェネレーションを通じて分類器が学習した分布に従ってテキストを生成する。 初期サンプルに依存しないため、データの欠如(機密性上の理由など)に対しても説明を生成することができる。 さらに、複数の局所的な説明をグローバルに結合する既存の方法に対して、セラピーは入力空間におけるモデルの振る舞いの全体的概要を提供する。 本実験は, サンプル生成に入力データを使用しないが, 入力サンプルに依存した手法と競合する分類器が使用する特徴についての洞察に富んだ情報を提供し, 入力サンプルが研究対象モデルに特有でない場合に, それらより優れていることを示す。

関連論文リスト

• DISCO: DISCovering Overfittings as Causal Rules for Text Classification Models [6.369258625916601]
  ポストホックの解釈可能性法は、モデルの意思決定プロセスを完全に捉えるのに失敗する。 本稿では,グローバルなルールベースの説明を見つけるための新しい手法であるdisCOを紹介する。 DISCOは対話的な説明をサポートし、人間の検査者がルールベースの出力で突発的な原因を区別できるようにする。
  論文  参考訳（メタデータ） (2024-11-07T12:12:44Z)
• Synthetic Model Combination: An Instance-wise Approach to Unsupervised Ensemble Learning [92.89846887298852]
  ラベル付きデータのトレーニングセットから学ぶ機会のない、新しいテストデータに対する予測を検討する。 専門家モデルのセットと予測へのアクセスと、トレーニングに使用するデータセットに関する制限された情報を提供すること。
  論文  参考訳（メタデータ） (2022-10-11T10:20:31Z)
• Generalization Properties of Retrieval-based Models [50.35325326050263]
  検索ベースの機械学習手法は、幅広い問題で成功をおさめた。 これらのモデルの約束を示す文献が増えているにもかかわらず、そのようなモデルの理論的基盤はいまだに解明されていない。 本稿では,その一般化能力を特徴付けるために,検索ベースモデルの形式的処理を行う。
  論文  参考訳（メタデータ） (2022-10-06T00:33:01Z)
• Learning from aggregated data with a maximum entropy model [73.63512438583375]
  我々は,観測されていない特徴分布を最大エントロピー仮説で近似することにより,ロジスティック回帰と類似した新しいモデルが,集約データからのみ学習されることを示す。 我々は、この方法で学習したモデルが、完全な非凝集データでトレーニングされたロジスティックモデルに匹敵するパフォーマンスを達成することができるという、いくつかの公開データセットに関する実証的な証拠を提示する。
  論文  参考訳（メタデータ） (2022-10-05T09:17:27Z)
• Label-Descriptive Patterns and their Application to Characterizing Classification Errors [31.272875287136426]
  最先端のディープラーニング手法は多くのタスクで人間のようなパフォーマンスを達成するが、それでもエラーを犯す。 これらのエラーを容易に解釈可能な言葉で特徴付けることは、モデルが体系的なエラーを起こす傾向にあるかどうかの洞察を与えるだけでなく、モデルを実行し改善する方法を与える。 本稿では,予測の正しさに応じて分割された入力データを簡潔に記述するパターンの小さなセットをマイニングすることにより,任意の分類器に対して,任意の分類を行うことができる手法を提案する。
  論文  参考訳（メタデータ） (2021-10-18T19:42:21Z)
• Beyond Trivial Counterfactual Explanations with Diverse Valuable Explanations [64.85696493596821]
  コンピュータビジョンの応用において、生成的対実法はモデルの入力を摂動させて予測を変更する方法を示す。 本稿では,多様性強化損失を用いて制約される不連続潜在空間における摂動を学習する反事実法を提案する。 このモデルは, 従来の最先端手法と比較して, 高品質な説明を生産する成功率を向上させる。
  論文  参考訳（メタデータ） (2021-03-18T12:57:34Z)
• Learning from Incomplete Features by Simultaneous Training of Neural Networks and Sparse Coding [24.3769047873156]
  本稿では,不完全な特徴を持つデータセット上で分類器を訓練する問題に対処する。 私たちは、各データインスタンスで異なる機能のサブセット(ランダムまたは構造化)が利用できると仮定します。 新しい教師付き学習法が開発され、サンプルあたりの機能のサブセットのみを使用して、一般的な分類器を訓練する。
  論文  参考訳（メタデータ） (2020-11-28T02:20:39Z)
• Debugging Tests for Model Explanations [18.073554618753395]
  テストされたメソッドは、急激なバックグラウンドバグを診断することができるが、誤ってラベル付けされたトレーニング例を決定的に識別することはできない。 被験者は属性を用いて欠陥モデルを特定するのに失敗するが、主にモデル予測に頼っている。
  論文  参考訳（メタデータ） (2020-11-10T22:23:25Z)
• Automatic Recall Machines: Internal Replay, Continual Learning and the Brain [104.38824285741248]
  ニューラルネットワークのリプレイには、記憶されたサンプルを使ってシーケンシャルなデータのトレーニングが含まれる。 本研究では,これらの補助サンプルをフライ時に生成する手法を提案する。 代わりに、評価されたモデル自体内の学習したサンプルの暗黙の記憶が利用されます。
  論文  参考訳（メタデータ） (2020-06-22T15:07:06Z)
• Evaluating Explainable AI: Which Algorithmic Explanations Help Users Predict Model Behavior? [97.77183117452235]
  我々は、モデル解釈性に対するアルゴリズム的説明の影響を分離するために、人体テストを実施している。 方法の有効性の明確な証拠はごく少数にみえる。 以上の結果から,説明がシミュラビリティにどのように影響するかの信頼性と包括的評価が得られた。
  論文  参考訳（メタデータ） (2020-05-04T20:35:17Z)
• Domain segmentation and adjustment for generalized zero-shot learning [22.933463036413624]
  ゼロショット学習では、見えないデータを生成モデルで合成することは、見えないクラスと見えないクラスのトレーニングデータの不均衡に対処する最も一般的な方法である。 未確認データの合成は、トレーニングデータの不均衡に起因する領域シフトに対処するための理想的なアプローチではないと我々は主張する。 本稿では,異なる領域における一般化されたゼロショット認識を実現することを提案する。
  論文  参考訳（メタデータ） (2020-02-01T15:00:56Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。