論文の概要: Global-to-Local Support Spectrums for Language Model Explainability

• arxiv url: http://arxiv.org/abs/2408.05976v1
• Date: Mon, 12 Aug 2024 08:05:30 GMT
• ステータス: 処理完了
• システム内更新日: 2024-08-13 14:35:18.947449
• Title: Global-to-Local Support Spectrums for Language Model Explainability
• Title（参考訳）: 言語モデル説明可能性のためのグローバル・ローカルサポートスペクトル
• Authors: Lucas Agussurja, Xinyang Lu, Bryan Kian Hsiang Low,
• Abstract要約: 本稿では,サポートスペクトルの形で説明を生成する手法を提案する。 サポートセットは、予測されたクラスのトレーニングポイントのセットであり、他のクラスのテストポイントとトレーニングポイントの間にある。 既存のメソッドをグローバルおよびローカルなコンポーネントに分離することで、グローバルからローカルへの重要度を測定する。
• 参考スコア（独自算出の注目度）: 32.93685486241694
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: Existing sample-based methods, like influence functions and representer points, measure the importance of a training point by approximating the effect of its removal from training. As such, they are skewed towards outliers and points that are very close to the decision boundaries. The explanations provided by these methods are often static and not specific enough for different test points. In this paper, we propose a method to generate an explanation in the form of support spectrums which are based on two main ideas: the support sets and a global-to-local importance measure. The support set is the set of training points, in the predicted class, that ``lie in between'' the test point and training points in the other classes. They indicate how well the test point can be distinguished from the points not in the predicted class. The global-to-local importance measure is obtained by decoupling existing methods into the global and local components which are then used to select the points in the support set. Using this method, we are able to generate explanations that are tailored to specific test points. In the experiments, we show the effectiveness of the method in image classification and text generation tasks.
• Abstract（参考訳）: 既存のサンプルベースの手法、例えば影響関数や代表点は、トレーニングから除去した効果を近似することで、トレーニングポイントの重要性を測定する。 そのため、それらは決定境界に非常に近い外れ値や点に向かって歪められている。 これらのメソッドによって提供される説明は、しばしば静的であり、異なるテストポイントに対して十分に具体的ではない。 本稿では,サポートセットとグローバル・ツー・ローカルの重要度尺度の2つの主要な概念に基づく,サポートスペクトルの形式での説明を生成する手法を提案する。 サポートセットは、予測クラスにおいて、テストポイントと他のクラスのトレーニングポイントの間の'lie in between''のトレーニングポイントのセットです。 それらは、テストポイントが予測されたクラスにないポイントとどれだけうまく区別できるかを示す。 既存のメソッドをグローバルとローカルのコンポーネントに分離して,サポートセット内のポイントを選択することで,グローバルとローカルの重要度を計測する。 この手法を用いることで、特定のテストポイントに合わせた説明を生成できる。 実験では,画像分類とテキスト生成における手法の有効性を示す。

関連論文リスト

• LanePtrNet: Revisiting Lane Detection as Point Voting and Grouping on Curves [8.037214110171123]
  車線検出は、自動運転の分野において重要な役割を果たす。 本稿では,順序付き集合上での点投票とグループ化のプロセスとしてレーン検出を扱う新しいアプローチであるLanePtrNetを提案する。 提案手法の有効性を検証するための総合的な実験を行い,その性能を実証した。
  論文  参考訳（メタデータ） (2024-03-08T08:45:42Z)
• An Additive Instance-Wise Approach to Multi-class Model Interpretation [53.87578024052922]
  解釈可能な機械学習は、ブラックボックスシステムの特定の予測を駆動する要因に関する洞察を提供する。 既存の手法は主に、局所的な加法的あるいはインスタンス的なアプローチに従う説明的入力特徴の選択に重点を置いている。 本研究は,両手法の長所を生かし,複数の対象クラスに対する局所的な説明を同時に学習するためのグローバルフレームワークを提案する。
  論文  参考訳（メタデータ） (2022-07-07T06:50:27Z)
• Fine-Grained Visual Classification using Self Assessment Classifier [12.596520707449027]
  識別的特徴の抽出は、きめ細かい視覚的分類タスクにおいて重要な役割を担っている。 本稿では,画像とトップkの予測クラスを同時に活用する自己評価手法を提案する。 本手法は,CUB200-2011,Stanford Dog,FGVC Aircraft のデータセットに対して,最新の結果が得られることを示す。
  論文  参考訳（メタデータ） (2022-05-21T07:41:27Z)
• Point Discriminative Learning for Unsupervised Representation Learning on 3D Point Clouds [54.31515001741987]
  3次元点雲上での教師なし表現学習のための点識別学習法を提案する。 我々は、中間レベルとグローバルレベルの特徴に新しい点識別損失を課すことにより、これを達成した。 提案手法は強力な表現を学習し,新しい最先端性能を実現する。
  論文  参考訳（メタデータ） (2021-08-04T15:11:48Z)
• Visualization of Supervised and Self-Supervised Neural Networks via Attribution Guided Factorization [87.96102461221415]
  クラスごとの説明性を提供するアルゴリズムを開発した。 実験の広範なバッテリーでは、クラス固有の可視化のための手法の能力を実証する。
  論文  参考訳（メタデータ） (2020-12-03T18:48:39Z)
• Towards Improved and Interpretable Deep Metric Learning via Attentive Grouping [103.71992720794421]
  グループ化は、様々な特徴の計算にディープ・メトリック・ラーニングでよく用いられてきた。 本稿では,任意のメトリクス学習フレームワークと柔軟に統合可能な,改良された解釈可能なグループ化手法を提案する。
  論文  参考訳（メタデータ） (2020-11-17T19:08:24Z)
• Linear Classifier Combination via Multiple Potential Functions [0.6091702876917279]
  決定境界からクラスセントロイドまでの距離との距離に基づいてスコアリング関数を計算する新しい概念を提案する。 重要な性質は、提案されたスコア関数がすべての線形基底分類器に対して同じ性質を持つことである。
  論文  参考訳（メタデータ） (2020-10-02T08:11:51Z)
• Point-Set Anchors for Object Detection, Instance Segmentation and Pose Estimation [85.96410825961966]
  中心点から抽出された画像の特徴は、離れたキーポイントや境界ボックスの境界を予測するための限られた情報を含んでいると論じる。 推論を容易にするために,より有利な位置に配置された点集合からの回帰を行うことを提案する。 我々は、オブジェクト検出、インスタンス分割、人間のポーズ推定にPoint-Set Anchorsと呼ばれるこのフレームワークを適用した。
  論文  参考訳（メタデータ） (2020-07-06T15:59:56Z)
• A Few-Shot Sequential Approach for Object Counting [63.82757025821265]
  画像中のオブジェクトに逐次出席するクラスアテンション機構を導入し,それらの特徴を抽出する。 提案手法は点レベルのアノテーションに基づいて訓練され,モデルのクラス依存的・クラス依存的側面を乱す新しい損失関数を用いる。 本稿では,FSODやMS COCOなど,さまざまなオブジェクトカウント/検出データセットについて報告する。
  論文  参考訳（メタデータ） (2020-07-03T18:23:39Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。