論文の概要: The FIX Benchmark: Extracting Features Interpretable to eXperts

• arxiv url: http://arxiv.org/abs/2409.13684v1
• Date: Wed, 9 Oct 2024 17:47:01 GMT
• ステータス: 処理完了
• システム内更新日: 2024-11-07 05:57:35.360413
• Title: The FIX Benchmark: Extracting Features Interpretable to eXperts
• Title（参考訳）: FIXベンチマーク:eXpertに解釈可能な機能の抽出
• Authors: Helen Jin, Shreya Havaldar, Chaehyeon Kim, Anton Xue, Weiqiu You, Helen Qu, Marco Gatti, Daniel A Hashimoto, Bhuvnesh Jain, Amin Madani, Masao Sako, Lyle Ungar, Eric Wong,
• Abstract要約: FIX(Features Interpretable to eXperts)は、機能の集合が専門家の知識とどの程度うまく一致しているかを測定するベンチマークである。 ドメインの専門家と共同で、さまざまな現実世界の設定にまたがる機能解釈可能性の目標を開発しました。 特徴に基づく一般的な説明手法は、専門家が特定した知識と不一致であることがわかった。
• 参考スコア（独自算出の注目度）: 9.688218822056823
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Feature-based methods are commonly used to explain model predictions, but these methods often implicitly assume that interpretable features are readily available. However, this is often not the case for high-dimensional data, and it can be hard even for domain experts to mathematically specify which features are important. Can we instead automatically extract collections or groups of features that are aligned with expert knowledge? To address this gap, we present FIX (Features Interpretable to eXperts), a benchmark for measuring how well a collection of features aligns with expert knowledge. In collaboration with domain experts, we have developed feature interpretability objectives across diverse real-world settings and unified them into a single framework that is the FIX benchmark. We find that popular feature-based explanation methods have poor alignment with expert-specified knowledge, highlighting the need for new methods that can better identify features interpretable to experts.
• Abstract（参考訳）: 特徴に基づく手法はモデル予測を説明するのによく用いられるが、これらの手法はしばしば解釈可能な特徴が容易に利用できると暗黙的に仮定する。 しかし、これは高次元データには当てはまらないことが多く、ドメインの専門家でさえ、どの機能が重要なのかを数学的に特定することは困難である。 代わりに、専門家の知識に合わせて、自動的にコレクションや機能のグループを抽出できますか? このギャップに対処するため、FIX(Features Interpretable to eXperts)という、機能の集合が専門家の知識とどの程度うまく一致しているかを測定するベンチマークを提示する。 ドメインの専門家と共同で、さまざまな実世界の設定にまたがる機能解釈可能性の目標を開発し、それらをFIXベンチマークである単一のフレームワークに統合しました。 人気の高い機能ベースの説明手法は、専門家が特定した知識との整合性が低く、専門家に解釈可能な機能をよりよく識別できる新しい方法の必要性を強調している。

関連論文リスト

• On the Biased Assessment of Expert Finding Systems [11.083396379885478]
  大きな組織では、特定のトピックについて専門家を特定することが、チームや部門にまたがる内部知識を活用する上で非常に重要です。 このケーススタディでは、これらのレコメンデーションが専門家発見システムの評価に与える影響について分析する。 本稿では,システム検証アノテーションが従来の用語ベース検索モデルの性能過大評価につながることを示す。 また,同義語を用いた知識領域を拡大し,その構成語に対するリテラル言及に対する強い偏見を明らかにする。
  論文  参考訳（メタデータ） (2024-10-07T13:19:08Z)
• Beyond Parameter Count: Implicit Bias in Soft Mixture of Experts [44.09546603624385]
  ソフトモエの専門専門化について紹介する。 小さな専門家がたくさんいる場合、アーキテクチャは暗黙的に偏りがあり、専門的な専門家のサブセットを効率的に近似できることを示している。
  論文  参考訳（メタデータ） (2024-09-02T00:39:00Z)
• Prospector Heads: Generalized Feature Attribution for Large Models & Data [82.02696069543454]
  本稿では,説明に基づく帰属手法の効率的かつ解釈可能な代替手段であるプロスペクタヘッドを紹介する。 入力データにおけるクラス固有のパターンの解釈と発見を、プロファイラヘッドがいかに改善できるかを実証する。
  論文  参考訳（メタデータ） (2024-02-18T23:01:28Z)
• Causal Discovery with Language Models as Imperfect Experts [119.22928856942292]
  専門知識を用いて因果グラフの同定を改善する方法について検討する。 整合性に基づく専門家の知識を改良するための戦略を提案する。 本稿では,不完全な専門家として大規模言語モデルを用いる実データを用いたケーススタディについて報告する。
  論文  参考訳（メタデータ） (2023-07-05T16:01:38Z)
• Entry Dependent Expert Selection in Distributed Gaussian Processes Using Multilabel Classification [12.622412402489951]
  アンサンブルのテクニックは、データ分割を訓練したガウスの専門家による局所的な予測を組み合わせる。 本稿では,エントリデータポイントの特性に基づくフレキシブルな専門家選択手法を提案する。
  論文  参考訳（メタデータ） (2022-11-17T23:23:26Z)
• MoEC: Mixture of Expert Clusters [93.63738535295866]
  Sparsely Mixture of Experts (MoE)は、安価な計算オーバーヘッドを持つ有望なスケーリング能力のため、大きな関心を集めている。 MoEは密度の高い層をスパースの専門家に変換し、ゲートルーティングネットワークを使用して専門家を条件付きで活性化させる。 しかし、専門家の数が増加するにつれて、乱雑なパラメータを持つMoEはデータアロケーションの過度な調整とスパースに悩まされる。
  論文  参考訳（メタデータ） (2022-07-19T06:09:55Z)
• Utilizing Expert Features for Contrastive Learning of Time-Series Representations [4.960805676180953]
  本稿では,時系列表現学習に専門家の知識を取り入れた手法を提案する。 提案手法では,従来のコントラスト学習手法におけるデータ変換の代替として,専門的な特徴を用いる。 我々は、ExpCLRが教師なしと半教師なしの両方の表現学習のための最先端の手法を超越した3つの実世界の時系列データセットを実演する。
  論文  参考訳（メタデータ） (2022-06-23T07:56:27Z)
• The Curious Layperson: Fine-Grained Image Recognition without Expert Labels [90.88501867321573]
  我々は、専門家のアノテーションを使わずに、きめ細かい画像認識という新しい問題を考える。 非専門的な画像記述を用いてオブジェクトの視覚的外観を記述するモデルを学ぶ。 次に、画像記述と文書とを文レベルでマッチングする、きめ細かいテキスト類似性モデルを訓練する。
  論文  参考訳（メタデータ） (2021-11-05T17:58:37Z)
• Towards Unbiased and Accurate Deferral to Multiple Experts [19.24068936057053]
  本研究では, 分類器とディフェラルシステムを同時に学習するフレームワークを提案し, ディフェラルシステムは1人以上の人間専門家にディジェラルシステムを選択する。 本フレームワークは,偏りのある合成専門家による合成データセットとコンテンツモデレーションデータセットを用いてテストし,最終予測の精度と公平性を大幅に向上させることを示す。
  論文  参考訳（メタデータ） (2021-02-25T17:08:39Z)
• Leveraging Expert Consistency to Improve Algorithmic Decision Support [62.61153549123407]
  建設のギャップを狭めるために観測結果と組み合わせることができる情報源として,歴史専門家による意思決定の利用について検討する。 本研究では,データ内の各ケースが1人の専門家によって評価された場合に,専門家の一貫性を間接的に推定する影響関数に基づく手法を提案する。 本研究は, 児童福祉領域における臨床現場でのシミュレーションと実世界データを用いて, 提案手法が構成ギャップを狭めることに成功していることを示す。
  論文  参考訳（メタデータ） (2021-01-24T05:40:29Z)
• Expertise Style Transfer: A New Task Towards Better Communication between Experts and Laymen [88.30492014778943]
  そこで我々は,手動で注釈付きデータセットを手動で提供し,専門的なスタイルの転送を行う新しいタスクを提案する。 このタスクの解決は、プロの言語を単純化するだけでなく、レイメンの記述の正確さと専門性の向上にも寄与する。 スタイル転送とテキスト単純化のための5つの最先端モデルのベンチマーク性能を確立する。
  論文  参考訳（メタデータ） (2020-05-02T04:50:20Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。