論文の概要: Benchmark Transparency: Measuring the Impact of Data on Evaluation

• arxiv url: http://arxiv.org/abs/2404.00748v1
• Date: Sun, 31 Mar 2024 17:33:43 GMT
• ステータス: 処理完了
• システム内更新日: 2024-04-04 02:01:08.991648
• Title: Benchmark Transparency: Measuring the Impact of Data on Evaluation
• Title（参考訳）: ベンチマークの透明性: 評価に対するデータの影響を測定する
• Authors: Venelin Kovatchev, Matthew Lease,
• Abstract要約: 6つの異なる次元にまたがるデータポイント分布を自動計測するフレームワークを提案する。 データ分布が絶対値(Acc/F1)と相対値(Rank)モデルの性能にどの程度影響するかを測定するために,不均質な階層化サンプリングを用いる。 その結果,データの影響は統計的に有意であり,測定値の変更の影響よりも大きいことが判明した。
• 参考スコア（独自算出の注目度）: 6.307485015636125
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: In this paper we present an exploratory research on quantifying the impact that data distribution has on the performance and evaluation of NLP models. We propose an automated framework that measures the data point distribution across 6 different dimensions: ambiguity, difficulty, discriminability, length, noise, and perplexity. We use disproportional stratified sampling to measure how much the data distribution affects absolute (Acc/F1) and relative (Rank) model performance. We experiment on 2 different datasets (SQUAD and MNLI) and test a total of 135 different models (125 on SQUAD and 10 on MNLI). We demonstrate that without explicit control of the data distribution, standard evaluation frameworks are inconsistent and unreliable. We find that the impact of the data is statistically significant and is often larger than the impact of changing the metric. In a second set of experiments, we demonstrate that the impact of data on evaluation is not just observable, but also predictable. We propose to use benchmark transparency as a method for comparing datasets and quantifying the similarity between them. We find that the ``dataset similarity vector'' can be used to predict how well a model generalizes out of distribution.
• Abstract（参考訳）: 本稿では,データ分布がNLPモデルの性能と評価に与える影響を定量化するための探索的研究を行う。 あいまいさ,難易度,識別性,長さ,ノイズ,難易度という6つの異なる次元にまたがるデータポイント分布を自動計測するフレームワークを提案する。 データ分布が絶対値(Acc/F1)と相対値(Rank)モデルの性能にどの程度影響するかを測定するために,不均質な階層化サンプリングを用いる。 我々は2つの異なるデータセット(SQUADとMNLI)を実験し、合計135の異なるモデル(SQUADは125、MNLIは10)をテストする。 データ分散の明示的な制御がなければ、標準評価フレームワークは一貫性がなく信頼できないことが実証された。 その結果,データの影響は統計的に有意であり,測定値の変更の影響よりも大きいことが判明した。 第2の実験では、評価に対するデータの影響は観測可能であるだけでなく、予測可能であることを実証した。 本稿では,データセットの比較と類似性を定量化する手法として,ベンチマーク透過性を用いることを提案する。 モデルが分布からどれだけうまく一般化するかを予測するために、 `dataset similarity vector'' が用いられる。

関連論文リスト

• The Mirrored Influence Hypothesis: Efficient Data Influence Estimation by Harnessing Forward Passes [30.30769701138665]
  我々は、訓練データとテストデータの間の相互影響を浮き彫りにして、ミラーレッド影響仮説を導入し、探求する。 具体的には、テスト予測に対するトレーニングデータの影響を評価することは、等価だが逆問題として再定義することができることを示唆している。 トレーニングポイント毎に前方パスとペアを組むことで,特定のテストサンプルの勾配を計算し,トレーニングデータの影響を推定する新しい手法を提案する。
  論文  参考訳（メタデータ） (2024-02-14T03:43:05Z)
• Estimating Model Performance Under Covariate Shift Without Labels [9.804680621164168]
  ラベルなしデータの分類モデルを評価するために,確率的適応性能推定(PAPE)を導入する。 PAPEは他の評価手法よりも正確な性能推定を提供する。
  論文  参考訳（メタデータ） (2024-01-16T13:29:30Z)
• Stubborn Lexical Bias in Data and Models [50.79738900885665]
  我々は、データに基づいてトレーニングされたモデルに、データのスプリアスパターンが現れるかどうかを調べるために、新しい統計手法を用いる。 トレーニングデータに*reweight*に最適化アプローチを適用し、数千のスプリアス相関を低減します。 驚くべきことに、この方法ではトレーニングデータの語彙バイアスを低減できますが、トレーニングされたモデルで対応するバイアスの強い証拠がまだ見つかっていません。
  論文  参考訳（メタデータ） (2023-06-03T20:12:27Z)
• A classification performance evaluation measure considering data separability [6.751026374812737]
  本稿では,データ符号化率に基づく新たな分離可能性尺度を提案する。 実データセットから構築したマルチタスクシナリオにおいて,提案手法と認識精度の正の相関性を示す。
  論文  参考訳（メタデータ） (2022-11-10T09:18:26Z)
• Conditional Feature Importance for Mixed Data [1.6114012813668934]
  ノックオフサンプリングを用いた条件付き予測インパクト(CPI)フレームワークを開発した。 提案するワークフローは,I型エラーを制御し,高い出力を達成し,他の条件FI測定結果と一致していることを示す。 本研究は,混合データに対して,統計的に適切な,専門的な手法を開発することの必要性を強調した。
  論文  参考訳（メタデータ） (2022-10-06T16:52:38Z)
• Estimating Structural Disparities for Face Models [54.062512989859265]
  機械学習では、異なるサブ人口間でのモデルの性能や結果の差を測定することで、しばしば異質度の測定が定義される。 本研究では、人間の顔に訓練されたコンピュータビジョンモデルや、顔属性予測や影響推定などのタスクについて、そのような分析を行う。
  論文  参考訳（メタデータ） (2022-04-13T05:30:53Z)
• Investigating Data Variance in Evaluations of Automatic Machine Translation Metrics [58.50754318846996]
  本稿では,メトリクスのパフォーマンスがデータに敏感であることを示す。 メトリクスのランキングは、異なるデータセットで評価が行われると異なる。
  論文  参考訳（メタデータ） (2022-03-29T18:58:28Z)
• Data-SUITE: Data-centric identification of in-distribution incongruous examples [81.21462458089142]
  Data-SUITEは、ID(In-distriion)データの不連続領域を特定するためのデータ中心のフレームワークである。 我々は,Data-SUITEの性能保証とカバレッジ保証を実証的に検証する。
  論文  参考訳（メタデータ） (2022-02-17T18:58:31Z)
• RIFLE: Imputation and Robust Inference from Low Order Marginals [10.082738539201804]
  我々は,不備なデータの存在下での回帰と分類のための統計的推論フレームワークを開発する。 我々のフレームワークであるRIFLEは、基礎となるデータ分布の低次モーメントを対応する信頼区間で推定し、分布的に堅牢なモデルを学ぶ。 実験の結果,RIFLEは,欠落値の割合が高い場合や,データポイント数が比較的小さい場合には,他のベンチマークアルゴリズムよりも優れていることがわかった。
  論文  参考訳（メタデータ） (2021-09-01T23:17:30Z)
• Multi-Source Causal Inference Using Control Variates [81.57072928775509]
  本稿では,複数のデータソースから因果効果を推定するアルゴリズムを提案する。 理論的には、これはATE推定値の分散を減少させる。 このフレームワークを結果選択バイアスの下で観測データからの推論に適用する。
  論文  参考訳（メタデータ） (2021-03-30T21:20:51Z)
• On Disentangled Representations Learned From Correlated Data [59.41587388303554]
  相関データに対する最も顕著な絡み合うアプローチの挙動を解析することにより、現実のシナリオにギャップを埋める。 本研究では,データセットの体系的相関が学習され,潜在表現に反映されていることを示す。 また、トレーニング中の弱い監督や、少数のラベルで事前訓練されたモデルを修正することで、これらの潜伏相関を解消する方法を実証する。
  論文  参考訳（メタデータ） (2020-06-14T12:47:34Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。