論文の概要: PyHard: a novel tool for generating hardness embeddings to support
data-centric analysis
- arxiv url: http://arxiv.org/abs/2109.14430v1
- Date: Wed, 29 Sep 2021 14:08:26 GMT
- ステータス: 処理完了
- システム内更新日: 2021-09-30 17:53:07.542010
- Title: PyHard: a novel tool for generating hardness embeddings to support
data-centric analysis
- Title(参考訳): PyHard:データ中心分析をサポートするために硬度埋め込みを生成する新しいツール
- Authors: Pedro Yuri Arbs Paiva, Kate Smith-Miles, Maria Gabriela Valeriano and
Ana Carolina Lorena
- Abstract要約: PyHardは、複数のMLモデルの予測パフォーマンスに関連するデータセットの硬度埋め込みを生成する。
ユーザは、この埋め込みを複数の方法で操作することで、データとアルゴリズムのパフォーマンスに関する有用な洞察を得ることができる。
我々は、この分析が、MLモデルに挑戦するハードな観察のポケットの識別をどのように支援したかを示す。
- 参考スコア(独自算出の注目度): 0.38233569758620045
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: For building successful Machine Learning (ML) systems, it is imperative to
have high quality data and well tuned learning models. But how can one assess
the quality of a given dataset? And how can the strengths and weaknesses of a
model on a dataset be revealed? Our new tool PyHard employs a methodology known
as Instance Space Analysis (ISA) to produce a hardness embedding of a dataset
relating the predictive performance of multiple ML models to estimated instance
hardness meta-features. This space is built so that observations are
distributed linearly regarding how hard they are to classify. The user can
visually interact with this embedding in multiple ways and obtain useful
insights about data and algorithmic performance along the individual
observations of the dataset. We show in a COVID prognosis dataset how this
analysis supported the identification of pockets of hard observations that
challenge ML models and are therefore worth closer inspection, and the
delineation of regions of strengths and weaknesses of ML models.
- Abstract(参考訳): 機械学習(ML)システムを成功させるためには、高品質なデータと十分に調整された学習モデルを持つことが不可欠である。
しかし、データセットの品質を評価するにはどうすればよいのか?
そして、データセット上のモデルの強みと弱みをどうやって明らかにできるのか?
我々の新しいツールであるPyHardは、インスタンス空間分析(ISA)と呼ばれる方法論を用いて、複数のMLモデルの予測性能と推定インスタンス硬度メタ機能に関連するデータセットの硬度埋め込みを生成する。
この空間は、観察が分類の難しさについて線形に分布するように構築されている。
ユーザは、この埋め込みを複数の方法で視覚的に操作でき、データセットの個々の観察に従って、データとアルゴリズムのパフォーマンスに関する有用な洞察を得ることができる。
我々は,この分析がmlモデルに挑戦し,より綿密に検査する価値のあるハードな観察のポケットの同定と,mlモデルの強みと弱みの領域の明確化にどのように寄与するかを,covid-19の予後データセットで示す。
関連論文リスト
- How Hard is this Test Set? NLI Characterization by Exploiting Training Dynamics [49.9329723199239]
本稿では, 実例と非実例を手作業で構築することなく, 挑戦的なテストセットを自動生成する手法を提案する。
一般的なNLIデータセットのテストセットを,トレーニングダイナミクスを利用した3つの難易度に分類する。
我々の評価法がトレーニングセットに適用された場合、トレーニング対象データのごく一部でトレーニングされたモデルは、フルデータセットでトレーニングされたモデルに匹敵するパフォーマンスを達成する。
論文 参考訳(メタデータ) (2024-10-04T13:39:21Z) - PUB: Plot Understanding Benchmark and Dataset for Evaluating Large Language Models on Synthetic Visual Data Interpretation [2.1184929769291294]
本稿では,データ視覚化における大規模言語モデルの習熟度を評価するために設計された,新しい合成データセットを提案する。
我々のデータセットは、制御されたパラメータを使って生成され、潜在的な現実世界シナリオの包括的カバレッジが保証されます。
我々は、画像中の視覚データに関連する質問を多モーダルテキストプロンプトを用いて、いくつかの最先端モデルをベンチマークする。
論文 参考訳(メタデータ) (2024-09-04T11:19:17Z) - AttributionScanner: A Visual Analytics System for Model Validation with Metadata-Free Slice Finding [29.07617945233152]
データスライス検索は、低パフォーマンスを示すデータセット内のサブグループを特定し解析することで、機械学習(ML)モデルを検証するための新興技術である。
このアプローチは、追加メタデータに対する退屈でコストのかかる要件を含む、重大な課題に直面します。
本稿では,メタデータを含まないデータスライス検索用に設計された,革新的なビジュアルアナリティクス(VA)システムであるAttributionScannerを紹介する。
本システムでは、一般的なモデル動作を含む解釈可能なデータスライスを特定し、属性モザイク設計によりこれらのパターンを可視化する。
論文 参考訳(メタデータ) (2024-01-12T09:17:32Z) - Towards Better Modeling with Missing Data: A Contrastive Learning-based
Visual Analytics Perspective [7.577040836988683]
データ不足は機械学習(ML)モデリングの課題となる可能性がある。
現在のアプローチは、特徴計算とラベル予測に分類される。
本研究は、観測データに欠落した値でモデル化するコントラスト学習フレームワークを提案する。
論文 参考訳(メタデータ) (2023-09-18T13:16:24Z) - On Inductive Biases for Machine Learning in Data Constrained Settings [0.0]
この論文は、データ制約された設定で表現力のあるモデルを学ぶという問題に対する異なる答えを探求する。
ニューラルネットワークを学ぶために、大きなデータセットに頼るのではなく、データ構造を反映した既知の関数によって、いくつかのモジュールを置き換えるつもりです。
我々のアプローチは「帰納的バイアス」のフードの下に置かれており、これは探索するモデルの空間を制限する手元にあるデータの仮説として定義することができる。
論文 参考訳(メタデータ) (2023-02-21T14:22:01Z) - Characterizing instance hardness in classification and regression
problems [0.0]
本稿では,データセットのどのインスタンスがラベルを正確に予測しにくいかを特徴付けるメタ機能について述べる。
分類問題と回帰問題の両方が考慮されている。
すべての実装を含むPythonパッケージも提供されている。
論文 参考訳(メタデータ) (2022-12-04T19:16:43Z) - Dynamic Latent Separation for Deep Learning [67.62190501599176]
機械学習の中核的な問題は、複雑なデータに対するモデル予測のための表現力のある潜在変数を学習することである。
本稿では,表現性を向上し,部分的解釈を提供し,特定のアプリケーションに限定されないアプローチを開発する。
論文 参考訳(メタデータ) (2022-10-07T17:56:53Z) - HardVis: Visual Analytics to Handle Instance Hardness Using Undersampling and Oversampling Techniques [48.82319198853359]
HardVisは、主に不均衡な分類シナリオでインスタンスの硬さを処理するために設計されたビジュアル分析システムである。
ユーザはさまざまな視点からデータのサブセットを探索して、これらのパラメータをすべて決定できる。
HardVisの有効性と有効性は仮説的利用シナリオとユースケースで実証される。
論文 参考訳(メタデータ) (2022-03-29T17:04:16Z) - Towards Open-World Feature Extrapolation: An Inductive Graph Learning
Approach [80.8446673089281]
グラフ表現と学習を伴う新しい学習パラダイムを提案する。
本フレームワークは,1) 下位モデルとしてのバックボーンネットワーク(フィードフォワードニューラルネットなど)が,予測ラベルの入力および出力として機能を取り,2) 上位モデルとしてのグラフニューラルネットワークが,観測データから構築された特徴データグラフをメッセージパッシングすることで,新機能の埋め込みを外挿することを学ぶ。
論文 参考訳(メタデータ) (2021-10-09T09:02:45Z) - Comparing Test Sets with Item Response Theory [53.755064720563]
我々は,18の事前学習トランスフォーマーモデルから予測した29のデータセットを個別のテスト例で評価した。
Quoref、HellaSwag、MC-TACOは最先端のモデルを区別するのに最適である。
また、QAMRやSQuAD2.0のようなQAデータセットに使用されるスパン選択タスク形式は、強いモデルと弱いモデルとの差別化に有効である。
論文 参考訳(メタデータ) (2021-06-01T22:33:53Z) - Dataset Cartography: Mapping and Diagnosing Datasets with Training
Dynamics [118.75207687144817]
我々はデータセットを特徴付け、診断するモデルベースのツールであるData Mapsを紹介した。
私たちは、トレーニング中の個々のインスタンス上でのモデルの振る舞いという、ほとんど無視された情報のソースを活用しています。
以上の結果から,データ量から品質へのフォーカスの変化は,ロバストなモデルとアウト・オブ・ディストリビューションの一般化に繋がる可能性が示唆された。
論文 参考訳(メタデータ) (2020-09-22T20:19:41Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。