論文の概要: Statistically Testing Training Data for Unwanted Error Patterns using Rule-Oriented Regression

• arxiv url: http://arxiv.org/abs/2503.18497v1
• Date: Mon, 24 Mar 2025 09:52:36 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-03-25 14:38:10.621891
• Title: Statistically Testing Training Data for Unwanted Error Patterns using Rule-Oriented Regression
• Title（参考訳）: ルール指向回帰を用いた不要な誤りパターンに対する統計的学習データ
• Authors: Stefan Rass, Martin Dallinger,
• Abstract要約: 本稿では,欠陥に対するトレーニングデータをテストし,その後の機械学習モデルのトレーニングのための信頼性の高い基盤構造を確立する方法を提案する。 我々の手法は、テスト条件'をデータ内のパターンを記述する条件とすることで、従来の統計的テストの能力を拡張します。 デモと実験のためのオープンソース実装を提供しています。
• 参考スコア（独自算出の注目度）: 0.5831737970661137
• License:
• Abstract: Artificial intelligence models trained from data can only be as good as the underlying data is. Biases in training data propagating through to the output of a machine learning model are a well-documented and well-understood phenomenon, but the machinery to prevent these undesired effects is much less developed. Efforts to ensure data is clean during collection, such as using bias-aware sampling, are most effective when the entity controlling data collection also trains the AI. In cases where the data is already available, how do we find out if the data was already manipulated, i.e., ``poisoned'', so that an undesired behavior would be trained into a machine learning model? This is a challenge fundamentally different to (just) improving approximation accuracy or efficiency, and we provide a method to test training data for flaws, to establish a trustworthy ground-truth for a subsequent training of machine learning models (of any kind). Unlike the well-studied problem of approximating data using fuzzy rules that are generated from the data, our method hinges on a prior definition of rules to happen before seeing the data to be tested. Therefore, the proposed method can also discover hidden error patterns, which may also have substantial influence. Our approach extends the abilities of conventional statistical testing by letting the ``test-condition'' be any Boolean condition to describe a pattern in the data, whose presence we wish to determine. The method puts fuzzy inference into a regression model, to get the best of the two: explainability from fuzzy logic with statistical properties and diagnostics from the regression, and finally also being applicable to ``small data'', hence not requiring large datasets as deep learning methods do. We provide an open source implementation for demonstration and experiments.
• Abstract（参考訳）: データからトレーニングされた人工知能モデルは、基礎となるデータと同程度にしか機能しない。 機械学習モデルの出力に伝播するトレーニングデータのバイアスは、十分に文書化されており、よく理解されている現象である。 バイアス認識サンプリングの使用など、収集中にデータがクリーンであることを保証する努力は、データ収集を管理するエンティティがAIをトレーニングする場合にも最も効果的である。 データがすでに利用可能である場合、‘poisoned’’というようなデータがすでに操作されているかどうかをどうやって確認すれば、望ましくない振る舞いが機械学習モデルにトレーニングされるのか? これは、近似精度や効率を向上する(単に)という根本的な課題であり、欠陥に対するトレーニングデータをテストする方法を提供し、その後の機械学習モデルのトレーニング(どんな種類のものであっても)において、信頼できる土台を築いた。 データから生成されるファジィルールを用いてデータを近似するという、よく研究されている問題とは異なり、我々の手法は、テストされるデータを見る前に実行されるルールの事前定義に依存している。 そのため,提案手法は隠れた誤りパターンも発見でき,その影響も大きい可能性がある。 我々のアプローチは、'テスト条件'をデータ内のパターンを記述するブール条件にすることで、従来の統計的テストの能力を拡張します。 この手法は、ファジィ推論を回帰モデルに置き、この2つを最大限に活用する: 統計的特性を持つファジィ論理からの説明可能性と回帰からの診断であり、最終的には「小さなデータ」にも適用可能であるため、ディープラーニング手法のように大きなデータセットを必要としない。 デモと実験のためのオープンソース実装を提供しています。

関連論文リスト

• Training on the Benchmark Is Not All You Need [52.01920740114261]
  本稿では,複数選択肢の内容に基づいた簡易かつ効果的なデータ漏洩検出手法を提案する。 本手法は,モデルトレーニングデータや重みを使用せずに,グレーボックス条件下で動作可能である。 4つのベンチマークデータセットから35個の主要なオープンソースLCMのデータ漏洩度を評価する。
  論文  参考訳（メタデータ） (2024-09-03T11:09:44Z)
• Hessian-Free Online Certified Unlearning [8.875278412741695]
  ほぼ瞬時にデータを除去するオンライン・アンラーニングアルゴリズムを開発した。 提案手法は,非学習および一般化保証の観点から,最先端の手法よりも優れていることを示す。
  論文  参考訳（メタデータ） (2024-04-02T07:54:18Z)
• Corrective Machine Unlearning [22.342035149807923]
  我々は、未知の操作が学習モデルに与える影響を緩和する問題として、矯正機械学習を定式化する。 削除セットを使わずにスクラッチから再学習するなど、既存の未学習手法の多くは、有効な修正未学習のために、操作されたデータの大部分を識別する必要がある。 選択的シナプス減衰法(Selective Synaptic Dampening)は, 操作したサンプルのごく一部で, 有害な効果を学習することなく, 限られた成功を達成している。
  論文  参考訳（メタデータ） (2024-02-21T18:54:37Z)
• Mendata: A Framework to Purify Manipulated Training Data [12.406255198638064]
  我々は、操作したトレーニングデータを浄化するフレームワークであるMendataを提案する。 Mendataはトレーニングインプットを乱してユーティリティを保持するが、参照データと同様に分散される。 我々は、最先端のデータ中毒やデータ追跡技術にMendataを適用して、その効果を実証する。
  論文  参考訳（メタデータ） (2023-12-03T04:40:08Z)
• AI Model Disgorgement: Methods and Choices [127.54319351058167]
  本稿では,現代の機械学習システムに適用可能な分類法を紹介する。 学習モデルにおけるデータ「効果の除去」の意味を,スクラッチからリトレーニングする必要のない方法で検討する。
  論文  参考訳（メタデータ） (2023-04-07T08:50:18Z)
• Information FOMO: The unhealthy fear of missing out on information. A method for removing misleading data for healthier models [0.0]
  ミスリーディングや不要なデータは、マシンラーニング(ML)モデルの健全性や正確性に大きく影響します。 本稿では,データセット内の重要な情報を特定するシーケンシャルな選択法を提案する。 これらの不安定性は、基礎となるマップの複雑さの結果であり、極端な事象や重い尾と結びついている。
  論文  参考訳（メタデータ） (2022-08-27T19:43:53Z)
• CAFA: Class-Aware Feature Alignment for Test-Time Adaptation [50.26963784271912]
  テスト時間適応(TTA)は、テスト時にラベルのないデータにモデルを適応させることによって、この問題に対処することを目的としている。 本稿では,クラス認識特徴アライメント(CAFA, Class-Aware Feature Alignment)と呼ばれる単純な機能アライメント損失を提案する。
  論文  参考訳（メタデータ） (2022-06-01T03:02:07Z)
• Conformal prediction for the design problem [72.14982816083297]
  機械学習の現実的な展開では、次にテストすべきデータを選択するために予測アルゴリズムを使用します。 このような設定では、トレーニングデータとテストデータの間には、異なるタイプの分散シフトがある。 このような環境で予測の不確実性を定量化する手法を提案する。
  論文  参考訳（メタデータ） (2022-02-08T02:59:12Z)
• Leveraging Unlabeled Data to Predict Out-of-Distribution Performance [63.740181251997306]
  実世界の機械学習デプロイメントは、ソース(トレーニング)とターゲット(テスト)ディストリビューションのミスマッチによって特徴づけられる。 本研究では,ラベル付きソースデータとラベルなしターゲットデータのみを用いて,対象領域の精度を予測する手法を検討する。 本稿では,モデルの信頼度をしきい値として学習し,精度をラベルなし例のごく一部として予測する実践的手法である平均閾値保持信頼度(ATC)を提案する。
  論文  参考訳（メタデータ） (2022-01-11T23:01:12Z)
• Managing dataset shift by adversarial validation for credit scoring [5.560471251954645]
  トレーニングデータの分布と実際に予測する必要があるデータとの矛盾は、モデルパフォーマンスの低下を引き起こす可能性がある。 本稿では,クレジットスコアリングシナリオにおけるデータセットシフト問題を軽減するための,逆検証に基づく手法を提案する。
  論文  参考訳（メタデータ） (2021-12-19T07:07:15Z)
• How Training Data Impacts Performance in Learning-based Control [67.7875109298865]
  本稿では,トレーニングデータの密度と制御性能の関係を考察する。 データセットの品質尺度を定式化し、$rho$-gap と呼ぶ。 フィードバック線形化制御法に$rho$-gapを適用する方法を示す。
  論文  参考訳（メタデータ） (2020-05-25T12:13:49Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。