論文の概要: Multi-Armed Bandit Approach for Optimizing Training on Synthetic Data

• arxiv url: http://arxiv.org/abs/2412.05466v1
• Date: Fri, 06 Dec 2024 23:36:36 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-12-10 14:57:01.939722
• Title: Multi-Armed Bandit Approach for Optimizing Training on Synthetic Data
• Title（参考訳）: 合成データに基づくトレーニング最適化のためのマルチアーマッドバンドアプローチ
• Authors: Abdulrahman Kerim, Leandro Soriano Marcolino, Erickson R. Nascimento, Richard Jiang,
• Abstract要約: 動的ユーザビリティ指標と組み合わせた UCB ベースのトレーニング手法を提案する。 提案手法は,合成画像と対応する実・合成データセットからの低レベル・高レベル情報を統合する。 提案手法は, ユーザビリティに基づいて, 合成画像のランク付けに有効な方法であることを示す。
• 参考スコア（独自算出の注目度）: 7.603659241572307
• License:
• Abstract: Supervised machine learning methods require large-scale training datasets to perform well in practice. Synthetic data has been showing great progress recently and has been used as a complement to real data. However, there is yet a great urge to assess the usability of synthetically generated data. To this end, we propose a novel UCB-based training procedure combined with a dynamic usability metric. Our proposed metric integrates low-level and high-level information from synthetic images and their corresponding real and synthetic datasets, surpassing existing traditional metrics. By utilizing a UCB-based dynamic approach ensures continual enhancement of model learning. Unlike other approaches, our method effectively adapts to changes in the machine learning model's state and considers the evolving utility of training samples during the training process. We show that our metric is an effective way to rank synthetic images based on their usability. Furthermore, we propose a new attribute-aware bandit pipeline for generating synthetic data by integrating a Large Language Model with Stable Diffusion. Quantitative results show that our approach can boost the performance of a wide range of supervised classifiers. Notably, we observed an improvement of up to 10% in classification accuracy compared to traditional approaches, demonstrating the effectiveness of our approach. Our source code, datasets, and additional materials are publically available at https://github.com/A-Kerim/Synthetic-Data-Usability-2024.
• Abstract（参考訳）: 監視された機械学習手法では、大規模なトレーニングデータセットを実際に適切に動作させる必要がある。 合成データは近年大きな進歩を見せており、実際のデータの補体として使われてきた。 しかし, 合成データの利用性評価には, まだまだ大きな課題がある。 そこで本研究では,UCBをベースとした新しいトレーニング手法と,ダイナミックなユーザビリティ指標を提案する。 提案手法は,合成画像とその対応する実・合成データセットから得られる低レベル・高レベル情報を統合し,従来の指標を超越する。 UCBベースのダイナミックアプローチを利用することで、モデル学習の継続的な強化が保証される。 他の手法とは異なり、本手法は機械学習モデルの状態の変化に効果的に対応し、トレーニングプロセス中のトレーニングサンプルの進化的有用性を検討する。 提案手法は, ユーザビリティに基づいて, 合成画像のランク付けに有効な方法であることを示す。 さらに,大規模言語モデルと安定拡散を組み合わせた合成データを生成するための属性対応帯域パイプラインを提案する。 定量的な結果から,本手法は広範囲の教師付き分類器の性能を向上させることができることが示された。 特に,従来の手法と比較して,分類精度が最大10%向上し,提案手法の有効性が示された。 ソースコード、データセット、その他の資料はhttps://github.com/A-Kerim/Synthetic-Data-Usability-2024で公開されています。

関連論文リスト

• Improving Object Detector Training on Synthetic Data by Starting With a Strong Baseline Methodology [0.14980193397844666]
  本稿では,合成データを用いた学習における事前学習対象検出器の性能向上手法を提案する。 提案手法は,実画像の事前学習から得られた有用な特徴を忘れずに,合成データから有能な情報を抽出することに焦点を当てる。
  論文  参考訳（メタデータ） (2024-05-30T08:31:01Z)
• Federated Learning with Projected Trajectory Regularization [65.6266768678291]
  フェデレーション学習は、ローカルデータを共有せずに、分散クライアントから機械学習モデルの共同トレーニングを可能にする。 連合学習における重要な課題の1つは、クライアントにまたがる識別できない分散データを扱うことである。 本稿では,データ問題に対処するための予測軌道正則化(FedPTR)を備えた新しいフェデレーション学習フレームワークを提案する。
  論文  参考訳（メタデータ） (2023-12-22T02:12:08Z)
• Noisy Self-Training with Synthetic Queries for Dense Retrieval [49.49928764695172]
  合成クエリと組み合わせた,ノイズの多い自己学習フレームワークを提案する。 実験結果から,本手法は既存手法よりも一貫した改善が得られた。 我々の手法はデータ効率が良く、競争のベースラインより優れています。
  論文  参考訳（メタデータ） (2023-11-27T06:19:50Z)
• How Good Are Synthetic Medical Images? An Empirical Study with Lung Ultrasound [0.3312417881789094]
  生成モデルを使用して合成トレーニングデータを追加することで、データの不足に対処するための低コストな方法が提供される。 合成データと実データの両方によるトレーニングは、実データのみによるトレーニングよりも優れていることを示す。
  論文  参考訳（メタデータ） (2023-10-05T15:42:53Z)
• HyperImpute: Generalized Iterative Imputation with Automatic Model Selection [77.86861638371926]
  カラムワイズモデルを適応的かつ自動的に構成するための一般化反復計算フレームワークを提案する。 既製の学習者,シミュレータ,インターフェースを備えた具体的な実装を提供する。
  論文  参考訳（メタデータ） (2022-06-15T19:10:35Z)
• CAFE: Learning to Condense Dataset by Aligning Features [72.99394941348757]
  本稿ではCAFE(Aligning features)によるCondenseデータセットの新しいスキームを提案する。 このアプローチの核心は、さまざまなスケールにわたる実データと合成データから機能を整合させる効果的な戦略です。 提案したCAFEを様々なデータセットで検証し,概ね最先端技術であることを示す。
  論文  参考訳（メタデータ） (2022-03-03T05:58:49Z)
• BERT WEAVER: Using WEight AVERaging to enable lifelong learning for transformer-based models in biomedical semantic search engines [49.75878234192369]
  We present WEAVER, a simple, yet efficient post-processing method that infuse old knowledge into the new model。 WEAVERを逐次的に適用すると、同じ単語の埋め込み分布が、一度にすべてのデータに対する総合的なトレーニングとして得られることを示す。
  論文  参考訳（メタデータ） (2022-02-21T10:34:41Z)
• DEALIO: Data-Efficient Adversarial Learning for Imitation from Observation [57.358212277226315]
  観察ifoからの模倣学習において、学習エージェントは、実演者の生成した制御信号にアクセスせずに、実演行動の観察のみを用いて実演エージェントを模倣しようとする。 近年、逆模倣学習に基づく手法は、ifO問題に対する最先端のパフォーマンスをもたらすが、データ非効率でモデルなしの強化学習アルゴリズムに依存するため、サンプルの複雑さに悩まされることが多い。 この問題は、サンプルの収集が時間、エネルギー、およびリスクの面で高いコストを被る可能性がある現実世界の設定に展開することは非現実的です。 よりデータ効率の高いifOアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2021-03-31T23:46:32Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。