論文の概要: Prior-aware and Context-guided Group Sampling for Active Probabilistic Subsampling
- arxiv url: http://arxiv.org/abs/2607.07083v1
- Date: Wed, 08 Jul 2026 07:12:17 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-09 22:50:30.312043
- Title: Prior-aware and Context-guided Group Sampling for Active Probabilistic Subsampling
- Title（参考訳）: アクティブ確率サブサンプリングのための事前認識と文脈誘導型グループサンプリング
- Abstract要約: サブサンプリングは測定回数を大幅に削減する。
Active Deep Probabilistic Subsampling (A-DPS) はサブサンプリングパターンと下流タスクモデルの両方を共同で最適化する。
ここでは、トレーニングデータセットから導出される決定論的(固定された)事前インフォームサンプリングパターンと、トップkサンプリングによるグループベースサンプリングを統合することにより、A-DPSを強化する。
- 参考スコア（独自算出の注目度）: 4.1015533948392
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Subsampling significantly reduces the number of measurements, thereby streamlining data processing and transfer overhead, and shortening acquisition time across diverse real-world applications. The recently introduced Active Deep Probabilistic Subsampling (A-DPS) approach jointly optimizes both the subsampling pattern and the downstream task model, enabling instance- and subject-specific sampling trajectories and effective adaptation to new data at inference time. However, this approach does not fully leverage valuable dataset priors and relies on top-1 sampling, which can impede the optimization process. Herein, we enhance A-DPS by integrating a deterministic (fixed) prior-informed sampling pattern derived from the training dataset, along with group-based sampling via top-k sampling, to achieve more robust optimization, method we call Prior-aware and context-guided Group-based Active DPS (PGA-DPS). We also provide a theoretical analysis supporting improved optimization via group sampling, and validate this with empirical results. We evaluated PGA-DPS on three tasks: classification, image reconstruction, and segmentation, using the MNIST, CIFAR-10, fastMRI knee, and hyperspectral AeroRIT datasets, respectively. In every case, PGA-DPS outperformed A-DPS, DPS, and all other sampling methods.
- Abstract（参考訳）: サブサンプリングは、測定回数を大幅に削減し、データ処理と転送オーバーヘッドを合理化し、さまざまな現実世界のアプリケーション間での取得時間を短縮する。
最近導入されたActive Deep Probabilistic Subsampling (A-DPS)アプローチは、サブサンプリングパターンと下流タスクモデルの両方を共同で最適化する。
しかし、このアプローチは価値あるデータセットの事前を十分に活用せず、トップ1サンプリングに依存しており、最適化プロセスを妨げる可能性がある。
本稿では、トレーニングデータセットから導出される決定論的(固定された)事前インフォームドサンプリングパターンと、トップkサンプリングによるグループベースサンプリングを統合して、より堅牢な最適化を実現することにより、A-DPSを強化し、事前認識および文脈誘導グループベースアクティブDPS(PGA-DPS)と呼ぶ手法を提案する。
また、グループサンプリングによる最適化の改善を支援する理論的解析を行い、実験結果で検証する。
MNIST, CIFAR-10, fastMRI knee, hyperspectral AeroRIT を用いて, 分類, 画像再構成, セグメンテーションの3つのタスクでPGA-DPSを評価した。
いずれの場合も、PGA-DPSはA-DPS、DPS、その他のサンプリング方法よりも優れていた。
関連論文リスト
- TapSampling: Inference-Time Sampling with a Task-Progress-Understanding Verifier for Robotic Manipulation [61.35569005726248]
既存の具体的制御研究は、トレーニングデータとモデルサイズをスケールすることで、顕著なパフォーマンス向上を示す。
拡散や自己回帰モデルのような非決定論的生成モデルは、エンボディドコントロールの分野で広く採用されている。
推測時間サンプリングのためのプラグイン・アンド・プレイフレームワークである textbfTapSampling を提案する。
論文 参考訳（メタデータ） (2026-05-25T08:03:31Z) - Unbiased Dynamic Pruning for Efficient Group-Based Policy Optimization [60.87651283510059]
Group Relative Policy Optimization (GRPO) はLLM推論を効果的にスケールするが、計算コストは禁じている。
本研究では,非バイアス勾配推定を保ちながら動的プルーニングを可能にする動的プルーニングポリシー最適化(DPPO)を提案する。
刈り込みによって引き起こされるデータの空間性を軽減するため,ウィンドウベースの欲求戦略であるDense Prompt Packingを導入する。
論文 参考訳（メタデータ） (2026-03-04T14:48:53Z) - TFPS: A Temporal Filtration-enhanced Positive Sample Set Construction Method for Implicit Collaborative Filtering [40.89512526196666]
高品質な正のサンプルセットを構築するための新しい時間的濾過強化手法を提案する。
TFPSがRecall@kとNDCG@kを改善できる理由に関する理論的知見を提供する。
論文 参考訳（メタデータ） (2026-02-26T01:32:45Z) - VADE: Variance-Aware Dynamic Sampling via Online Sample-Level Difficulty Estimation for Multimodal RL [38.782188833641676]
GRPOやGSPOのようなグループベースのポリシー最適化手法は、マルチモーダルモデルのトレーニングの標準となっている。
グループ内のすべての応答が同じ報酬を受けると、それらは致命的な急激な消滅問題に悩まされる。
textbfVADEは,オンラインサンプルレベルの難易度を用いたサンプリングフレームワークである。
論文 参考訳（メタデータ） (2025-11-24T08:59:54Z) - Adaptive Batch-Wise Sample Scheduling for Direct Preference Optimization [37.54165341391688]
DPOのためのサンプルスケジューリングという,新しい問題を紹介します。
トレーニングバッチ毎にサンプルを適応的に選択する,効率的かつ効率的なアルゴリズムであるSamSを提案する。
この研究は、バッチワイドサンプル選択によるLCMアライメントを改善するための、有望な新しい方向性を示している。
論文 参考訳（メタデータ） (2025-06-08T10:26:09Z) - Finding the Sweet Spot: Preference Data Construction for Scaling Preference Optimization [66.67988187816185]
本研究の目的は、繰り返しランダムサンプリングにより、オンラインサンプルの数を増大させ、アライメント性能を向上させることである。
実験の結果,サンプルサイズが大きくなるにつれて,この戦略がエフェデクリンの性能向上につながることが明らかとなった。
サンプルの規模が大きくなるにつれてモデル性能を継続的に向上するスケーラブルな嗜好データ構築戦略を導入する。
論文 参考訳（メタデータ） (2025-02-24T04:22:57Z) - Preference Optimization with Multi-Sample Comparisons [53.02717574375549]
本稿では,マルチサンプル比較を含むポストトレーニングの拡張手法を提案する。
これらのアプローチは、生成的多様性やバイアスといった重要な特徴を捉えられない。
マルチサンプル比較はシングルサンプル比較よりも集団特性の最適化に有効であることを示す。
論文 参考訳（メタデータ） (2024-10-16T00:59:19Z) - A CLIP-Powered Framework for Robust and Generalizable Data Selection [51.46695086779598]
実世界のデータセットは、しばしば冗長でノイズの多いデータを含み、トレーニング効率とモデルパフォーマンスに悪影響を及ぼす。
データ選択は、データセット全体から最も代表的なサンプルを特定することを約束している。
より堅牢で一般化可能なサンプル選択にマルチモーダル情報を活用するCLIPを利用した新しいデータ選択フレームワークを提案する。
論文 参考訳（メタデータ） (2024-10-15T03:00:58Z) - Pareto Optimization for Active Learning under Out-of-Distribution Data
Scenarios [79.02009938011447]
本研究では,未ラベルデータプールからバッチサイズを固定した未ラベルサンプルの最適なサブセットを選択するサンプリング手法を提案する。
実験の結果,従来の機械学習(ML)タスクとディープラーニング(DL)タスクの両方において,その効果が示された。
論文 参考訳（メタデータ） (2022-07-04T04:11:44Z) - On Sampling Collaborative Filtering Datasets [9.041133460836361]
提案アルゴリズムのランク付け性能に対するデータセットサンプリング戦略の実践的結果について検討する。
我々は、与えられたデータセットのモデル性能を最も保持する可能性のあるサンプリングスキームを提案できるオラクル、Data-Genieを開発した。
論文 参考訳（メタデータ） (2022-01-13T02:39:22Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。