論文の概要: A Nonconvex Framework for Joint Sparse Sample Weighting and Parameter Estimation
- arxiv url: http://arxiv.org/abs/2610.33957v1
- Date: Sun, 25 Oct 2026 00:10:12 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-27 22:27:13.491708
- Title: A Nonconvex Framework for Joint Sparse Sample Weighting and Parameter Estimation
- Title(参考訳): 共同スパース標本重み付けのための非凸フレームワークとパラメータ推定
- Abstract要約: 本稿では,モデルパラメータとサンプル重みを協調的に最適化し,モデルのトレーニングを行う共同スパースサンプルとパラメータ推定フレームワークを提案する。
本稿では,損失関数に対するいくつかの手法を提案し,その影響とデータについて述べる。
各種学習課題と設定に関する数値実験により,提案手法の有効性が示された。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We propose a joint sparse sample weighting and parameter estimation (SWAPE) framework that jointly optimizes model parameters and sample weights to train a model while simultaneously assigning an individual weight to each training data point. Our framework accommodates several widely used loss functions for the model parameters, including convex, weakly convex, and difference-of-convex loss, and weakly convex sparsity functions to control the complexity of the sample weights. To solve the resulting bivariate problem, we propose an alternating minimization method in which the subproblems for updating the model parameters and weights are each approximated using majorize-minimize techniques. We provide several approximation methods for the loss functions considered in this paper, and show the overall algorithm's convergence. Numerical experiments on various learning tasks and data anomaly settings demonstrate the effectiveness of the proposed framework in minimizing the impact of undesirable data points compared to benchmark methods.
- Abstract(参考訳): モデルパラメータと標本重み付けを協調的に最適化し,各トレーニングデータポイントに個別重みを同時に割り当てる連成スパース標本重み付けとパラメータ推定(SWAPE)フレームワークを提案する。
本フレームワークは, モデルパラメータに対して, 凸, 弱い凸, 凸の差, 弱い凸の間隔関数など, 広く用いられている損失関数に対応し, サンプル重みの複雑さを制御できる。
そこで本研究では,モデルパラメータと重みを更新するサブプロブレムをそれぞれ,最大化法を用いて近似する交互化最小化法を提案する。
本稿では,損失関数の近似法を提案し,アルゴリズム全体の収束性を示す。
様々な学習課題とデータ異常設定に関する数値実験は、ベンチマーク手法と比較して望ましくないデータポイントの影響を最小限に抑える上で、提案フレームワークの有効性を示す。
関連論文リスト
- Efficient Covariance Estimation for Sparsified Functional Data [51.69796254617083]
共分散関数のランダムノット(ランダムノット-空間)とB-スプライン(Bspline-Spatial)推定器は計算的に効率的である。
共分散の漸近的なポイントワイドは、ある規則性条件下でのスパース化された個々の軌跡に対して得られる。
論文 参考訳(メタデータ) (2025-11-23T00:50:33Z) - Mitigating loss of variance in ensemble data assimilation: machine learning-based and distance-free localization [44.99833362998488]
アンサンブルデータ同化における共分散推定を改善するための2つの新しい手法を提案する。
主な目的は、サンプリングエラーによるばらつきの損失を軽減し、データ同化結果を強化することである。
これらのメソッドは、Multiple Data Assimilation (ES-MDA)フレームワークでEnsemble Smootherに統合される。
論文 参考訳(メタデータ) (2025-06-16T11:09:27Z) - A New Stochastic Approximation Method for Gradient-based Simulated Parameter Estimation [0.7673339435080445]
本稿では,マルチ時間スケール近似アルゴリズムを用いた勾配に基づくシミュレーションパラメータ推定フレームワークを提案する。
提案手法は,最大推定問題と後続密度推定問題の両方で生じる比バイアスを効果的に解決する。
我々の研究はGSPEフレームワークを拡張し、マルコフモデルや変分推論に基づく問題のような複雑なモデルを扱う。
論文 参考訳(メタデータ) (2025-03-24T03:54:50Z) - Data-free Weight Compress and Denoise for Large Language Models [96.68582094536032]
パラメータ行列を圧縮する手法として,データフリーなジョイントランクk近似を提案する。
キャリブレーションデータなしで、元の性能の93.43%を維持しながら80%のパラメータのモデルプルーニングを実現する。
論文 参考訳(メタデータ) (2024-02-26T05:51:47Z) - Computationally efficient reductions between some statistical models [15.998213043947485]
本研究では,ソースモデルのパラメータを知らずに,ソース統計モデルからターゲット統計モデルへサンプルを変換する問題について検討する。
我々は、一様、Erlang、Laplaceのロケーションモデルを一般的なターゲットファミリーにおよそ還元する計算効率のよいプロシージャを提供する。
論文 参考訳(メタデータ) (2024-02-12T15:32:38Z) - A Deep Unrolling Model with Hybrid Optimization Structure for Hyperspectral Image Deconvolution [50.13564338607482]
本稿では,DeepMixと呼ばれるハイパースペクトルデコンボリューション問題に対する新しい最適化フレームワークを提案する。
これは3つの異なるモジュール、すなわちデータ一貫性モジュール、手作りの正規化器の効果を強制するモジュール、および装飾モジュールで構成されている。
本研究は,他のモジュールの協調作業によって達成される進歩を維持するために設計された,文脈を考慮した認知型モジュールを提案する。
論文 参考訳(メタデータ) (2023-06-10T08:25:16Z) - An iterative multi-fidelity approach for model order reduction of
multi-dimensional input parametric PDE systems [0.0]
多次元入力パラメトリック空間を用いた大規模PDEシステムの縮小のためのサンプリングパラメトリック戦略を提案する。
これはパラメトリック空間全体の低忠実度モデルを効率的なサンプリング戦略を用いてサンプリングポイントに利用することで達成される。
提案手法は,低忠実度モデルを用いてソリューションデータベースを同化するため,オフライン段階での計算コストを大幅に削減する。
論文 参考訳(メタデータ) (2023-01-23T15:25:58Z) - Learning to Re-weight Examples with Optimal Transport for Imbalanced
Classification [74.62203971625173]
不均衡データは、ディープラーニングに基づく分類モデルに課題をもたらす。
不均衡なデータを扱うための最も広く使われているアプローチの1つは、再重み付けである。
本稿では,分布の観点からの最適輸送(OT)に基づく新しい再重み付け手法を提案する。
論文 参考訳(メタデータ) (2022-08-05T01:23:54Z) - Learning to Refit for Convex Learning Problems [11.464758257681197]
ニューラルネットワークを用いて、異なるトレーニングセットに対して最適化されたモデルパラメータを推定するフレームワークを提案する。
我々は、凸問題を近似するためにニューラルネットワークのパワーを厳格に特徴づける。
論文 参考訳(メタデータ) (2021-11-24T15:28:50Z) - MINIMALIST: Mutual INformatIon Maximization for Amortized Likelihood
Inference from Sampled Trajectories [61.3299263929289]
シミュレーションベースの推論は、その可能性が実際に計算できない場合でもモデルのパラメータを学習することができる。
あるクラスのメソッドは、異なるパラメータでシミュレートされたデータを使用して、確率とエビデンス比の償却推定器を推定する。
モデルパラメータとシミュレーションデータ間の相互情報の観点から,本手法が定式化可能であることを示す。
論文 参考訳(メタデータ) (2021-06-03T12:59:16Z) - Attentional-Biased Stochastic Gradient Descent [74.49926199036481]
深層学習におけるデータ不均衡やラベルノイズ問題に対処するための証明可能な手法(ABSGD)を提案する。
本手法は運動量SGDの簡易な修正であり,各試料に個別の重み付けを行う。
ABSGDは追加コストなしで他の堅牢な損失と組み合わせられるほど柔軟である。
論文 参考訳(メタデータ) (2020-12-13T03:41:52Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。