論文の概要: Joint Model and Data Sparsification via the Marginal Likelihood

• arxiv url: http://arxiv.org/abs/2605.29908v1
• Date: Thu, 28 May 2026 13:26:53 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-30 02:45:56.345997
• Title: Joint Model and Data Sparsification via the Marginal Likelihood
• Title（参考訳）: Marginal Likelihoodによる関節モデルとデータスポーザライゼーション
• Authors: Alexander Timans, Thomas Möllenhoff, Christian A. Naesseth, Mohammad Emtiyaz Khan, Eric Nalisnick,
• Abstract要約: 本稿では,個々の特徴とサンプルの相違点を同時学習し,同時にモデルとデータスペーシングを実現することを提案する。 このモデルとデータの対称的なプルーニングは、共役を保存する自然な拡張を提供する。 多様な回帰タスクにわたる経験的結果は、共同ARDアプローチがスパースモデルとロバスト予測モデルの両方を一貫して生成することを確認した。
• 参考スコア（独自算出の注目度）: 53.29070892356214
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Sparse recovery in linear systems underpins applications from signal processing to high-dimensional regression. Sparse Bayesian Learning, grounded in the principle of automatic relevance determination (ARD), offers a practical Bayesian mechanism for feature sparsity via marginal likelihood optimization. Yet, its reliance on a homoscedastic noise model renders it sensitive to data contaminations such as outliers or misspecified noise, harming model fit and predictions. Instead, we propose jointly learning individual feature and sample relevancies, enabling simultaneous model and data sparsification via a single Bayesian objective. This symmetric pruning of model and data offers a natural extension that preserves conjugacy, admits closed-form updates for standard optimization procedures, and aligns with perspectives from robust regression and influence functions. Empirical results across diverse regression tasks affirm that a joint ARD approach consistently yields both sparse and robust prediction models.
• Abstract（参考訳）: 線形システムのスパースリカバリは、信号処理から高次元回帰への応用を支える。 Sparse Bayesian Learningは、自動妥当性決定(ARD)の原理に基づいており、限界確率最適化による特徴空間の実用的ベイズ的メカニズムを提供する。 しかし、ホモシダスティックノイズモデルへの依存は、アウトレーヤや不特定ノイズなどのデータ汚染に敏感であり、モデル適合や予測を損なう。 代わりに,個々の特徴とサンプルの冗長性を共同で学習し,ベイズ的目的の1つを通じて同時モデルとデータスペーサー化を実現することを提案する。 このモデルとデータの対称的なプルーニングは、共役を保ち、標準最適化手順のクローズドフォーム更新を認め、頑健な回帰関数や影響関数からの視点と整合する自然な拡張を提供する。 多様な回帰タスクにわたる経験的結果は、共同ARDアプローチがスパースモデルとロバスト予測モデルの両方を一貫して生成することを確認した。

関連論文リスト

• Non-Parametric Rehearsal Learning via Conditional Mean Embeddings [88.89267783967263]
  本研究では,不必要な未来(AUF)問題をテキスト化するための非パラメトリックリハーサル学習手法を提案する。 具体的には、カーネル機械を用いてAUFの目的を、動作誘起分布変化から所望性モデリングを遠ざける統一表現に再構成する。
  論文  参考訳（メタデータ） (2026-05-09T15:30:52Z)
• Nonparametric Data Attribution for Diffusion Models [57.820618036556084]
  生成モデルのデータ属性は、個々のトレーニング例がモデル出力に与える影響を定量化する。 生成画像とトレーニング画像のパッチレベルの類似性によって影響を測定する非パラメトリック属性法を提案する。
  論文  参考訳（メタデータ） (2025-10-16T03:37:16Z)
• Frugal, Flexible, Faithful: Causal Data Simulation via Frengression [4.446798246007668]
  本研究は,Fragalパラメータ化の深い生成的実現であるFragressionを紹介する。 frengressionは正確な推定と、時間変化データのフレキシブルで忠実なシミュレーションを提供する。 我々は、この枠組みが因果的マージンモデリングのための生成的アプローチに新たな研究を巻き起こすことを期待している。
  論文  参考訳（メタデータ） (2025-08-01T18:43:59Z)
• Principled Input-Output-Conditioned Post-Hoc Uncertainty Estimation for Regression Networks [1.4671424999873808]
  不確実性は安全性に敏感なアプリケーションでは重要であるが、予測性能に悪影響を及ぼすため、市販のニューラルネットワークから排除されることが多い。 本稿では,従来の入力と凍結モデルの両方に補助モデルを適用することにより,回帰タスクにおけるポストホック不確実性推定のための理論的基盤となるフレームワークを提案する。
  論文  参考訳（メタデータ） (2025-06-01T09:13:27Z)
• Self-Boost via Optimal Retraining: An Analysis via Approximate Message Passing [58.52119063742121]
  独自の予測と潜在的にノイズの多いラベルを使ってモデルをトレーニングすることは、モデルパフォーマンスを改善するためのよく知られた戦略である。 本稿では,モデルの予測と提供ラベルを最適に組み合わせる方法について論じる。 我々の主な貢献は、現在のモデルの予測と与えられたラベルを組み合わせたベイズ最適集約関数の導出である。
  論文  参考訳（メタデータ） (2025-05-21T07:16:44Z)
• The Risk of Federated Learning to Skew Fine-Tuning Features and Underperform Out-of-Distribution Robustness [50.52507648690234]
  フェデレートされた学習は、微調整された特徴をスキイングし、モデルの堅牢性を損なうリスクがある。 3つのロバスト性指標を導入し、多様なロバストデータセットで実験を行う。 提案手法は,パラメータ効率のよい微調整手法を含む多種多様なシナリオにまたがるロバスト性を著しく向上させる。
  論文  参考訳（メタデータ） (2024-01-25T09:18:51Z)
• Leveraging Self-Consistency for Data-Efficient Amortized Bayesian Inference [9.940560505044122]
  本稿では,償却ベイズ推定の効率と精度を向上させる手法を提案する。 我々は,関節モデルの近似表現に基づいて限界確率を推定する。
  論文  参考訳（メタデータ） (2023-10-06T17:41:41Z)
• BARTSIMP: flexible spatial covariate modeling and prediction using Bayesian additive regression trees [0.0]
  本稿では,ガウス過程空間モデルとベイズ加法回帰木(BART)モデルの組み合わせについて検討する。 マルコフ連鎖モンテカルロとIntegrated Nested Laplace Approximation (INLA)技術を組み合わせることにより、アプローチの計算負担を低減させる。 次に、このモデルを用いてケニアの人文的反応を予測し、複雑なサンプリング設計を用いてデータを収集する。
  論文  参考訳（メタデータ） (2023-09-23T05:35:17Z)
• Causality-aware counterfactual confounding adjustment as an alternative to linear residualization in anticausal prediction tasks based on linear learners [14.554818659491644]
  反因果予測タスクにおける因果関係を考慮した共起調整に対する線形残差化手法の比較を行った。 線形学習者の予測性能において,因果認識アプローチは(漸近的に)残留化調整に優れる傾向があることを示す。
  論文  参考訳（メタデータ） (2020-11-09T17:59:57Z)
• Decomposed Adversarial Learned Inference [118.27187231452852]
  我々は,DALI(Decomposed Adversarial Learned Inference)という新しいアプローチを提案する。 DALIは、データ空間とコード空間の両方の事前および条件分布を明示的に一致させる。 MNIST, CIFAR-10, CelebAデータセットにおけるDALIの有効性を検証する。
  論文  参考訳（メタデータ） (2020-04-21T20:00:35Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。