論文の概要: Scalable and Adaptive Distribution Regression via Random Features
- arxiv url: http://arxiv.org/abs/2610.24892v1
- Date: Sat, 17 Oct 2026 22:16:40 GMT
- ステータス: 情報取得中
- システム内更新日: 2026-10-20 22:05:30.425496
- Title: Scalable and Adaptive Distribution Regression via Random Features
- Title(参考訳): ランダム機能によるスケーラブルで適応的な分散回帰
- Abstract要約: 分布回帰は確率分布から応答変数への写像を学習しようとする。
その成功にもかかわらず、カーネルベースの分散レグレッションは計算コストが高く、カーネルの選択に敏感である。
下流学習目標に応じてランダムな特徴を適応的に割り当てる統合スコア誘導フレームワークを提案する。
- 参考スコア(独自算出の注目度): 10.840858283988027
- License:
- Abstract: Distribution regression seeks to learn mappings from probability distributions to response variables and has emerged as a unifying framework for kernel methods, multi-instance learning, and set-valued learning. Despite its success, kernel-based distribution regression remains computationally expensive and sensitive to kernel choice, motivating scalable and adaptive representations. Building on random feature approximations, we develop a finite-sample analysis of Random Feature Distribution Regression (RaDR) under two-stage sampling. Our perturbation analysis separates the effects of distribution-level sampling, finite within-bag sampling, and random feature approximation. We establish sufficient feature-budget conditions under which RaDR preserves the order of our excess-risk upper bound for exact two-stage kernel distribution regression while maintaining computational efficiency. We further propose Adaptive Random Feature Distribution Regression (A-RaDR), a unified score-guided framework that adaptively allocates random features according to downstream learning objectives. Experiments on synthetic benchmarks and 41 real-world datasets demonstrate that RaDR delivers substantial computational savings while maintaining competitive predictive performance, whereas A-RaDR further improves learning accuracy in distribution regression while retaining the computational speed up. Together, these results establish a practical and theoretically grounded framework for adaptive, scalable distribution learning
- Abstract(参考訳): 分布回帰は確率分布から応答変数へのマッピングを学習し、カーネルメソッド、マルチインスタンス学習、セットバリュー学習の統一フレームワークとして登場した。
その成功にもかかわらず、カーネルベースの分散レグレッションは計算コストが高く、カーネルの選択に敏感であり、スケーラブルで適応的な表現を動機付けている。
ランダムな特徴分布回帰(RaDR)を2段階サンプリングで有限サンプル解析する。
摂動解析は,分布レベルサンプリング,有限内部サンプリング,ランダム特徴近似の効果を分離する。
計算効率を保ちながら、2段階のカーネル分布の正確な回帰のために、RaDRが余剰リスク上限の順序を保っている十分な特徴予算条件を確立する。
さらに、下流学習目的に応じてランダムな特徴を適応的に割り当てる統合スコア誘導フレームワークであるAdaptive Random Feature Distribution Regression (A-RaDR)を提案する。
合成ベンチマークと41の実世界のデータセットの実験では、RaDRは競争力のある予測性能を維持しながら相当な計算量の節約を実現しているのに対し、A-RaDRは計算速度を上げながら分散回帰の学習精度をさらに向上している。
これらの結果は、適応的でスケーラブルな分散学習のための実践的で理論的な枠組みを確立する。
関連論文リスト
- RoSHAP: A Distributional Framework and Robust Metric for Stable Feature Attribution [10.49574311383701]
本稿では,特徴属性の予測特性とロシュアトリビューション指標(ロシュアトリビューション指標)を,SHAP測定値に基づく安定な特徴ランキングに組み込むためのフレームワークを提案する。
正規性条件下では、集約された特徴属性スコアはガウスであり、分布推定の計算コストを大幅に削減することを示す。
RoSHAPアプローチは、マシンラーニングモデルの安定性と解釈性を改善し、分析のための信頼性と一貫性のある洞察を可能にする。
論文 参考訳(メタデータ) (2026-05-14T17:51:09Z) - Bayesian Additive Distribution Regression [0.0]
線形関数として回帰関数をモデル化する非パラメトリックな分散回帰手法であるDistBARTを導入する。
合成および実データ、理論的には適応的な後部濃度結果によりこれを実証的に示す。
また、カーネルメソッドへの接続を確立し、この接続を使って非線形関数を学習できるDistBARTの変種を動機付けます。
論文 参考訳(メタデータ) (2026-03-06T16:49:38Z) - Doubly-Robust Estimation of Counterfactual Policy Mean Embeddings [23.3862001690226]
反ファクトポリシーの下での成果の分配を推定することは、推薦、広告、医療といった領域における意思決定にとって重要である。
再生カーネル空間(RKHS)における反事実分布全体を表す新しいフレームワーク-Counterfactual Policy Mean Embedding(CPME)を提案する。
プラグイン推定器と2倍頑健な推定器の両方を導入し、後者は結果埋め込みモデルと確率モデルの両方においてバイアスを補正することで収束率の向上を享受する。
論文 参考訳(メタデータ) (2025-06-03T12:16:46Z) - Distributional Reinforcement Learning with Dual Expectile-Quantile Regression [51.87411935256015]
分布RLに対する量子レグレッションアプローチは、任意の戻り分布を柔軟かつ効果的に学習する方法を提供する。
我々は,分布推定が消失することを示し,推定分布が急速に平均に崩壊することを実証的に観察した。
我々は,$L$の学習効率に感化され,効率のよい学習方法として,返却分布の期待値と量子値を共同で学習することを提案する。
論文 参考訳(メタデータ) (2023-05-26T12:30:05Z) - Stochastic Unrolled Federated Learning [85.6993263983062]
本稿では,UnRolled Federated Learning (SURF)を導入する。
提案手法は,この拡張における2つの課題,すなわち,非学習者へのデータセット全体の供給の必要性と,フェデレート学習の分散的性質に対処する。
論文 参考訳(メタデータ) (2023-05-24T17:26:22Z) - Distributionally Robust Models with Parametric Likelihood Ratios [123.05074253513935]
3つの単純なアイデアにより、より広いパラメトリックな確率比のクラスを用いてDROでモデルを訓練することができる。
パラメトリック逆数を用いてトレーニングしたモデルは、他のDROアプローチと比較して、サブポピュレーションシフトに対して一貫して頑健であることがわかった。
論文 参考訳(メタデータ) (2022-04-13T12:43:12Z) - Distributional Gradient Boosting Machines [77.34726150561087]
私たちのフレームワークはXGBoostとLightGBMをベースにしています。
我々は,このフレームワークが最先端の予測精度を実現することを示す。
論文 参考訳(メタデータ) (2022-04-02T06:32:19Z) - Distributionally Robust Learning [11.916893752969429]
本書は,データの摂動に頑健な包括的統計学習フレームワークを開発する。
各問題に対する引き込み可能なDRO緩和が導出され、境界と正規化の間の接続が確立される。
理論以外にも、数値実験や、合成データと実データを用いたケーススタディも含んでいる。
論文 参考訳(メタデータ) (2021-08-20T04:14:18Z) - Which Invariance Should We Transfer? A Causal Minimax Learning Approach [18.71316951734806]
本稿では、因果的観点からの包括的ミニマックス分析について述べる。
最小の最悪のリスクを持つサブセットを探索する効率的なアルゴリズムを提案する。
本手法の有効性と有効性は, 合成データとアルツハイマー病の診断で実証された。
論文 参考訳(メタデータ) (2021-07-05T09:07:29Z) - Uncertainty quantification for distributed regression [2.28438857884398]
平均推定器の不確かさを定量化する完全データ駆動手法を提案する。
すなわち、所定の決定論的予測セットに基づいて、平均推定器によって得られる予測に対して、同時的要素単位の信頼バンドを構築する。
また,本解析の副産物として,分割・分散型カーネルリッジ回帰に対するsup-norm整合性結果を得る。
論文 参考訳(メタデータ) (2021-05-24T17:33:19Z) - Learning Invariant Representations and Risks for Semi-supervised Domain
Adaptation [109.73983088432364]
半教師付きドメイン適応(Semi-DA)の設定の下で不変表現とリスクを同時に学習することを目的とした最初の手法を提案する。
共同で textbfLearning textbfInvariant textbfRepresentations と textbfRisks の LIRR アルゴリズムを導入する。
論文 参考訳(メタデータ) (2020-10-09T15:42:35Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。