論文の概要: Transfer Learning in Nonparametric Regression with Deep ReLU Networks

• arxiv url: http://arxiv.org/abs/2608.20255v1
• Date: Thu, 20 Aug 2026 16:53:00 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-21 20:28:51.654491
• Title: Transfer Learning in Nonparametric Regression with Deep ReLU Networks
• Title（参考訳）: 深部ReLUネットワークを用いた非パラメトリック回帰における伝達学習
• Abstract要約: 本稿では,複数のグループからなるデータを用いた非パラメトリック回帰のための一般的な伝達学習フレームワークを開発する。 より単純な関数による学習や、グループ間でサンプルをプールすることでデータ拡張など、より高速なレートでポジティブな転送を可能にする条件が検討されている。 各種シミュレーションおよび実データ実験により,提案手法の有効性がさらに検証された。
• 参考スコア（独自算出の注目度）: 9.811354059045287
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: This paper develops a general transfer learning framework for nonparametric regression with data consisting of multiple groups. Under the assumption that groups share a common structure along with group-specific deviations in additive form, the proposed method employs a two-stage offset learning procedure: the first stage pools data from all groups to estimate an overall mean function, and the second stage estimates offsets for each group, yielding final group-level estimators through additive combination. Upper bounds on the $\mathcal L_2$ error are established for the proposed framework, covering a broad class of nonparametric estimators under mild complexity and noise conditions. When instantiated with deep ReLU networks, explicit convergence rates are derived under hierarchical composition models, demonstrating the ability to overcome the curse of dimensionality. Conditions that enable positive transfer with faster rates are considered, including learning with simpler functions and data augmentation through pooling samples across groups. Various simulations and real-data experiments further validate the effectiveness of the proposed method.
• Abstract（参考訳）: 本稿では,複数のグループからなるデータを用いた非パラメトリック回帰のための一般的な伝達学習フレームワークを開発する。 提案手法では, グループ毎の平均関数を推定するために, 全グループからデータをプールし, 第2ステージでは各グループ毎のオフセットを推定し, 最終グループレベル推定器を加算結合により生成する2段階のオフセット学習手法を用いて, グループ別偏差とグループ別偏差を仮定する。 提案手法では, 軽度複雑度および雑音条件下での非パラメトリック推定器の広範なクラスを網羅し, 誤差$\mathcal L_2$の上限を定めている。 深いReLUネットワークでインスタンス化されると、階層的な構成モデルの下で明示的な収束率が導出され、次元性の呪いを克服する能力を示す。 より単純な関数による学習や、グループ間でサンプルをプールすることでデータ拡張など、より高速なレートでポジティブな転送を可能にする条件が検討されている。 各種シミュレーションおよび実データ実験により,提案手法の有効性がさらに検証された。

関連論文リスト

• Imputation Meets Clustering: Exploiting Latent Subgroup Structure for Missing Data Recovery [52.29866804948133]
  本稿では、クラスタリングと命令を相互に強化する共最適化プロセスとして再構築するフレームワークであるCAGI(Cluster-Aware Generative Imputation)を提案する。 14のベンチマークデータセットと15の代表的なベースラインの実験は、CAGIの優位性を実証している。
  論文  参考訳（メタデータ） (2026-07-08T02:50:02Z)
• Bayesian experimental design: grouped geometric pooled posterior via ensemble Kalman methods [1.665466637453776]
  それぞれの外部サンプルは異なる後部を誘導し、大きく異質な推論ターゲットを生成する。 外部サンプルをグループに分割し,各グループにプールされた提案を構築する。 このグループ化戦略は、グループ内のプロポーザル・ターゲットアライメントを改善し、より正確で安定した推定器をもたらす。
  論文  参考訳（メタデータ） (2026-04-20T16:55:02Z)
• Learning a Class of Mixed Linear Regressions: Global Convergence under General Data Conditions [1.9295130374196499]
  線形回帰モデル(MLR)は線形回帰モデル(英語版)の混合を利用して非線形関係における理論的および実践的重要性から注目されている。 このようなシステムの学習問題に多大な努力が注がれているが、既存のほとんどの調査では、厳密な独立性と同一に分散された(d.d.)あるいは分散PE条件が課されている。
  論文  参考訳（メタデータ） (2025-03-24T09:57:39Z)
• Rethinking Clustered Federated Learning in NOMA Enhanced Wireless Networks [60.09912912343705]
  本研究では,新しいクラスタ化フェデレーション学習(CFL)アプローチと,非独立かつ同一に分散した(非IID)データセットを統合することのメリットについて検討する。 データ分布における非IIDの度合いを測定する一般化ギャップの詳細な理論的解析について述べる。 非IID条件によって引き起こされる課題に対処する解決策は、特性の分析によって提案される。
  論文  参考訳（メタデータ） (2024-03-05T17:49:09Z)
• A structured regression approach for evaluating model performance across intersectional subgroups [53.91682617836498]
  分散評価(disaggregated evaluation)は、AIフェアネスアセスメントにおける中心的なタスクであり、AIシステムのさまざまなサブグループ間でのパフォーマンスを測定することを目的としている。 非常に小さなサブグループであっても,信頼性の高いシステム性能推定値が得られることを示す。
  論文  参考訳（メタデータ） (2024-01-26T14:21:45Z)
• The Group Loss++: A deeper look into group loss for deep metric learning [65.19665861268574]
  グループ損失 (Group Loss) は、グループの全サンプルに埋め込まれた類似性を強制する微分可能なラベルプロパゲーション法に基づく損失関数である。 4つのデータセットでクラスタリングと画像検索の最先端結果を示し、2人の再識別データセットで競合結果を示す。
  論文  参考訳（メタデータ） (2022-04-04T14:09:58Z)
• Harnessing Heterogeneity: Learning from Decomposed Feedback in Bayesian Modeling [68.69431580852535]
  サブグループフィードバックを取り入れた新しいGPレグレッションを導入する。 我々の修正された回帰は、以前のアプローチと比べて、明らかにばらつきを減らし、したがってより正確な後続を減らした。 我々は2つの異なる社会問題に対してアルゴリズムを実行する。
  論文  参考訳（メタデータ） (2021-07-07T03:57:22Z)
• Posterior-Aided Regularization for Likelihood-Free Inference [23.708122045184698]
  後補助正規化(PAR)は,モデル構造に関係なく,密度推定器の学習に適用可能である。 単一のニューラルネットワークを用いて逆KL項と相互情報項の両方を推定するPARの統一推定方法を提供する。
  論文  参考訳（メタデータ） (2021-02-15T16:59:30Z)
• Global convergence of Negative Correlation Extreme Learning Machine [0.0]
  本稿では,NCELMのグローバル収束を保証するために十分な条件を数学的に提示する。 各反復におけるアンサンブルの更新は縮約写像関数として定義され、バナッハの定理により、アンサンブルの大域収束が証明される。
  論文  参考訳（メタデータ） (2020-09-30T14:18:10Z)
• Model Fusion with Kullback--Leibler Divergence [58.20269014662046]
  異種データセットから学習した後続分布を融合する手法を提案する。 我々のアルゴリズムは、融合モデルと個々のデータセット後部の両方に対する平均場仮定に依存している。
  論文  参考訳（メタデータ） (2020-07-13T03:27:45Z)
• Robust Grouped Variable Selection Using Distributionally Robust Optimization [11.383869751239166]
  摂動下での群付き変数選択のための不確実性セットを用いた分布ロバスト最適化(DRO)の定式化を提案する。 我々は,サンプル外損失と推定バイアスの確率的境界を証明し,推定器の群化効果を確立する。 我々の定式化は,群レベルでの空間性を促進する解釈可能で同相なモデルを生成することを示す。
  論文  参考訳（メタデータ） (2020-06-10T22:32:52Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。