論文の概要: NPBoost: Neural Processes with Gradient-Boosted Fixed Effects

• arxiv url: http://arxiv.org/abs/2609.28122v1
• Date: Wed, 23 Sep 2026 13:49:44 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-25 00:05:18.051312
• Title: NPBoost: Neural Processes with Gradient-Boosted Fixed Effects
• Title（参考訳）: NPBoost: 勾配ブースト固定効果を持つニューラルプロセス
• Abstract要約: ニューラルプロセス(NP)は、暗黙的にプロセスを学び、小さなコンテキストセットから新しいタスクに適応するモデルベースのメタラーナーである。 NPBoostは、構造化された応答変数をタスク間で共有されるツリーブースト固定効果とタスク・ツー・タスクの変動をキャプチャするNPランダム効果に分解する。
• 参考スコア（独自算出の注目度）: 5.529795221640363
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Neural Processes (NPs) are model-based meta-learners that implicitly learn a stochastic process and adapt to a new task from a small context set. Most extensions of NPs focus on improving the neural network architecture. We instead develop an extension motivated by the shared hierarchical interpretation of meta-learning and mixed-effects models. Specifically, we introduce Neural Process Boosting (NPBoost), which decomposes structured response variability into tree-boosted fixed effects shared across tasks and NP random effects that capture stochastic task-to-task variation. We propose to train the two components jointly using a boosting algorithm in which an NP learns residual task-specific structure and a tree ensemble estimates common patterns across tasks. Across synthetic and real-world tabular meta-learning problems, this decomposition improves over a standard NP when the shared structure contains discontinuities or other irregular patterns that boosted trees can represent effectively.
• Abstract（参考訳）: ニューラルプロセス(NP)は、確率過程を暗黙的に学習し、小さなコンテキストセットから新しいタスクに適応するモデルベースのメタラーナーである。 NPのほとんどの拡張は、ニューラルネットワークアーキテクチャの改善に焦点を当てている。 メタラーニングモデルと混合効果モデルの共有階層的解釈によって動機付けられた拡張を開発する。 具体的には,構造的応答変動を,タスク間で共有されるツリーブースト固定効果と,確率的タスク対タスクの変動を捉えるNPランダム効果に分解するニューラルプロセスブースティング(NPBoost)を導入する。 本稿では,NPがタスク固有の残余構造を学習し,ツリーアンサンブルがタスク間の共通パターンを推定するブースティングアルゴリズムを用いて,これら2つのコンポーネントを共同でトレーニングすることを提案する。 合成および実世界の表層メタラーニング問題全体で、この分解は、共有構造が木を効果的に表現できる不連続やその他の不規則なパターンを含む場合、標準NPよりも改善される。

関連論文リスト

• Exploring Pseudo-Token Approaches in Transformer Neural Processes [0.0]
  ISANP(Set Attentive Neural Processs)について紹介する。 ISANPはTransformer Neural Processs (TNP) と競合し、1次元回帰、画像補完、文脈帯域幅、ベイズ最適化において最先端のモデルを上回る。 ISANPは、より大きなデータセットによくスケールする、パフォーマンスと計算の複雑さの調整可能なバランスを提供する。
  論文  参考訳（メタデータ） (2025-04-19T22:47:59Z)
• Effective Learning with Node Perturbation in Multi-Layer Neural Networks [2.1168858935852013]
  バックプロパゲーション(BP)は、ディープニューラルネットワークモデルのパラメータをトレーニングするための支配的かつ最も成功した方法である。 NPは、ネットワークアクティベーションへのノイズ注入による学習を提案する。 NPはデータ非効率であり、ノイズベースの探索プロセスのため不安定である。
  論文  参考訳（メタデータ） (2023-10-02T08:12:51Z)
• Permutation Equivariant Neural Functionals [92.0667671999604]
  この研究は、他のニューラルネットワークの重みや勾配を処理できるニューラルネットワークの設計を研究する。 隠れた層状ニューロンには固有の順序がないため, 深いフィードフォワードネットワークの重みに生じる置換対称性に着目する。 実験の結果, 置換同変ニューラル関数は多種多様なタスクに対して有効であることがわかった。
  論文  参考訳（メタデータ） (2023-02-27T18:52:38Z)
• Improved Algorithms for Neural Active Learning [74.89097665112621]
  非パラメトリックストリーミング設定のためのニューラルネットワーク(NN)ベースの能動学習アルゴリズムの理論的および経験的性能を改善する。 本研究では,SOTA(State-of-the-art (State-the-art)) 関連研究で使用されるものよりも,アクティブラーニングに適する人口減少を最小化することにより,2つの後悔の指標を導入する。
  論文  参考訳（メタデータ） (2022-10-02T05:03:38Z)
• Deep Architecture Connectivity Matters for Its Convergence: A Fine-Grained Analysis [94.64007376939735]
  我々は、勾配降下訓練におけるディープニューラルネットワーク(DNN)の収束に対する接続パターンの影響を理論的に特徴づける。 接続パターンの単純なフィルタリングによって、評価対象のモデルの数を削減できることが示される。
  論文  参考訳（メタデータ） (2022-05-11T17:43:54Z)
• Supervised Learning for Non-Sequential Data: A Canonical Polyadic Decomposition Approach [85.12934750565971]
  特徴相互作用の効率的なモデリングは、非順序的タスクに対する教師あり学習の基盤となる。 この問題を緩和するため、モデルパラメータをテンソルとして暗黙的に表現することが提案されている。 表現性を向上するため,任意の高次元特徴ベクトルに特徴写像を適用できるようにフレームワークを一般化する。
  論文  参考訳（メタデータ） (2020-01-27T22:38:40Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。