論文の概要: Characterizing the Representational Capacity of Neural Processes

• arxiv url: http://arxiv.org/abs/2605.24210v1
• Date: Fri, 22 May 2026 20:49:53 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-26 19:50:17.74401
• Title: Characterizing the Representational Capacity of Neural Processes
• Title（参考訳）: ニューラルプロセスの表現能力の特徴付け
• Authors: Robin Young,
• Abstract要約: The Conditional Neural Processs (CNPs), Attentive Neural Processs (ANPs), Transformer Neural Processs (TNPs), and their latent variants。 CNP表現可能関数は、コンテキスト分布の有限個の期待された特徴に依存する関数である。 潜伏NPに対して、有限次元潜伏がコヒーレントサンプリングを提供するが、エンコーダ制限を回避しないことを示す。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: What functions can Neural Processes represent? We analyze the representational capacity of popular NP architectures: Conditional Neural Processes (CNPs), Attentive Neural Processes (ANPs), Transformer Neural Processes (TNPs), and their latent variants. We prove these architectures form a strict hierarchy. CNP-representable functions are exactly those depending on finitely many expected features of the context distribution. ANPs strictly generalize CNPs via query-dependent reweighting, enabling kernel smoothers. ConvCNPs and ANPs are incomparable; each contains functions outside the other, separated by stationarity versus translation equivariance. TNPs with $L$ self-attention layers capture $L$-hop context interactions. For latent NPs, we show finite-dimensional latents provide coherent sampling but do not circumvent encoder limitations; matching GP posterior distributions requires latent dimension scaling with context size. These results provide a theoretical foundation for architecture selection based on task structure.
• Abstract（参考訳）: ニューラルプロセスはどの関数を表現できるのか? 一般的なNPアーキテクチャの表現能力として,条件付きニューラル・プロセス(CNP),注意型ニューラル・プロセス(ANP),トランスフォーマー・ニューラル・プロセス(TNP),それに付随する変種を解析する。 これらのアーキテクチャが厳格な階層を形成することを証明します。 CNP表現可能関数は、コンテキスト分布の有限個の期待された特徴に依存する関数である。 ANPはクエリ依存の再重み付けによってCNPを厳密に一般化し、カーネルのスムーズ化を可能にする。 ConvCNP と ANP は相容れないが、それぞれが他方の外部の関数を含み、定常性対変換等式で分離される。 L$セルフアテンションレイヤを持つTNPは、$L$ホップコンテキストインタラクションをキャプチャする。 潜在NPに対して、有限次元の潜伏がコヒーレントサンプリングを提供するがエンコーダ制限を回避しないことを示す。 これらの結果は,タスク構造に基づくアーキテクチャ選択の理論的基盤を提供する。

関連論文リスト

• Exploring Pseudo-Token Approaches in Transformer Neural Processes [0.0]
  ISANP(Set Attentive Neural Processs)について紹介する。 ISANPはTransformer Neural Processs (TNP) と競合し、1次元回帰、画像補完、文脈帯域幅、ベイズ最適化において最先端のモデルを上回る。 ISANPは、より大きなデータセットによくスケールする、パフォーマンスと計算の複雑さの調整可能なバランスを提供する。
  論文  参考訳（メタデータ） (2025-04-19T22:47:59Z)
• In-Context In-Context Learning with Transformer Neural Processes [50.57807892496024]
  In-context In-context Learning pseudo-token TNP (ICICL-TNP) を開発した。 ICICL-TNPは、データポイントとデータセットのセットの両方を条件付けし、コンテキスト内での学習を可能にする。 複数の実験において,文脈内学習の重要性とICICL-TNPの有効性を実証した。
  論文  参考訳（メタデータ） (2024-06-19T12:26:36Z)
• Spectral Convolutional Conditional Neural Processes [4.52069311861025]
  条件付きニューラルプロセス(CNP)は、プロセスのパラメータ化にニューラルネットワークの柔軟性を利用する確率モデルの一群である。 本稿では、周波数領域における関数のより効率的な表現を可能にするNPsファミリーに新たに追加されたスペクトル畳み込み条件ニューラルネットワーク(SConvCNPs)を提案する。
  論文  参考訳（メタデータ） (2024-04-19T21:13:18Z)
• Autoencoding Conditional Neural Processes for Representation Learning [31.63717849083666]
  条件付きニューラルプロセス(CNP)は、データから学習するフレキシブルで効率的なモデルのファミリーである。 PPS-VAE(Partial Pixel Space Variational Autoencoder)は、CNPコンテキストをCNPと同時に学習する潜時変数としてキャストするアモータイズされた変分フレームワークである。
  論文  参考訳（メタデータ） (2023-05-29T12:10:18Z)
• Versatile Neural Processes for Learning Implicit Neural Representations [57.090658265140384]
  本稿では,近似関数の能力を大幅に向上させるVersatile Neural Processs (VNP)を提案する。 具体的には、より少ない情報的コンテキストトークンを生成するボトルネックエンコーダを導入し、高い計算コストを軽減した。 提案したVNPが1D, 2D, 3D信号を含む様々なタスクに対して有効であることを示す。
  論文  参考訳（メタデータ） (2023-01-21T04:08:46Z)
• Latent Bottlenecked Attentive Neural Processes [71.18817592128207]
  LBANP(Latent Bottlenecked Attentive Neural Processs)について LBANPは、コンテキストデータポイントの数によらず、クエリ処理の複雑さを持つ。 LBANPは,メタ回帰,画像補完,コンテキスト的マルチアームバンディットに関する最先端技術と競合する結果が得られることを示す。
  論文  参考訳（メタデータ） (2022-11-15T19:21:41Z)
• Transformer Neural Processes: Uncertainty-Aware Meta Learning Via Sequence Modeling [26.377099481072992]
  本稿では,不確実性を考慮したメタ学習のためのトランスフォーマーニューラルプロセス(TNP)を提案する。 我々は自己回帰的可能性に基づく目的を通してTNPを学習し、それを新しいトランスフォーマーベースのアーキテクチャでインスタンス化する。 我々は,TNPが様々なベンチマーク問題に対して最先端の性能を達成することを示す。
  論文  参考訳（メタデータ） (2022-07-09T02:28:58Z)
• Bootstrapping Neural Processes [114.97111530885093]
  ニューラル・プロセス(NP)は、ニューラルネットワークを用いた幅広いプロセスのクラスを暗黙的に定義する。 NPは、プロセスの不確実性は単一の潜在変数によってモデル化されるという仮定に依存している。 本稿では,ブートストラップを用いたNPファミリーの新規拡張であるBoostrapping Neural Process (BNP)を提案する。
  論文  参考訳（メタデータ） (2020-08-07T02:23:34Z)
• NP-PROV: Neural Processes with Position-Relevant-Only Variances [113.20013269514327]
  位置関連性オンリーバリアース(NP-PROV)を有するニューラルプロセスと呼ばれる新しいメンバーを提案する。 NP-PROVは、その位置の関数値に関係なく、コンテキストポイントに近いターゲットポイントが小さな不確実性を持つという仮説を立てている。 我々は, NP-PROVが有界分散を維持しつつ, 最先端の可能性を実現することができることを示す。
  論文  参考訳（メタデータ） (2020-06-15T06:11:21Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。