論文の概要: On the Conditioning Consistency Gap in Conditional Neural Processes
- arxiv url: http://arxiv.org/abs/2604.19312v1
- Date: Tue, 21 Apr 2026 10:20:19 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-22 22:41:49.721025
- Title: On the Conditioning Consistency Gap in Conditional Neural Processes
- Title(参考訳): 条件付きニューラルプロセスにおけるコンディショニング整合ギャップについて
- Authors: Robin Young,
- Abstract要約: 条件付きニューラルプロセスの予測(CNP)は、状況に応じてポイントが加算されると変化する。
不整合は適度な文脈サイズでは無視できるが、数発の状況では顕著である。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by-sa/4.0/
- Abstract: Neural processes are meta-learning models that map context sets to predictive distributions. While inspired by stochastic processes, NPs do not generally satisfy the Kolmogorov consistency conditions required to define a valid stochastic process. This inconsistency is widely acknowledged but poorly understood. Practitioners note that NPs work well despite the violation, without quantifying what this means. We address this gap by defining the conditioning consistency gap, a KL divergence measuring how much a conditional neural process's (CNP) predictions change when a point is added to the context versus conditioned upon. Our main results show that for CNPs with bounded encoders and Lipschitz decoders, the consistency gap is $O(1/n^2)$ in context size $n$, and that this rate is tight. These bounds establish the precise sense in which CNPs approximate valid stochastic processes. The inconsistency is negligible for moderate context sizes but can be significant in the few-shot regime.
- Abstract(参考訳): ニューラルネットワークは、コンテキストセットを予測分布にマッピングするメタ学習モデルである。
確率過程に着想を得たが、NPは正確率過程を定義するのに必要なコルモゴロフ整合条件を一般的に満たさない。
この矛盾は広く認識されているが、あまり理解されていない。
実践者は、NPは違反にもかかわらず、それが何を意味するのかを定量化せずにうまく機能する、と指摘する。
我々は、条件整合性ギャップ、条件付きニューラルプロセス(CNP)の予測が、条件付きと条件付きで点を付加した場合にどの程度変化するかを測定するKL偏差を定義することで、このギャップに対処する。
本結果から,有界エンコーダとリプシッツデコーダを持つCNPでは,コンテクストサイズが$O(1/n^2)$であり,このレートは厳密であることがわかった。
これらの境界は、CNPが妥当な確率過程を近似する正確な感覚を確立する。
不整合は適度な文脈サイズでは無視できるが、数発の状況では顕著である。
関連論文リスト
- Rényi Neural Processes [14.11793373584558]
ニューラルプロセスは条件付き事前モデルと後続モデルとのパラメータ化結合を強制することを示す。
本稿では,標準KL分散をR'enyi分散に置き換える手法であるR'enyi Neural Processes (RNP)を提案する。
実世界の問題におけるRNPの性能改善について述べる。
論文 参考訳(メタデータ) (2024-05-25T00:14:55Z) - NP-SemiSeg: When Neural Processes meet Semi-Supervised Semantic
Segmentation [87.50830107535533]
半教師付きセマンティックセグメンテーションでは、トレーニング時にピクセルワイズラベルをラベル付けされていない画像に割り当てる。
モデルによるクラスワイズ確率分布から各画素の擬似ラベルを予測し,半教師付きセマンティックセマンティックセマンティクスへのアプローチ
本研究では,NPを半教師付きセマンティックセグメンテーションに適応させることにより一歩前進し,NP-SemiSegと呼ばれる新しいモデルを実現する。
論文 参考訳(メタデータ) (2023-08-05T12:42:15Z) - Adversarially Contrastive Estimation of Conditional Neural Processes [39.77675002999259]
条件付きニューラルプロセス(CNP)は関数上の分布を定式化し、正確な条件付き確率で関数観測を生成する。
我々は,正規最大推定値以外の逆トレーニング方式でCNPを校正する手法を提案する。
生成関数再構成から下流回帰および分類タスクに至るまで,本手法が主流のCNPメンバーに適合することが実証された。
論文 参考訳(メタデータ) (2023-03-23T02:58:14Z) - PAPAL: A Provable PArticle-based Primal-Dual ALgorithm for Mixed Nash Equilibrium [58.26573117273626]
2プレイヤゼロサム連続ゲームにおける非AL平衡非漸近目的関数について考察する。
連続分布戦略のための粒子ベースアルゴリズムに関する新しい知見を述べる。
論文 参考訳(メタデータ) (2023-03-02T05:08:15Z) - Transformer Neural Processes: Uncertainty-Aware Meta Learning Via
Sequence Modeling [26.377099481072992]
本稿では,不確実性を考慮したメタ学習のためのトランスフォーマーニューラルプロセス(TNP)を提案する。
我々は自己回帰的可能性に基づく目的を通してTNPを学習し、それを新しいトランスフォーマーベースのアーキテクチャでインスタンス化する。
我々は,TNPが様々なベンチマーク問題に対して最先端の性能を達成することを示す。
論文 参考訳(メタデータ) (2022-07-09T02:28:58Z) - Robust Implicit Networks via Non-Euclidean Contractions [63.91638306025768]
暗黙のニューラルネットワークは、精度の向上とメモリ消費の大幅な削減を示す。
彼らは不利な姿勢と収束の不安定さに悩まされる。
本論文は,ニューラルネットワークを高機能かつ頑健に設計するための新しい枠組みを提供する。
論文 参考訳(メタデータ) (2021-06-06T18:05:02Z) - Message Passing Neural Processes [3.0969191504482247]
本稿では,モデル内の関係構造を明示的に利用するMPNP(Message Passing Neural Processs)を紹介する。
MPNPは、既存のベンチマークと新たに提案されたCAとCola-Branchedタスクに基づいて、より低いサンプリングレートで成長する。
本稿では、密度に基づくCAルールセットに対する強力な一般化と、任意のラベリングと数発の学習設定に挑戦する際の顕著な向上について報告する。
論文 参考訳(メタデータ) (2020-09-29T09:40:09Z) - Bootstrapping Neural Processes [114.97111530885093]
ニューラル・プロセス(NP)は、ニューラルネットワークを用いた幅広いプロセスのクラスを暗黙的に定義する。
NPは、プロセスの不確実性は単一の潜在変数によってモデル化されるという仮定に依存している。
本稿では,ブートストラップを用いたNPファミリーの新規拡張であるBoostrapping Neural Process (BNP)を提案する。
論文 参考訳(メタデータ) (2020-08-07T02:23:34Z) - Meta-Learning Stationary Stochastic Process Prediction with
Convolutional Neural Processes [32.02612871707347]
提案するConvNPは,ニューラルプロセス(NP)に翻訳等価性を付与し,畳み込み条件NPを拡張して予測分布への依存性を許容する。
本研究では,1DにおけるConvNPの強い性能と一般化能力,回帰画像補完,実時間データを用いた各種タスクについて述べる。
論文 参考訳(メタデータ) (2020-07-02T18:25:27Z) - NP-PROV: Neural Processes with Position-Relevant-Only Variances [113.20013269514327]
位置関連性オンリーバリアース(NP-PROV)を有するニューラルプロセスと呼ばれる新しいメンバーを提案する。
NP-PROVは、その位置の関数値に関係なく、コンテキストポイントに近いターゲットポイントが小さな不確実性を持つという仮説を立てている。
我々は, NP-PROVが有界分散を維持しつつ, 最先端の可能性を実現することができることを示す。
論文 参考訳(メタデータ) (2020-06-15T06:11:21Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。