論文の概要: Structured Priors: Towards an algebra of component priors for prior-data fitted networks

• arxiv url: http://arxiv.org/abs/2611.04056v1
• Date: Mon, 02 Nov 2026 23:00:44 GMT
• ステータス: 情報取得中
• システム内更新日: 2026-11-04 17:54:35.655413
• Title: Structured Priors: Towards an algebra of component priors for prior-data fitted networks
• Title（参考訳）: 構造化プリエント-プリエントネットワークのコンポーネントプリエント代数に向けて
• Abstract要約: 本稿では,事前データ対応ネットワークの事前構築手法を提案する。 測度理論の枠組みでは、混合、畳み込み、振幅スケーリング、局所変換、投射の演算子を定義する。 実験により、実装されたジェネレータは、置換テストの解像度内でアイデンティティを再現することを示した。
• 参考スコア（独自算出の注目度）: 0.304585143845864
• License:
• Abstract: Prior-data fitted networks are typically trained using synthetic data generated by a single, manually constructed generator. In cases where such a generator combines multiple components, e.g., in TabPFN, Mitra, or TabICLv2, this is achieved through a mixture using manually specified weights, the impact of which on the network only becomes apparent after pre-training. Instead of such a hand-built generator, this work proposes a structured prior: a small set of named component priors, linked by operators whose algebraic properties are formally proven and whose influence on the trained network has been validated. Within a measure-theoretic framework, the operators of mixture, convolution, amplitude scaling, local transform, and projection are defined. Their governing laws are proven. These operators are implemented in the macl2l software package. Experiments demonstrate that the implemented generators reproduce the identities within the resolution of a permutation test. Furthermore, it is shown that trained networks obey the distributive law; that a mixed prior composed of small components performs as well as or better than any individual component in seven out of eight open regression benchmarks; and that on two of these tables a structured prior reaches, with a ninth of the data budget, an error that a generic random-function prior does not reach even with the full budget. A theorem on model averaging demonstrates that networks trained on individual components constitute the Bayes predictor for the mixture, provided that the component networks are themselves the Bayes predictors for their respective priors. However, the pre-registered test of this averaged predictor with trained component networks failed, because the networks identify the generating component too rarely. The paper proposes a research program focused on the algebra of structured priors for prior-data fitted networks.
• Abstract（参考訳）: プリデータ適合型ネットワークは通常、1つの手動で構築されたジェネレータによって生成された合成データを使って訓練される。 このようなジェネレータがTabPFN、Mitra、TabICLv2などの複数のコンポーネントを組み合わせる場合、これは手動で指定した重みを使って混合することで達成される。 代数的性質が正式に証明され、トレーニングされたネットワークへの影響が検証された演算子によってリンクされた、名前付きコンポーネント事前の小さなセットである。 測度理論の枠組みでは、混合、畳み込み、振幅スケーリング、局所変換、投射の演算子を定義する。 彼らの統治法は証明されている。 これらの演算子はmacl2lソフトウェアパッケージで実装されている。 実験により、実装されたジェネレータは、置換テストの解像度内でアイデンティティを再現することを示した。 さらに、訓練されたネットワークは、分散法則に従うこと、また、8つのオープンレグレッションベンチマークのうち7つのうち7つのうち、小さなコンポーネントで構成された混合前のコンポーネントは、どの個々のコンポーネントよりも優れていること、そしてこれらの2つのテーブルにおいて、構造化された事前到達がデータ予算の9分の1で、一般的なランダム関数前のエラーが全予算で到達できないこと、などが示される。 モデル平均化に関する定理は、各成分で訓練されたネットワークが混合のベイズ予測器を構成することを示した。 しかし、トレーニング済みのコンポーネントネットワークを用いた平均予測器の事前登録テストは、ネットワークが生成コンポーネントを特定することはめったにないため、失敗した。 本稿では,事前データ対応ネットワークのための構造化前処理の代数に着目した研究プログラムを提案する。

関連論文リスト

• Permutation-Equivariant Flow Matching for Alignment-Free Neural Weight Generation [65.70290789922743]
  フローマッチング速度場を置換同変グラフメタネットワークでパラメータ化する。 実験により,本手法は,独立に訓練されたコレクションの精度,機能的類似度,重量類似度に関する共同統計を密接に再現することを示した。
  論文  参考訳（メタデータ） (2026-09-26T18:04:17Z)
• Data-Driven Prediction and Uncertainty Quantification of PWR Crud-Induced Power Shift Using Convolutional Neural Networks [2.147634833794939]
  Crud-induced Power Shift (CIPS) は加圧水炉の運用上の課題である。 本研究は、原子炉固有のキャリブレーションを組み込んだ組立レベルでCIPSインスタンスを予測するためのトップダウンアプローチを提案する。
  論文  参考訳（メタデータ） (2024-06-27T15:04:24Z)
• Neural Networks with Sparse Activation Induced by Large Bias: Tighter Analysis with Bias-Generalized NTK [86.45209429863858]
  ニューラル・タンジェント・カーネル(NTK)における一層ReLUネットワークのトレーニングについて検討した。 我々は、ニューラルネットワークが、テクティトビア一般化NTKと呼ばれる異なる制限カーネルを持っていることを示した。 ニューラルネットの様々な特性をこの新しいカーネルで研究する。
  論文  参考訳（メタデータ） (2023-01-01T02:11:39Z)
• Stochastic Deep Networks with Linear Competing Units for Model-Agnostic Meta-Learning [4.97235247328373]
  本研究は,LWTA(Local winner-takes-all)アクティベーションを伴うディープネットワークを考慮したメタラーニング(ML)に対処する。 このタイプのネットワークユニットは、ユニットが1つのユニットだけがゼロでない出力を生成するブロックに編成されるため、各モデルレイヤからスパース表現が生成される。 提案手法は,数ショット画像の分類と回帰実験における最先端の予測精度と,アクティブな学習環境における予測誤差の低減を実現する。
  論文  参考訳（メタデータ） (2022-08-02T16:19:54Z)
• Self-Conditioned Generative Adversarial Networks for Image Editing [61.50205580051405]
  Generative Adversarial Networks (GAN) はバイアスの影響を受けやすい。 我々は、このバイアスが公平性だけでなく、分布のコアから逸脱する際の潜在トラバース編集手法の崩壊に重要な役割を果たしていると論じる。
  論文  参考訳（メタデータ） (2022-02-08T18:08:24Z)
• Precise characterization of the prior predictive distribution of deep ReLU networks [45.46732383818331]
  ガウス重み付き有限幅ReLUネットワークの事前予測分布を正確に推定する。 この結果は,例えば,ネットワークの重みについて,深さと幅にインフォームドされた事前の予測分散を制御するなど,事前設計に関する貴重なガイダンスを提供する。
  論文  参考訳（メタデータ） (2021-06-11T21:21:52Z)
• Learning from Failure: Training Debiased Classifier from Biased Classifier [76.52804102765931]
  ニューラルネットワークは、所望の知識よりも学習が簡単である場合にのみ、素早い相関に依存することを学習していることを示す。 本稿では,一対のニューラルネットワークを同時にトレーニングすることで,障害に基づくデバイアス化手法を提案する。 本手法は,合成データセットと実世界のデータセットの両方において,各種バイアスに対するネットワークのトレーニングを大幅に改善する。
  論文  参考訳（メタデータ） (2020-07-06T07:20:29Z)
• Regression Prior Networks [14.198991969107524]
  Prior Networksは、不確実性の解釈可能な尺度を生成する、新しく開発されたモデルのクラスである。 また、Ensemble Distribution Distillation (EnD$2$)を介してモデルのアンサンブルを蒸留することもできる。 この作業は、Normal-Wishart分布を考慮し、Presideor NetworksとEnD$2$を回帰タスクに拡張する。
  論文  参考訳（メタデータ） (2020-06-20T14:50:14Z)
• Fitting the Search Space of Weight-sharing NAS with Graph Convolutional Networks [100.14670789581811]
  サンプルサブネットワークの性能に適合するグラフ畳み込みネットワークを訓練する。 この戦略により、選択された候補集合において、より高いランク相関係数が得られる。
  論文  参考訳（メタデータ） (2020-04-17T19:12:39Z)
• Learn to Predict Sets Using Feed-Forward Neural Networks [63.91494644881925]
  本稿では、ディープフィードフォワードニューラルネットワークを用いた設定予測の課題に対処する。 未知の置換と基数を持つ集合を予測するための新しい手法を提案する。 関連視覚問題に対する集合定式化の有効性を実証する。
  論文  参考訳（メタデータ） (2020-01-30T01:52:07Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。