論文の概要: CogFormer: Learn All Your Models Once

• arxiv url: http://arxiv.org/abs/2603.20520v1
• Date: Fri, 20 Mar 2026 21:39:41 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-03-24 19:11:38.948982
• Title: CogFormer: Learn All Your Models Once
• Title（参考訳）: CogFormer: すべてのモデルを一度に学ぶ
• Authors: Jerry M. Huang, Lukas Schumacher, Niek Stevenson, Stefan T. Radev,
• Abstract要約: 我々はCogFormerと呼ばれる認知モデリングのためのメタアモタイズフレームワークを開発した。 我々のフレームワークは、多くの構造的に類似したモデルで有効であるトランスフォーマーベースのアーキテクチャをトレーニングしています。 我々の評価は、最小限のオフセットでモデルファミリ間でパラメータを正確に推定できることを示唆している。
• 参考スコア（独自算出の注目度）: 2.3012481139364116
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Simulation-based inference (SBI) with neural networks has accelerated and transformed cognitive modeling workflows. SBI enables modelers to fit complex models that were previously difficult or impossible to estimate, while also allowing rapid estimation across large numbers of datasets. However, the utility of SBI for iterating over varying modeling assumptions remains limited: changing parameterizations, generative functions, priors, and design variables all necessitate model retraining and hence diminish the benefits of amortization. To address these issues, we pilot a meta-amortized framework for cognitive modeling which we nickname the CogFormer. Our framework trains a transformer-based architecture that remains valid across a combinatorial number of structurally similar models, allowing for changing data types, parameters, design matrices, and sample sizes. We present promising quantitative results across families of decision-making models for binary, multi-alternative, and continuous responses. Our evaluation suggests that CogFormer can accurately estimate parameters across model families with a minimal amortization offset, making it a potentially powerful engine that catalyzes cognitive modeling workflows.
• Abstract（参考訳）: ニューラルネットワークを用いたシミュレーションベース推論(SBI)は、認知モデリングワークフローを加速し、変換している。 SBIにより、以前は推定が困難だったり不可能だった複雑なモデルにモデリングが適合すると同時に、大量のデータセットをまたいだ迅速な推定が可能になる。 しかしながら, パラメータ化, 生成関数, 先行変数, 設計変数の変更は, モデルの再訓練を必要とするため, 償却のメリットを減少させる。 これらの問題に対処するため、認知モデリングのためのメタアモタイズされたフレームワークをテストし、それをCogFormerと呼ぶ。 我々のフレームワークは、データタイプ、パラメータ、設計行列、サンプルサイズの変更を可能にする、構造的に類似したモデルの組合せ数で有効であるトランスフォーマーベースのアーキテクチャをトレーニングします。 本稿では,二分数,多変量,連続応答の意思決定モデル群間で有望な定量的結果を示す。 我々の評価は、CogFormerが最小の償却オフセットでモデルファミリ間でパラメータを正確に推定できることを示唆し、認知モデリングワークフローを触媒する潜在的に強力なエンジンである可能性を示唆している。

関連論文リスト

• Meta-probabilistic Modeling [36.339664748241944]
  複数の関連するデータセットから生成モデル構造を直接学習するメタ確率モデリング(MPM)を提案する。 学習と推論のために、抽出可能なVAEにインスパイアされたサロゲートの目的を提案し、双方向の最適化により最適化する。 我々は、オブジェクト中心の画像モデリングとシーケンシャルテキストモデリングでMPMを評価し、有意義な潜在表現を復元しながら、生成モデルをデータに適応させることを実証した。
  論文  参考訳（メタデータ） (2026-01-08T00:34:06Z)
• Modèles de Substitution pour les Modèles à base d'Agents : Enjeux, Méthodes et Applications [0.0]
  エージェントベースモデル(ABM)は、局所的な相互作用から生じる創発的な現象を研究するために広く用いられている。 ABMの複雑さは、リアルタイム意思決定と大規模シナリオ分析の可能性を制限する。 これらの制限に対処するため、サロゲートモデルはスパースシミュレーションデータから近似を学習することで効率的な代替手段を提供する。
  論文  参考訳（メタデータ） (2025-05-17T08:55:33Z)
• Model Assembly Learning with Heterogeneous Layer Weight Merging [57.8462476398611]
  モデル統合のための新しいパラダイムであるモデルアセンブリ学習(MAL)を紹介する。 MALは、様々なモデルのパラメータをオープンエンドモデル動物園に統合し、ベースモデルの能力を高める。
  論文  参考訳（メタデータ） (2025-03-27T16:21:53Z)
• Generalized Factor Neural Network Model for High-dimensional Regression [50.554377879576066]
  複素・非線形・雑音に隠れた潜在低次元構造を持つ高次元データセットをモデル化する課題に取り組む。 我々のアプローチは、非パラメトリック回帰、因子モデル、高次元回帰のためのニューラルネットワークの概念のシームレスな統合を可能にする。
  論文  参考訳（メタデータ） (2025-02-16T23:13:55Z)
• Scaling Pre-trained Language Models to Deeper via Parameter-efficient Architecture [68.13678918660872]
  行列積演算子(MPO)に基づくより有能なパラメータ共有アーキテクチャを設計する。 MPO分解はパラメータ行列の情報を再編成し、2つの部分に分解することができる。 私たちのアーキテクチャは、モデルのサイズを減らすために、すべてのレイヤで中央テンソルを共有しています。
  論文  参考訳（メタデータ） (2023-03-27T02:34:09Z)
• Surrogate Modeling for Physical Systems with Preserved Properties and Adjustable Tradeoffs [0.0]
  代理モデルを生成するためのモデルベースおよびデータ駆動型戦略を提案する。 後者は、前提となる位相構造に人工的関係を組み込むことで解釈可能な代理モデルを生成する。 我々のフレームワークは、分散パラメータモデルのための様々な空間離散化スキームと互換性がある。
  論文  参考訳（メタデータ） (2022-02-02T17:07:02Z)
• Improving the Reconstruction of Disentangled Representation Learners via Multi-Stage Modeling [54.94763543386523]
  現在の自己エンコーダに基づく非絡み合い表現学習法は、(集合体)後部をペナルティ化し、潜伏因子の統計的独立を促進することで、非絡み合いを実現する。 本稿では,不整合因子をペナルティに基づく不整合表現学習法を用いて学習する,新しい多段階モデリング手法を提案する。 次に、低品質な再構成を、欠落した関連潜伏変数をモデル化するために訓練された別の深層生成モデルで改善する。
  論文  参考訳（メタデータ） (2020-10-25T18:51:15Z)
• Amortized Bayesian model comparison with evidential deep learning [0.12314765641075436]
  本稿では,専門的なディープラーニングアーキテクチャを用いたベイズモデルの比較手法を提案する。 提案手法は純粋にシミュレーションベースであり,観測された各データセットに対して,すべての代替モデルを明示的に適合させるステップを回避している。 提案手法は,本研究で検討した事例に対して,精度,キャリブレーション,効率の点で優れた結果が得られることを示す。
  論文  参考訳（メタデータ） (2020-04-22T15:15:46Z)
• Predicting Multidimensional Data via Tensor Learning [0.0]
  本研究では,本データセットの内在的多次元構造を保持するモデルを開発する。 モデルパラメータを推定するために、オルタネート・リースト・スクエアスアルゴリズムを開発した。 提案モデルは,予測文献に存在するベンチマークモデルより優れている。
  論文  参考訳（メタデータ） (2020-02-11T11:57:07Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。