論文の概要: LimiX-2: A Contextual Mechanism Network Towards General Structured-Data Intelligence
- arxiv url: http://arxiv.org/abs/2609.17488v1
- Date: Tue, 15 Sep 2026 17:30:02 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-16 14:56:08.637586
- Title: LimiX-2: A Contextual Mechanism Network Towards General Structured-Data Intelligence
- Title(参考訳): LimiX-2:汎用構造化データインテリジェンスに向けたコンテキストメカニズムネットワーク
- Abstract要約: LimiX-2は、以前に確立されたスケーリング法則によって導かれるモデルとデータスケーリングによって開発されている。
LimiX-2はコンテキストメカニズムネットワーク(CMN)パラダイムを採用し、コンテキスト・コンディション・マスケッド・モデリング(CCMM)で事前訓練されている。
CCMMは、コンテキスト内学習の組織的原則を目標中心の予測からメカニズム指向の関節モデリングにシフトさせる。
- 参考スコア(独自算出の注目度): 54.21298601916397
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We introduce LimiX-2, a new model in the LimiX family, developed through model and data scaling guided by our previously established scaling laws. LimiX-2 adopts the Contextual Mechanism Networks (CMNs) paradigm and is pretrained with Context-Conditional Masked Modeling (CCMM). CMNs shifts the organizing principle of in-context learning from target-centric prediction to mechanism-oriented joint modeling. Rather than centering the network on the $p(y \mid x, D_{\mathrm{context}})$ objective of conventional tabular PFNs, it is designed around learning $p(x, y \mid D_{\mathrm{context}})$, a context-dependent representation of the joint structure underlying data generation. Pretraining uses synthetic datasets generated by structural causal models (SCMs) spanning diverse graph structures, functional mechanisms, and observation processes. Evaluations on TabArena, TALENT, and BCCO show that LimiX-2 outperforms current dataset-specific models and tabular foundation models. Beyond predictive performance, the CMN paradigm also promotes causal awareness in LimiX-2: its feature attention encodes direct causal relationships, enabling accurate causal skeleton recovery.
- Abstract(参考訳): リミXファミリーの新しいモデルであるLimiX-2を紹介する。
LimiX-2 は Contextual Mechanism Networks (CMNs) パラダイムを採用し、 Context-Conditional Masked Modeling (CCMM) で事前訓練されている。
CMNは、コンテキスト内学習の組織的原則を目標中心の予測からメカニズム指向の関節モデリングにシフトさせる。
従来の表形式のPFNの目的である$p(y \mid x, D_{\mathrm{context}})$にネットワークを集中させるのではなく、$p(x, y \mid D_{\mathrm{context}})$を学習するために設計されている。
Pretrainingは、さまざまなグラフ構造、機能メカニズム、観察プロセスにまたがる構造因果モデル(SCM)によって生成された合成データセットを使用する。
TabArena、TALENT、BCCOの評価は、LimiX-2が現在のデータセット固有のモデルと表層基盤モデルより優れていることを示している。
CMNパラダイムは、予測性能以外にも、LimiX-2における因果認識を促進する。
関連論文リスト
- Complementary Characterization of Agent-Based Models via Computational Mechanics and Diffusion Models [0.0]
本稿ではエージェントベースモデル(ABM)の出力を特徴付けるための計算および補完ツールとして拡散モデルを紹介する。
本稿では,2つの手法が異なる数学的領域で動作することを示す公式解析を行う。
これはABM出力の構造解析のためのスコアベース生成モデルと計算力学を統合する最初のフレームワークである。
論文 参考訳(メタデータ) (2025-12-04T13:14:49Z) - LimiX: Unleashing Structured-Data Modeling Capability for Generalist Intelligence [61.46575527504109]
LimiX-16MとLimiX-2Mは、構造化されたデータを変数と欠落に対する共同分布として扱う。
サンプルサイズ,特徴次元,クラス数,カテゴリ間特徴比,欠落度,サンプル-特徴比の広い11種類の大規模構造化データベンチマークを対象としたLimiXモデルの評価を行った。
論文 参考訳(メタデータ) (2025-09-03T17:39:08Z) - Learning Identifiable Structures Helps Avoid Bias in DNN-based Supervised Causal Learning [56.22841701016295]
Supervised Causal Learning (SCL)はこの分野で新興パラダイムである。
既存のディープニューラルネットワーク(DNN)ベースの手法では、"Node-Edgeアプローチ"が一般的である。
論文 参考訳(メタデータ) (2025-02-15T19:10:35Z) - A Fixed-Point Approach for Causal Generative Modeling [20.88890689294816]
本稿では,構造因果モデル(Structure Causal Models, SCM)を因果順序付き変数の固定点問題として記述する新しい形式論を提案する。
トポロジカル順序付け(TO)を考えると,その特異な回復のために最も弱い既知の条件を確立する。
論文 参考訳(メタデータ) (2024-04-10T12:29:05Z) - Sample Complexity Characterization for Linear Contextual MDPs [67.79455646673762]
文脈決定プロセス(CMDP)は、遷移カーネルと報酬関数がコンテキスト変数によってインデックス付けされた異なるMDPで時間とともに変化できる強化学習のクラスを記述する。
CMDPは、時間とともに変化する環境で多くの現実世界のアプリケーションをモデル化するための重要なフレームワークとして機能する。
CMDPを2つの線形関数近似モデルで検討する: 文脈変化表現とすべての文脈に対する共通線形重み付きモデルIと、すべての文脈に対する共通表現と文脈変化線形重み付きモデルIIである。
論文 参考訳(メタデータ) (2024-02-05T03:25:04Z) - Deep incremental learning models for financial temporal tabular datasets
with distribution shifts [0.9790236766474201]
このフレームワークは、単純な基本的なビルディングブロック(決定木)を使用して、必要な複雑さの自己相似モデルを構築する。
我々は,NumeraiデータセットでトレーニングしたXGBoostモデルを用いて提案手法を実証し,異なるモデルスナップショット上での2層のXGBoostモデルの深部アンサンブルが高品質な予測を提供することを示す。
論文 参考訳(メタデータ) (2023-03-14T14:10:37Z) - On the Generalization and Adaption Performance of Causal Models [99.64022680811281]
異なる因果発見は、データ生成プロセスを一連のモジュールに分解するために提案されている。
このようなモジュラニューラル因果モデルの一般化と適応性能について検討する。
我々の分析では、モジュラーニューラル因果モデルが、低データレギュレーションにおけるゼロおよび少数ショットの適応において、他のモデルよりも優れていることを示している。
論文 参考訳(メタデータ) (2022-06-09T17:12:32Z) - XCM: An Explainable Convolutional Neural Network for Multivariate Time
Series Classification [64.41621835517189]
MTS分類のためのeXplainable Convolutional Neural NetworkであるXCMを提案する。
XCMは、新しいコンパクト畳み込みニューラルネットワークであり、入力データから直接、観測された変数と時間に関する情報を抽出する。
最初に、XCMは、大小のパブリックUEAデータセットにおいて最先端のMSS分類器よりも優れていることを示す。
論文 参考訳(メタデータ) (2020-09-10T11:55:53Z) - Struct-MMSB: Mixed Membership Stochastic Blockmodels with Interpretable
Structured Priors [13.712395104755783]
混合メンバシップブロックモデル(MMSB)は、コミュニティ検出とネットワーク生成のための一般的なフレームワークである。
最近開発された統計リレーショナル学習モデルであるヒンジロスマルコフ確率場(HL-MRF)を用いた柔軟なMMSBモデル、textitStruct-MMSBを提案する。
我々のモデルは、観測された特徴と会員分布の複雑な組み合わせとして符号化された有意義な潜伏変数を用いて、実世界のネットワークにおける潜伏特性を学習することができる。
論文 参考訳(メタデータ) (2020-02-21T19:32:32Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。