論文の概要: LeWorldModel: Stable End-to-End Joint-Embedding Predictive Architecture from Pixels

• arxiv url: http://arxiv.org/abs/2603.19312v1
• Date: Fri, 13 Mar 2026 19:48:14 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-03-23 19:48:38.778725
• Title: LeWorldModel: Stable End-to-End Joint-Embedding Predictive Architecture from Pixels
• Title（参考訳）: LeWorldModel: 安定なエンドツーエンドのジョイント埋め込み予測アーキテクチャ
• Authors: Lucas Maes, Quentin Le Lidec, Damien Scieur, Yann LeCun, Randall Balestriero,
• Abstract要約: JEPA(Joint Embedding Predictive Architectures)は、コンパクトな潜在空間で世界モデルを学習するための魅力的なフレームワークを提供する。 最初のJEPAであるLeModelWorldを紹介します。 数時間で1つのGPU上で15万のパラメータをトレーニングできるため、LeWMはファンデーションモデルベースの世界モデルよりも48倍高速に計画している。
• 参考スコア（独自算出の注目度）: 49.35636088613484
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Joint Embedding Predictive Architectures (JEPAs) offer a compelling framework for learning world models in compact latent spaces, yet existing methods remain fragile, relying on complex multi-term losses, exponential moving averages, pre-trained encoders, or auxiliary supervision to avoid representation collapse. In this work, we introduce LeWorldModel (LeWM), the first JEPA that trains stably end-to-end from raw pixels using only two loss terms: a next-embedding prediction loss and a regularizer enforcing Gaussian-distributed latent embeddings. This reduces tunable loss hyperparameters from six to one compared to the only existing end-to-end alternative. With ~15M parameters trainable on a single GPU in a few hours, LeWM plans up to 48x faster than foundation-model-based world models while remaining competitive across diverse 2D and 3D control tasks. Beyond control, we show that LeWM's latent space encodes meaningful physical structure through probing of physical quantities. Surprise evaluation confirms that the model reliably detects physically implausible events.
• Abstract（参考訳）: JEPA(Joint Embedding Predictive Architectures)は、コンパクトな潜在空間で世界モデルを学習するための魅力的なフレームワークを提供するが、既存の手法は脆弱であり、複雑な多期間の損失、指数的な移動平均、事前訓練されたエンコーダ、あるいは表現の崩壊を避けるための補助的な監督に依存している。 本稿では,LeWorldModel(LeWM)について紹介する。このJEPAは,2つの損失項(次埋め込みの予測損失と,ガウス分布の遅延埋め込みを強制する正規化器)を用いて,生画素から終端まで安定的にトレーニングする最初のJEPAである。 これにより、調整可能な損失ハイパーパラメータが6から1に削減される。 数時間で1つのGPUで15万のパラメータをトレーニングできるため、LeWMはファンデーションモデルベースの世界モデルよりも最大48倍速く、多様な2Dおよび3Dコントロールタスクで競争力を維持する。 制御以外にも、LeWMの潜伏空間は物理量の探索を通じて意味のある物理的構造を符号化していることを示す。 サプライズ評価は、このモデルが物理的に不可解な事象を確実に検出することを確認する。

関連論文リスト

• Infinite-World: Scaling Interactive World Models to 1000-Frame Horizons via Pose-Free Hierarchical Memory [101.2076718776139]
  複雑な実環境において,1000フレーム以上のコヒーレントな視覚記憶を維持することのできる,堅牢な対話型世界モデルを提案する。 我々は,歴史的潜水剤を固定予算の幾何学的表現に蒸留するpose-free Memory (HPMC)を導入する。 また,連続動作を三状態論理に識別する不確実性認識型アクションラベルモジュールを提案する。
  論文  参考訳（メタデータ） (2026-02-02T17:52:56Z)
• Forward Consistency Learning with Gated Context Aggregation for Video Anomaly Detection [17.79982215633934]
  ビデオ異常検出(VAD)は、リアルタイム監視システムにおける各種イベントの正常パターンからの偏差を測定することを目的としている。 既存のVAD手法の多くは、リソース制限されたエッジデバイスへの実現可能性を制限するため、極端な精度を追求するために大規模なモデルに依存している。 本稿では,Gatedコンテキストアグリゲーションを用いたフォワード整合学習を実現する軽量なVADモデルFoGAを紹介する。
  論文  参考訳（メタデータ） (2026-01-26T04:35:31Z)
• THOR: A Versatile Foundation Model for Earth Observation Climate and Society Applications [9.852915112122567]
  THOR は入力の不均一性とデプロイメントの剛性の両方を解決する "Computeadaptive" 基盤モデルである。 我々は、新しいランダム化パッチと入力画像サイズ戦略を用いて、THORを事前訓練する。 これにより、どんなパッチサイズでも推論してトレーニング済みの重みのセットをデプロイすることが可能になり、再トレーニングせずに計算コストと特徴解決の間の動的なトレードオフが可能になる。
  論文  参考訳（メタデータ） (2026-01-22T14:38:00Z)
• MERGETUNE: Continued fine-tuning of vision-language models [77.8627788911249]
  微調整視覚言語モデル(VLM)は、しばしば事前訓練された知識を破滅的に忘れてしまう。 ゼロショットモデルに適応した後に事前学習した知識を回復するための新しいパラダイムである連続微調整(CFT)を導入する。
  論文  参考訳（メタデータ） (2026-01-15T15:15:53Z)
• Agentic World Modeling for 6G: Near-Real-Time Generative State-Space Reasoning [70.56067503630486]
  第6世代(6G)インテリジェンスは、流動的なトークン予測ではなく、想像と選択の能力を校正している、と我々は主張する。 We showed that WM-MS3M cuts mean absolute error (MAE) by 1.69% vs MS3M with 32% less parameters and similar latency, and achieve a 35-80% lower root mean squared error (RMSE) than attention/hybrid baselines with 2.3-4.1x faster inference。
  論文  参考訳（メタデータ） (2025-11-04T17:22:22Z)
• CompGS++: Compressed Gaussian Splatting for Static and Dynamic Scene Representation [60.712165339762116]
  CompGS++はコンパクトガウスプリミティブを活用して正確な3Dモデリングを実現する新しいフレームワークである。 私たちの設計は、プリミティブ間の冗長性をなくすという原則に基づいている。 私たちの実装は、さらなる研究を促進するためにGitHubで公開されます。
  論文  参考訳（メタデータ） (2025-04-17T15:33:01Z)
• COST-EFF: Collaborative Optimization of Spatial and Temporal Efficiency with Slenderized Multi-exit Language Models [16.586312156966635]
  トランスフォーマーベースの事前訓練言語モデル(PLM)は、高い能力にもかかわらず過度のオーバーヘッドに悩まされている。 既存の静的圧縮モデルは、入力インスタンス間の様々な複雑さに気づいていない。 静的モデル圧縮と動的推論アクセラレーションを統合したPLMの協調最適化を提案する。
  論文  参考訳（メタデータ） (2022-10-27T15:06:40Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。