論文の概要: BiJEPA: Bi-directional Joint Embedding Predictive Architecture for Symmetric Representation Learning

• arxiv url: http://arxiv.org/abs/2603.00049v1
• Date: Tue, 10 Feb 2026 01:16:20 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-03-09 01:20:07.997876
• Title: BiJEPA: Bi-directional Joint Embedding Predictive Architecture for Symmetric Representation Learning
• Title（参考訳）: BiJEPA:対称表現学習のための双方向共同埋め込み予測アーキテクチャ
• Abstract要約: BiJEPAは、データセグメント間のサイクル一貫性予測を強制する。 合成周期信号,カオス的ロレンツ誘導軌道,高次元画像データという3つの異なるモードでBiJEPAを評価した。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Self-Supervised Learning (SSL) has shifted from pixel-level reconstruction to latent space prediction, spearheaded by the Joint Embedding Predictive Architecture (JEPA). While effective, standard JEPA models typically rely on a uni-directional prediction mechanism (e.g. Context $\to$ Target), potentially neglecting the informative signal inherent in the inverse relationship, degrading its performance. In this work, we propose \textbf{BiJEPA}, a \textit{Bi-Directional Joint Embedding Predictive Architecture} that enforces cycle-consistent predictability between data segments. We address the inherent instability of symmetric prediction (representation explosion) by introducing a critical norm regularization mechanism on the representation vectors. We evaluate BiJEPA on three distinct modalities: synthetic periodic signals, chaotic Lorenz attractor trajectories, and high-dimensional image data (MNIST). Our results demonstrate that BiJEPA achieves stable convergence without collapse, captures the semantic structure of chaotic systems, and learns robust temporal and spatial representations capable of generation and generalisation, offering a more holistic approach to representation learning.
• Abstract（参考訳）: SSL (Self-Supervised Learning) は、JEPA (Joint Embedding Predictive Architecture) に先駆けて、ピクセルレベルの再構築から潜時空間予測へと移行した。 有効ではあるが、標準JEPAモデルは典型的には一方向予測機構(例えばContext $\to$ Target)に依存しており、逆関係に固有の情報信号を無視し、性能を低下させる可能性がある。 本稿では,データセグメント間のサイクル一貫性の予測性を強制する,‘textbf{BiJEPA}’という,‘textit{Bi-Directional Joint Embedding Predictive Architecture’を提案する。 我々は、表現ベクトルに臨界ノルム正規化機構を導入することにより、対称予測(表現爆発)の固有の不安定性に対処する。 合成周期信号,カオス的ロレンツ誘導軌道,高次元画像データ(MNIST)の3つの異なるモードでBiJEPAを評価した。 以上の結果から,BiJEPAは崩壊することなく安定した収束を実現し,カオスシステムのセマンティック構造を捉えるとともに,生成と一般化が可能な頑健な時間的・空間的表現を学習し,表現学習に対するより包括的なアプローチを提供する。

関連論文リスト

• Orthogonal JEPA: Factorized Predictive States for Latent World Models [95.20158869896393]
  予測因数分解に基づく潜在的世界モデリングフレームワークであるメソッドを導入する。 そこで本研究では,予測構造を弱め,あるいは矛盾する勾配を抑えつつ,冗長なキャパシティを支配的信号に割り当てる手法を提案する。 制御された視覚、単細胞転写学、縦断的な健康記録、連続的な制御、分子動力学の実験は、表現品質、予測、計画、長期安定性を評価する。
  論文  参考訳（メタデータ） (2026-08-20T13:59:57Z)
• APO: Unsupervised Atomic Policy Optimization for 3D Structure Prediction of Atomic Systems [64.56252173115246]
  そこで本研究では, 基幹構造を不要とした非教師なしアライメントフレームワーク(Atomic Policy Optimization)を提案する。 APOは、新しい二重回帰機構を利用して、3次元原子環境にグループ相対的なポリシー最適化を適用する。 この結果から,本質的な物理的整合性は,ノイズや教師付き座標マッチングよりも優れたアライメントのガイドとなる可能性が示唆された。
  論文  参考訳（メタデータ） (2026-07-30T17:21:58Z)
• HQ-JEPA: Hybrid Quantum Joint-Embedding Predictive Architecture for Cross-Modal Remote Sensing Representation Learning [17.65267962254814]
  HQ-JEPAは、クロスモーダルリモートセンシング表現学習のためのハイブリッド量子古典型共同埋め込み予測アーキテクチャである。 その結果、HQ-JEPAは、強力な自己監視・リモートセンシング基盤モデルベースラインよりも、競争力があり、しばしば優れた性能を発揮することがわかった。
  論文  参考訳（メタデータ） (2026-05-29T09:37:35Z)
• Hierarchical Consistency Learning for Test-time Adaptation in Camouflage Perception [50.278200968044665]
  カモフラージュされた物体検出(COD)は、物理的属性を通して背景から最小限の知覚差を示すターゲットをローカライズすることを目的としている。 既存のメソッドは、静的なTrain-then-freezeパラダイムによって制約されており、ドメインの剛性と依存性のアノテーションに悩まされている。 動的表現再構成のためのテスト時間適応を統合した階層的一貫性学習フレームワークを提案する。
  論文  参考訳（メタデータ） (2026-05-25T09:57:46Z)
• Beyond Point-Wise Matching: Structural Representation Alignment for Accelerating Diffusion Transformers [93.3976834364707]
  本稿では,特徴写像のリレーショナル幾何における整合性を実現する構造的RePresentation AlignmentフレームワークであるsREPAを提案する。 モデルが事前訓練された特徴から全体的空間配置と構造的相関を内包するように促すことにより、sREPAはより高速でより安定した収束を達成する。
  論文  参考訳（メタデータ） (2026-05-16T12:01:04Z)
• Curvature-Aware PCA with Geodesic Tangent Space Aggregation for Semi-Supervised Learning [52.452902154360565]
  GTSA-PCAは主成分分析の幾何学的拡張である。 曲率認識と測地的整合性を統合されたスペクトルフレームワークに統合する。 以上の結果から,GTSA-PCAは次元減少に対する統計的および幾何学的アプローチの原則的ブリッジとして位置づけられた。
  論文  参考訳（メタデータ） (2026-04-20T20:36:36Z)
• Var-JEPA: A Variational Formulation of the Joint-Embedding Predictive Architecture -- Bridging Predictive and Generative Self-Supervised Learning [2.1127261244588156]
  JEPA(Joint-Embedding Predictive Architecture)は、確率に基づく自己教師型学習の非生成的代替と見なされることが多い。 我々は、標準のJEPA設計、コンテクスト・ツー・ターゲット予測器との結合エンコーダは、変分後部と学習条件前部を反映すると主張している。 Var-JEPAは、単一のエビデンス下界を最適化することにより、潜伏する遺伝子構造を明示する。
  論文  参考訳（メタデータ） (2026-03-20T16:36:29Z)
• Invariance on Manifolds: Understanding Robust Visual Representations for Place Recognition [19.200074425090595]
  本稿では,2次幾何統計フレームワークを提案する。 提案手法では、固定されたトレーニング済みのバックボーン上に構築されたトレーニング不要のフレームワークを導入し、パラメータ更新なしで強力なゼロショット一般化を実現する。
  論文  参考訳（メタデータ） (2026-01-31T18:12:29Z)
• VJEPA: Variational Joint Embedding Predictive Architectures as Probabilistic World Models [0.0]
  EmphVariational JEPA (VJEPA) はテキスト確率論的な一般化であり、変動目的を通して将来の潜伏状態の予測分布を学習する。 VJEPA表現は、画素再構成なしで最適な制御のための十分な情報状態として機能し、崩壊回避の正式な保証を提供する。 我々は、予測的信念を学習力学の専門家とモジュラー事前専門家に分解する拡張であるEmphBayesian JEPA (BJEPA)を提案する。
  論文  参考訳（メタデータ） (2026-01-20T18:04:16Z)
• LeJEPA: Provable and Scalable Self-Supervised Learning Without the Heuristics [53.247652209132376]
  JEPA(Joint-Embedding Predictive Architectures)は、有望な青写真を提供するが、実践的なガイダンスや理論の欠如がアドホックな研究開発につながっている。 我々はJEPAの包括的な理論を示し、それをbf LeJEPAでインスタンス化する。
  論文  参考訳（メタデータ） (2025-11-11T18:21:55Z)
• ACT-JEPA: Novel Joint-Embedding Predictive Architecture for Efficient Policy Representation Learning [90.41852663775086]
  ACT-JEPAは模倣学習と自己教師型学習を統合する新しいアーキテクチャである。 我々はアクションシーケンスと抽象的な観察シーケンスを予測するポリシーを訓練する。 実験の結果,ACT-JEPAは時間環境の動的学習によって表現の質を向上させることがわかった。
  論文  参考訳（メタデータ） (2025-01-24T16:41:41Z)
• Graph-level Representation Learning with Joint-Embedding Predictive Architectures [43.89120279424267]
  JEPA(Joint-Embedding Predictive Architectures)は、自己指導型表現学習の斬新で強力な技術である。 グラフ結合埋め込み予測アーキテクチャ(Graph-JEPA)を提案することにより、このパラダイムを用いてグラフレベルの表現を効果的にモデル化できることを示す。 特に、マスク付きモデリングを採用し、コンテキストサブグラフの潜時表現から始まるマスク付きサブグラフの潜時表現を予測することに焦点をあてる。
  論文  参考訳（メタデータ） (2023-09-27T20:42:02Z)
• DR-Label: Improving GNN Models for Catalysis Systems by Label Deconstruction and Reconstruction [72.20024514713633]
  本稿では,新しいグラフニューラルネットワーク(GNN)と予測戦略DR-Labelを提案する。 この戦略は、監視信号を強化し、エッジ表現における解の多重度を低減し、ノード予測を堅牢にすることを促す。 DR-Labelは3つの根本的に異なるモデルに適用され、それぞれが一貫した性能向上を示した。
  論文  参考訳（メタデータ） (2023-03-06T04:01:28Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。