論文の概要: One Future, Every Robot: Label-Efficient Collective-State Prediction with Decentralized JEPA
- arxiv url: http://arxiv.org/abs/2607.28443v2
- Date: Fri, 31 Jul 2026 10:57:02 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-03 14:29:40.34982
- Title: One Future, Every Robot: Label-Efficient Collective-State Prediction with Decentralized JEPA
- Title(参考訳): 未来のロボット: 分散JEPAによるラベル効率の良い集合状態予測
- Authors: Alan-Barsag Gazzaev, Alexey Gavrilov, Sergey Muravyov,
- Abstract要約: 予測アーキテクチャであるCollective-State JEPAを紹介します。
それぞれのロボットは、16フレームのローカル履歴と1つの64フロートリカレントメッセージを使用する。
予見的に登録された5シードのフォローアップは、予測エラーとロボット間ラベル予算AUCを改善する。
封印された8シードのアクション条件付きフォローアップは、分岐値MSEを45.5%削減し、コンテキスト内候補スコア相関を0.1291改善する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Can every robot in a swarm predict the same future collective state from only local observations and bandwidth-limited messages? We formulate this as decentralized shared-state prediction and introduce Collective-State JEPA (CS-JEPA), a recurrent joint-embedding predictive architecture whose output at every robot represents one common future token field. At deployment, each robot uses a 16-frame local history and one 64-float recurrent message per directed edge; there is no global pooling, target encoder, episode clock, or recorded future action. After pretraining without downstream collective labels, frozen representations are evaluated with ridge probes fitted on 6, 12, or 24 globally labeled episodes. Against raw-future reconstruction with the same receiver anchor and deployment capacity but 9,607 additional training-only parameters, a prospectively registered five-seed follow-up improves prediction-error and inter-robot-agreement label-budget AUC on in-distribution, ring, mutual-kNN, and unseen-size families up to 108 robots. Every effect favors CS-JEPA in 5/5 outer seeds. A sealed eight-seed action-conditioned follow-up reduces branch-value MSE by 45.5% and improves within-context candidate-score correlation by 0.1291. In a separate 16-seed fully decentralized closed-loop study, receiver-local CS-JEPA planning improves utility over nominal control ($Δ= +0.01053$, $p = 0.00070$) and first plan-coefficient agreement over matched reconstruction ($Δ= +0.14472$, $p = 0.000061$). These results support common-future JEPA targets as a label-efficient primitive for decentralized swarm prediction under topology and size shift, with additional evidence of planning-relevant value estimation and closed-loop decision consistency.
- Abstract(参考訳): Swarm内のすべてのロボットは、ローカルな観測と帯域幅制限されたメッセージのみから、同じ未来の集合状態を予測できますか?
我々はこれを分散共有状態予測として定式化し、各ロボットにおける出力が1つの共通未来のトークンフィールドを表す連続的な共同埋め込み予測アーキテクチャであるCS-JEPA(Collective-State JEPA)を導入する。
デプロイでは、各ロボットは16フレームのローカル履歴と64フローのリカレントメッセージを使用しており、グローバルプール、ターゲットエンコーダ、エピソードクロック、記録された将来のアクションはない。
下流の集合ラベルを使わずに事前トレーニングを行った後,グローバルラベル付きエピソード6,12,24に装着したリッジプローブを用いて凍結表現を評価した。
同じ受信機アンカーと展開能力を持つ9,607個の追加の訓練専用パラメータによる原型再構築に対して、予測エラーとロボット間アグリメントラベル予算AUCを最大108台のロボットで改善する。
すべての効果はCS-JEPAを5/5外種子で好んでいる。
封印された8シードのアクション条件付きフォローアップは、分岐値MSEを45.5%削減し、コンテキスト内候補スコア相関を0.1291改善する。
16-seed fully decentralized closed-loop studyでは、レシーバローカルCS-JEPAプランは、名目制御よりも実用性(Δ=+0.01053$, $p = 0.00070$)が向上し、マッチした再構成に対する最初のプラン係数合意(Δ=+0.14472$, $p = 0.000061$)が達成される。
これらの結果は、トポロジとサイズシフトの下での分散Swarm予測のためのラベル効率のよいプリミティブとして、共通未来JEPAターゲットをサポートし、計画関連値推定とクローズドループ決定整合性のさらなる証拠を提供する。
関連論文リスト
- A Framework for Early Sepsis Prediction via Self-Supervised (JEPA) and Federated Representation Learning [0.0]
電子健康記録からの早期敗血症予測は、不規則なサンプリング、高い欠失、および階級不均衡によって挑戦される。
タスク認識型微調整による自己指導型事前学習は,予測地平線を横断するシャープな近点とロバストな特徴を持つことを示す。
論文 参考訳(メタデータ) (2026-07-18T07:27:04Z) - TAP-JEPA: Frozen Future-Latent Probing and Two-Stage Score Fusion for EPIC-KITCHENS-100 Action Anticipation [4.781417767575192]
本報告では,EgoVis 2026におけるEPIC-KITCHENS-100(EK-100)アクション予測チャレンジの受注であるTAP-JEPAについて述べる。
タスクは、次の動詞、名詞、動詞のアクションを、目的のアクションが始まる前に終わるエゴセントリックなクリップから予測することである。
大規模なビデオバックボーンを微調整する代わりに、TAP-JEPAは凍結したV-JEPA 2.1の機能でコンパクトな予測モデルを構築する。
論文 参考訳(メタデータ) (2026-05-30T10:23:12Z) - UWM-JEPA: Predictive World Models That Imagine in Belief Space [0.2864713389096699]
本稿では,JEPAの世界モデルであるUnitary World Model JEPAを紹介した。
この構造はロールアウト中に関節状態スペクトルを正確に保存するため、予測器自体が表現された不確かさを解消することはできない。
JEPAの世界モデルでは、部分的な可観測性、潜伏幾何学、予測力学が重要であり、フリーズされたコンテキストエンコーディング能力だけではありません。
論文 参考訳(メタデータ) (2026-05-25T00:28:51Z) - Amplifying, Not Learning: Fine-Tuned AI Text Detectors Amplify a Pretrained Direction [51.56484100374058]
テキスト検出器は、事前訓練された典型軸を増幅する。
タスク監督前の生エンコーダでは、3つのアーキテクチャでNYT-vs-HC3 AUROC 0.806/0.944/0.834を達成する。
RoBERTaベースでは、生のプロジェクションは微調整を超えるが、RoBERTaベースでは、フル微調整は、試験された流線型人口の双方で生よりも識別を小さくする。
論文 参考訳(メタデータ) (2026-05-20T19:08:38Z) - Clin-JEPA: A Multi-Phase Co-Training Framework for Joint-Embedding Predictive Pretraining on EHR Patient Trajectories [7.992399976910451]
Clin-JEPAは、HR患者軌道上での予測(JEPA)事前トレーニングのための多相コトレーニングフレームワークである。
MIMIC-IV ICUデータでは、3つの独立した評価がフレームワークをサポートしている。
論文 参考訳(メタデータ) (2026-05-11T16:54:23Z) - LeJEPA: Provable and Scalable Self-Supervised Learning Without the Heuristics [53.247652209132376]
JEPA(Joint-Embedding Predictive Architectures)は、有望な青写真を提供するが、実践的なガイダンスや理論の欠如がアドホックな研究開発につながっている。
我々はJEPAの包括的な理論を示し、それをbf LeJEPAでインスタンス化する。
論文 参考訳(メタデータ) (2025-11-11T18:21:55Z) - AMP: Autoregressive Motion Prediction Revisited with Next Token Prediction for Autonomous Driving [59.94343412438211]
本稿では,GPT方式の次のトークン動作予測を動作予測に導入する。
同種単位-ワードからなる言語データとは異なり、運転シーンの要素は複雑な空間的・時間的・意味的な関係を持つ可能性がある。
そこで本稿では,情報集約と位置符号化スタイルの異なる3つの因子化アテンションモジュールを用いて,それらの関係を捉えることを提案する。
論文 参考訳(メタデータ) (2024-03-20T06:22:37Z) - Test-time Collective Prediction [73.74982509510961]
マシンラーニングの複数のパーティは、将来のテストポイントを共同で予測したいと考えています。
エージェントは、すべてのエージェントの集合の集合的な専門知識の恩恵を受けることを望んでいるが、データやモデルパラメータを解放する意思はないかもしれない。
我々は、各エージェントの事前学習モデルを利用して、テスト時に集合的な予測を行う分散型メカニズムを探索する。
論文 参考訳(メタデータ) (2021-06-22T18:29:58Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。