論文の概要: EV-JEPA: Elastic V-JEPA for Any Device and Cross-Device Inference

• arxiv url: http://arxiv.org/abs/2610.14324v2
• Date: Thu, 15 Oct 2026 02:12:12 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-16 19:13:15.828564
• Title: EV-JEPA: Elastic V-JEPA for Any Device and Cross-Device Inference
• Title（参考訳）: EV-JEPA:任意のデバイスとクロスデバイス推論のためのエラスティックV-JEPA
• Abstract要約: Elastic V-JEPA(EV-JEPA)は、一度トレーニングされた単一モデルで、連続体に沿ってどこでもデプロイ可能である。 EV-JEPAは、独自にトレーニングされたベースラインの1つの精度ポイント以内であり、従来の弾性トレーニングアプローチを最大11の精度ポイント改善している。
• 参考スコア（独自算出の注目度）: 8.660274683447964
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Foundation models like V-JEPA are increasingly deployed across a heterogeneous edge-cloud continuum spanning smart glasses, phones, robots, and servers. Yet, they are typically trained as rigid, fixed-capacity networks bound to one device, supporting neither reconfigurable compute budgets nor collaborative execution. Existing approaches address only one axis at a time: slimmable and NAS-based methods provide width elasticity but assume single-device inference, whereas split-computing methods enable cross-device collaboration only for fixed partitions and static capacities. We introduce Elastic V-JEPA (EV-JEPA), a single model trained once and deployable everywhere along the continuum. Its width is reconfigurable, and it is natively partitionable across heterogeneous devices. At its core is Transition-Aware Triplet Training (T3). At each step we pick a narrow and a wide width, and train three paths: each width alone, plus a hybrid path that runs the early layers narrow and the rest wide. The hybrid switch point is where one device hands off to another, so the same weights learn both single-device and cross-device execution. Across various benchmarks, EV-JEPA falls within 1 accuracy point of independently trained baselines while improving over previous elastic training approaches by up to 11 accuracy points. Narrow-to-wide cross-device hybrid execution recovers to within 1.1 points of the highest-capacity standalone model and supports many-to-one, any-to-any, and variable-split configurations. Finally, we show that the elastic principle extends beyond the backbone to an elastic token compression mechanism that exposes controllable trade-offs among on-device computation, latency, and accuracy.
• Abstract（参考訳）: V-JEPAのようなファンデーションモデルは、スマートグラス、電話、ロボット、サーバーにまたがる異機種のエッジクラウド連続体にますますデプロイされている。 しかし、それらは通常、1つのデバイスに接続された厳格で固定容量のネットワークとして訓練され、再構成可能な計算予算や協調実行をサポートしない。 SlimmableとNASベースの手法は幅の弾力性を提供するが、単一デバイス推論を仮定する。 Elastic V-JEPA(EV-JEPA)は、一度トレーニングされた単一のモデルで、連続体に沿ってどこでもデプロイ可能です。 その幅は再構成可能で、異種デバイス間でネイティブにパーティショニング可能である。 その中核はトランジション・アウェア・トリプレット・トレーニング(T3)である。 それぞれのステップで幅が狭く幅が広いものを選び、各幅だけで3つの経路を走らせます。 ハイブリッドスイッチポイントは、あるデバイスが別のデバイスにハンドオフする場所であり、同じ重みがシングルデバイスとクロスデバイス実行の両方を学ぶ。 様々なベンチマークにおいて、EV-JEPAは独立にトレーニングされたベースラインの1つの精度ポイントに該当する一方で、従来の弾性トレーニングアプローチを最大11の精度ポイント改善する。 Narrow-to-wide クロスデバイスハイブリッド実行は、最高容量のスタンドアロンモデルの1.1ポイント以内まで回復し、多対一、無対一、可変スプリット構成をサポートする。 最後に、弾性原理がバックボーンを超えて、デバイス上の計算、レイテンシ、精度の制御可能なトレードオフを公開する弾性トークン圧縮機構に拡張されていることを示す。

関連論文リスト

• ElasticDiT: Efficient Diffusion Transformers via Elastic Architecture and Sparse Attention for High-Resolution Image Generation on Mobile Devices [19.789749822094617]
  Diffusion Transformer (DiT) アーキテクチャは、高忠実度画像生成のための最先端パラダイムである。 しかし、これらのモデルをリソースに制約されたモバイルデバイスにデプロイするには、計算とメモリのオーバーヘッドが禁じられる。 本稿では,空間圧縮比とDiTブロック深さを調整することで,このダイナミックトレードオフを実現するElasticDiTを紹介する。
  論文  参考訳（メタデータ） (2026-05-15T07:13:27Z)
• LeWorldModel: Stable End-to-End Joint-Embedding Predictive Architecture from Pixels [49.35636088613484]
  JEPA(Joint Embedding Predictive Architectures)は、コンパクトな潜在空間で世界モデルを学習するための魅力的なフレームワークを提供する。 最初のJEPAであるLeModelWorldを紹介します。 数時間で1つのGPU上で15万のパラメータをトレーニングできるため、LeWMはファンデーションモデルベースの世界モデルよりも48倍高速に計画している。
  論文  参考訳（メタデータ） (2026-03-13T19:48:14Z)
• Elastic ViTs from Pretrained Models without Retraining [74.5386166956142]
  ビジョンファウンデーションモデルは優れたパフォーマンスを達成するが、事前決定されたサイズの限られたセットでしか利用できない。 本稿では, プルーニングされた視覚変換器のためのシングルショットネットワーク近似であるSnapViTを紹介する。 提案手法は,進化的アルゴリズムを用いて近似した勾配情報とクロスネットワーク構造相関を効率的に結合する。
  論文  参考訳（メタデータ） (2025-10-20T16:15:03Z)
• CHORD: Customizing Hybrid-precision On-device Model for Sequential Recommendation with Device-cloud Collaboration [28.97362695603172]
  underlinetextbfDevice-cloudコラボレーション(textbfCHORD)を用いたシーケンシャルアンダーラインtextbfRecommendationのための underlinetextbfHybrid-precision underlinetextbfOn-device Model のカスタマイズフレームワークを提案する。 CHORDはバックプロパゲーションなしで動的モデル適応と推論を加速し、コストのかかる再訓練サイクルを排除します。
  論文  参考訳（メタデータ） (2025-10-03T14:20:45Z)
• CollaPipe: Adaptive Segment-Optimized Pipeline Parallelism for Collaborative LLM Training in Heterogeneous Edge Networks [57.95170323315603]
  CollaPipeは、コラボレーティブパイプライン並列性とフェデレーションアグリゲーションを統合し、自己進化型ネットワークをサポートする分散学習フレームワークである。 CollaPipeでは、エンコーダ部分は可変サイズのセグメントに適応的に分割され、パイプライン並列トレーニングのためにモバイルデバイスにデプロイされ、デコーダは生成タスクを処理するためにエッジサーバにデプロイされる。 トレーニング効率を向上させるために,モデルセグメント,マイクロバッチ,帯域幅,送信電力を適応的に割り当てる共同最適化問題を定式化する。
  論文  参考訳（メタデータ） (2025-09-24T07:54:01Z)
• Peer-to-Peer Deep Learning for Beyond-5G IoT [10.425510512462628]
  P2PLは、エッジサーバやクラウドからの調整を必要としないマルチデバイスピアツーピアディープラーニングアルゴリズムである。 これにより、P2PLはスマートシティのような5G以上のコンピューティング環境に適している。
  論文  参考訳（メタデータ） (2023-10-29T01:18:45Z)
• Parallel Successive Learning for Dynamic Distributed Model Training over Heterogeneous Wireless Networks [50.68446003616802]
  フェデレートラーニング(Federated Learning, FedL)は、一連の無線デバイスにモデルトレーニングを配布する一般的なテクニックとして登場した。 我々は,FedLアーキテクチャを3次元に拡張した並列逐次学習(PSL)を開発した。 我々の分析は、分散機械学習におけるコールド対ウォームアップモデルの概念とモデル慣性について光を当てている。
  論文  参考訳（メタデータ） (2022-02-07T05:11:01Z)
• ParaDiS: Parallelly Distributable Slimmable Neural Networks [2.997206383342421]
  本稿では, 並列分散可能なスリムブルニューラルネットワーク(ParaDiS)を導入する。 ParaDiSネットワークは、複数のマルチデバイス配布可能な構成またはスイッチで構成され、それら間でパラメータを強く共有する。 そこで,ParaDiSスイッチは個々のモデル,すなわち同一構造の分散モデルを個別に訓練した場合と同等あるいはより高精度であることを示す。
  論文  参考訳（メタデータ） (2021-10-06T13:17:08Z)
• You Only Compress Once: Towards Effective and Elastic BERT Compression via Exploit-Explore Stochastic Nature Gradient [88.58536093633167]
  既存のモデル圧縮アプローチでは、さまざまなハードウェアデプロイメントに対応するために、さまざまな制約にまたがる再圧縮や微調整が必要となる。 圧縮を一度行い、至るところに展開するための新しいアプローチであるYOCO-BERTを提案する。 最先端のアルゴリズムと比較すると、YOCO-BERTはよりコンパクトなモデルを提供するが、GLUEベンチマークの平均精度は2.1%-4.5%向上している。
  論文  参考訳（メタデータ） (2021-06-04T12:17:44Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。