論文の概要: Spoofing the Latent State: Imperceptible Goal-Image Attacks Derail Planning in LeWorldModel
- arxiv url: http://arxiv.org/abs/2611.00427v1
- Date: Fri, 30 Oct 2026 22:20:51 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-13 18:56:04.676271
- Title: Spoofing the Latent State: Imperceptible Goal-Image Attacks Derail Planning in LeWorldModel
- Title（参考訳）: 遅延状態の発見:LeWorldModelにおける非受け入れ不能なゴールイメージ攻撃の脱線計画
- Abstract要約: LeWorldModel(LeWM)は、等方性ガウス反崩壊正則化器(SIGReg)を用いて画素からエンド・ツー・エンドを駆動する。
この潜伏計画インタフェースの試験時間ロバスト性について検討する。
- 参考スコア（独自算出の注目度）: 15.292211479414734
- License: http://creativecommons.org/licenses/by-sa/4.0/
- Abstract: Joint-embedding predictive architectures (JEPAs) have recently emerged as general-purpose visual world models for control. A prominent example is LeWorldModel (LeWM), which trains end-to-end from pixels using an isotropic Gaussian anti-collapse regularizer (SIGReg) and plans by minimizing the squared Euclidean distance between predicted and goal embeddings. In this work, we investigate the test-time robustness of this latent planning interface. Analyzing the learned metric on Push-T, we first find that task-relevant object state heavily dominates latent distance: shifting the block by a single pixel displaces the embedding $3\times$ further than an equivalent agent shift, and swapping the block pose alone accounts for $99\%$ of the distance between scene pairs. However, because this pose information is distributed across a curved, high-dimensional manifold rather than a fixed linear subspace, the encoder cannot be trivially edited post-hoc to isolate or redirect it. We next demonstrate that this geometry is highly vulnerable at test time. A white-box $\ell_\infty$ perturbation of just $ε{=}4/255$ applied to a single input frame causes the encoder to register the block at an arbitrary, attacker-chosen pose in $73$--$95\%$ of scenes without disturbing the encoded agent state. Perturbing either the goal image or the live camera observation drops Push-T planning success from $87\%$ to $32\%$, whereas uniform random noise at twice the magnitude has negligible impact. This vulnerability persists across all four standard LeWM benchmarks (Push-T, Two-Room, Reacher, and OGBench-Cube). At $ε{=}8/255$, the attack bridges $82$--$97\%$ of the squared latent distance to the target embedding in every environment, inducing planning degradation proportional to each task's reliance on the spoofed entity.
- Abstract（参考訳）: JEPA(Joint-embedding predictive Architectures)は、最近、制御のための汎用ビジュアルワールドモデルとして登場した。
有名な例として、LeWorldModel (LeWM) は、等方的ガウス反崩壊正規化器 (SIGReg) を用いてピクセルから端から端までを訓練し、予測とゴールの埋め込みの間の2乗ユークリッド距離を最小化する計画である。
本研究では,この潜伏計画インタフェースの試験時間ロバスト性について検討する。
Push-Tで学んだ測定値を分析すると、タスク関連オブジェクト状態が遅延距離をかなり上回っていることが分かりました。
しかし、このポーズ情報は、固定線型部分空間ではなく曲線状の高次元多様体に分散するため、エンコーダを自明に編集して分離あるいはリダイレクトすることはできない。
次に、この幾何学がテスト時に非常に脆弱であることを示します。
単一の入力フレームに適用された単に$ε{=}4/255$のホワイトボックス$\ell_\infty$摂動により、エンコーダは、符号化されたエージェント状態を邪魔することなく、7,3$--95$%のシーンでブロックを任意のアタッカー・チョーゼンで登録する。
目標画像またはライブカメラ観察の摂動は、Push-T計画の成功率を87\%から32\%に下げる。
この脆弱性は4つの標準LeWMベンチマーク(Push-T、Two-Room、Reacher、OGBench-Cube)で持続する。
ε{=}8/255$ の攻撃ブリッジは、各環境に埋め込まれたターゲットへの2乗潜在距離の 82$--97\%$ で、各タスクの密封されたエンティティへの依存に比例する計画上の劣化を引き起こす。
関連論文リスト
- Latent Projection for Latent Planning [1.4999135619439707]
本研究では,ワールドモデルトレーニング中の崩壊を防止する正規化器が,信号を持たない方向のばらつきを促進することを示す。
我々は、同じ正規化器が、その雑音を潜伏させる構造も提供することを示した。
我々は6つの環境にまたがって評価を行い、2次元ナビゲーションタスクであるTwoRoomとPointMazeに大きな効果を示した。
論文 参考訳（メタデータ） (2026-10-19T01:51:14Z) - Beyond Layers: Position-Resolved Gradient Conflict and Position-Aware Modulation for Unified Multimodal Models [10.526335126836573]
統一マルチモーダルモデル(UMM)は、共有パラメータに基づく画像理解と自己回帰画像生成を訓練する。
位置認識変調 (PAM) を提案し, 高コンフリクト位置のみに生成勾配の反整合成分を除去する。
PAMはレイヤの分離を$+21$ MMEと$+2.4$ GenEvalで改善し、POPEと全体的なFIDにマッチする。
論文 参考訳（メタデータ） (2026-09-29T20:14:33Z) - Hamiltonian JEPA: Action-Conditioned World Models with an Inherited Control State [49.52703800684483]
ピクセルからの計画には、安定かつ予測可能な潜在空間以上のものが必要である。
統合埋め込み予測アーキテクチャ(JEPA)は、将来の表現を予測することでピクセル再構成を避ける。
我々はこの2つを分離するH-JEPAを紹介する。
論文 参考訳（メタデータ） (2026-09-27T12:05:41Z) - No Gaussian Required: Contrastive Inverse Dynamics for JEPA World Models [2.506624215459612]
JEPA(Joint-Embedding Predictive Architectures)は、将来の埋め込みを予測することで世界モデルを学ぶ。
すべての実用システムは、反崩壊機構を追加します。
我々は、反崩壊圧は移行データ自体から得ることができると主張している。
論文 参考訳（メタデータ） (2026-08-18T09:03:35Z) - LeWorldModel: Stable End-to-End Joint-Embedding Predictive Architecture from Pixels [49.35636088613484]
JEPA(Joint Embedding Predictive Architectures)は、コンパクトな潜在空間で世界モデルを学習するための魅力的なフレームワークを提供する。
最初のJEPAであるLeModelWorldを紹介します。
数時間で1つのGPU上で15万のパラメータをトレーニングできるため、LeWMはファンデーションモデルベースの世界モデルよりも48倍高速に計画している。
論文 参考訳（メタデータ） (2026-03-13T19:48:14Z) - Learning Accurate Segmentation Purely from Self-Supervision [87.78965637247107]
Selfmentは完全に自己管理型のフレームワークで、人間のラベルなしでオブジェクトを生画像から直接分割する。
Selfmentは、複数のベンチマークで新しい最先端(SoTA)結果を設定する。
論文 参考訳（メタデータ） (2026-02-27T07:36:32Z) - SketchGuard: Scaling Byzantine-Robust Decentralized Federated Learning via Sketch-Based Screening [15.287835378843425]
Decentralized Federated Learning (DFL)は、集中型サーバを使わずに、プライバシ保護による協調トレーニングを可能にする。
DFLは、悪意のあるクライアントが破損したモデルを更新するビザンティン攻撃に対して脆弱である。
スケッチベースの隣人スクリーニングによるモデルアグリゲーションからビザンチンフィルタを分離するSketchGuardを提案する。
論文 参考訳（メタデータ） (2025-10-09T08:16:32Z) - FLARE: Robot Learning with Implicit World Modeling [87.81846091038676]
$textbfFLARE$は、予測潜在世界モデリングをロボットポリシー学習に統合する。
$textbfFLARE$は最先端のパフォーマンスを実現し、これまでのポリシー学習のベースラインを最大26%上回っている。
この結果は、暗黙の世界モデリングと高周波ロボット制御を組み合わせた汎用的でスケーラブルなアプローチとして$textbfFLARE$を確立した。
論文 参考訳（メタデータ） (2025-05-21T15:33:27Z) - Patch-wise++ Perturbation for Adversarial Targeted Attacks [132.58673733817838]
トランスファビリティの高い対比例の作成を目的としたパッチワイズ反復法(PIM)を提案する。
具体的には、各イテレーションのステップサイズに増幅係数を導入し、$epsilon$-constraintをオーバーフローする1ピクセルの全体的な勾配が、その周辺領域に適切に割り当てられる。
現在の攻撃方法と比較して、防御モデルでは35.9%、通常訓練されたモデルでは32.7%、成功率を大幅に向上させた。
論文 参考訳（メタデータ） (2020-12-31T08:40:42Z) - Toward Adversarial Robustness via Semi-supervised Robust Training [93.36310070269643]
アドリラルな例は、ディープニューラルネットワーク(DNN)に対する深刻な脅威であることが示されている。
R_stand$ と $R_rob$ の2つの異なるリスクを共同で最小化することで、新しい防御手法であるロバストトレーニング(RT)を提案する。
論文 参考訳（メタデータ） (2020-03-16T02:14:08Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。