論文の概要: JEPA Learns What the Mask Leaves Unrecoverable
- arxiv url: http://arxiv.org/abs/2609.32481v1
- Date: Sat, 26 Sep 2026 11:19:50 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-07 08:45:06.833723
- Title: JEPA Learns What the Mask Leaves Unrecoverable
- Title(参考訳): JEPAがマスクが残したものを学習
- Abstract要約: 共同予測アーキテクチャは、入力のマスク方法に非常に敏感である。
マスクは線形測定であり、コンパクトに支持されたウェーブレット基底では、隠れた領域内に支持されている全ての原子は測定の埋め込み空間に落下する。
我々は151の事前トレーニング-100において、アカウントの特異な予測をトレーニングし、テストする。
- 参考スコア(独自算出の注目度): 3.732244093761483
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Joint-embedding predictive architectures are unusually sensitive to how the input is masked: block masks work, scattered masks do not, and the explanations are empirical. We give a measurement account. A mask is a linear measurement, and in a compactly supported wavelet basis every atom whose support lies inside the hidden region falls in the measurement's null space and leaves no trace in the data. The JEPA loss asks only that the encoded context suffice for the target, so a target that a low-level prior can recover admits a shortcut, one the moving-average target encoder can make self-consistent. What removes the shortcut is the coarse-scale content the mask leaves unrecoverable, provided enough context stays within reach of each target. We score that content before training and test the account's distinctive predictions in 151 pre-training runs. On ImageNet-100, strip masks match blocks in area and contiguity yet are recoverable, and they land at 40.3% linear top-1, beside random masks at 40.8%, against 64.3% for blocks; within one geometry family, the placements that leave the least unrecoverable content lose 6.5 points to those that leave the most, over five seed pairs; pixel targets span 7 points where latent targets span 25; and against a frozen target the gap between random and block masks, 19 points on the same kind of GPU, closes to 1.5, so the geometry acts through the target the encoder produces for itself. On UCF101 the masking ratio decides which condition, content or reach, binds; removing whole frames, unrecoverable in space but recoverable from neighbouring frames, is worst at both ratios; and on V-JEPA's own masks, batching them intact instead of truncated changes little (36.0% against 35.1%), whereas making 100 target tokens inside the blocks visible lifts them to 48.7% and hiding 100 context tokens outside the blocks does not (33.7%).
- Abstract(参考訳): 複合埋め込み予測アーキテクチャは、入力がどのようにマスクされているかに非常に敏感である: ブロックマスクは機能し、散乱マスクは機能せず、説明は経験的だ。
私たちは測定の口座を与えます。
マスクは線形測定であり、コンパクトに支持されたウェーブレット基底では、隠れた領域内に支持されている全ての原子は測定のヌル空間に落下し、データに痕跡は残らない。
JEPAの損失は、エンコードされたコンテキストがターゲットに十分であることを要求するだけなので、低レベルの事前リカバリ可能なターゲットはショートカットを認め、移動平均のターゲットエンコーダは自己一貫性を持つことができる。
ショートカットを削除するのは、マスクが保持できない粗いスケールのコンテンツである。
トレーニング前にそのコンテンツをスコアし、151回の事前トレーニングでアカウントの独特な予測をテストします。
ImageNet-100では、ストリップマスクがブロックと一致し、40.3%の直線トップ-1、40.8%のランダムマスク、64.3%のブロックに着陸する。一方のジオメトリファミリでは、最小の発見不可能なコンテンツを残す配置が6.5ポイント減少し、5つのシードペア以上となる。
UCF101では、マスキング比は、どの条件、内容、リーチ、バインド、フレーム全体の取り外し、空間では回収できないが、近隣のフレームから回復できるかは、両方の比率で最悪である。また、V-JEPA自身のマスクでは、切り落とされた変更を少なく(36.0%、35.1%)、無傷でバッチするが、ブロック内の100個のターゲットトークンは48.7%まで上昇し、ブロックの外にある100個のコンテキストトークンを隠蔽する(33.7%)。
関連論文リスト
- Hiding Directions, Leaking Structure: Breaking ArrowCloak through Low-Rank Structure [11.442729593360738]
TEEシールド推論は、線形代数を信頼できない加速器にオフロードしながら、信頼された実行環境(TEE)においてセンシティブな状態を維持する。
Wang et al. は Game of Arrows (USENIX Security 2025) で、広く採用されている5つの軽量防御がベクトル方向を保存することを示し、この漏れを利用するためにArrowMatchを導入した。
本稿では,ArowCloakを提案する。これは各ベクトルに1つの共有マスク方向の異なる倍数を追加し,その重み付きハードネス引数をLearning with Errors (LWE) に基づける。
この構造を、エンドツーエンドのクエリフリーリカバリアタックである、提案したアタックで活用する。
論文 参考訳(メタデータ) (2026-08-21T20:30:26Z) - Envisage: Diffusion-Based Rhinoplasty Goal Visualization with Mask-Decomposed Evaluation [0.0]
局所的な生成編集には局所的な評価が必要である。
ローカライズされた編集では、顔認証のメトリクスではなく、編集領域の忠実度で進捗を測定する必要がある。
論文 参考訳(メタデータ) (2026-06-26T22:13:20Z) - MaskForge: Structure-Aware Adaptive Attacks for Jailbreaking Diffusion Large Language Models [53.05463623673949]
MaskForgeは完全にブラックボックス対応の攻撃で、構造パターンのライブラリを最適化した検索としてdLLMのレッドチームを実行する。
攻撃成功率は79.3%であり、最強のdLLMベースラインよりも17.6%向上している。
論文 参考訳(メタデータ) (2026-06-01T18:10:21Z) - CrackSegFlow: Controllable Flow Matching Synthesis for Generalizable Crack Segmentation with a 50K Image-Mask Benchmark [0.27998963147546135]
CrackSegFlowは、マスクからの亀裂の合成画像をピクセルレベルのアライメントで描画する制御可能な合成法である。
以上の結果から,合成ペアの追加により,+5.37 mIoUと+5.13 F1のドメイン性能が向上し,ターゲットマスク統計によって誘導されるターゲット誘導クロスドメイン合成では+13.12 mIoUと+14.82 F1のドメイン性能が向上した。
論文 参考訳(メタデータ) (2026-01-07T06:28:16Z) - High-Quality Mask Tuning Matters for Open-Vocabulary Segmentation [109.19165503929992]
ここでは,CLIPのマスク分類能力を高めるために,生成されたマスクの代わりに接地トラスマスクを使用するMaskCLIP++を提案する。
低コストの微調整を経て、MaskCLIP++はマルチドメインデータセットのマスク分類性能を大幅に改善した。
我々は,A-847,PC-459,A-150,PC-59,PAS-20データセット上で+1.7,+2.3,+2.1,+3.1,+0.3 mIoUの性能改善を実現する。
論文 参考訳(メタデータ) (2024-12-16T05:44:45Z) - Learning Mask-aware CLIP Representations for Zero-Shot Segmentation [120.97144647340588]
Mask-awareProposals CLIP (IP-CLIP) は任意の数の画像とマスクの提案を同時に処理するために提案されている。
マスク認識損失と自己蒸留損失はIP-CLIPを微調整するように設計されており、CLIPが異なるマスク提案に応答することを保証している。
我々は、人気のあるゼロショットベンチマークで広範な実験を行う。
論文 参考訳(メタデータ) (2023-09-30T03:27:31Z) - Real-time Instance Segmentation with Discriminative Orientation Maps [0.16311150636417257]
本論文では,OrienMaskと呼ばれるリアルタイムインスタンス分割フレームワークを提案する。
いくつかの識別方向マップを予測するためにマスクヘッドが追加される。
同じアンカーサイズにマッチするすべてのインスタンスは、共通の向きマップを共有する。
論文 参考訳(メタデータ) (2021-06-23T07:27:35Z) - Image Inpainting by End-to-End Cascaded Refinement with Mask Awareness [66.55719330810547]
任意の欠落領域を塗りつぶすことは、様々なマスクされた領域で有効な特徴を学ぶことは非自明だから難しい。
符号化フェーズにおける欠落領域のマルチスケール特徴を学習する新しいマスク対応インペイントソリューションを提案する。
私たちのフレームワークは、3つの公開データセットに関する広範な実験を通じて定量的および定性的に検証されます。
論文 参考訳(メタデータ) (2021-04-28T13:17:47Z) - BoxInst: High-Performance Instance Segmentation with Box Annotations [102.10713189544947]
本稿では,トレーニング用バウンディングボックスアノテーションのみを用いて,マスクレベルのインスタンスセグメンテーションを実現する高性能な手法を提案する。
私たちの中核となる考え方は、セグメンテーションネットワーク自体を変更することなく、インスタンスセグメンテーションにおける学習マスクの喪失を活用することです。
論文 参考訳(メタデータ) (2020-12-03T22:27:55Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。