論文の概要: CI-JEPA: A Counterfactual Analysis of Latent Representations in Joint-Embedding Predictive Architectures for Self-Supervised Learning
- arxiv url: http://arxiv.org/abs/2610.05043v1
- Date: Sun, 04 Oct 2026 08:22:58 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-11 06:43:36.71196
- Title: CI-JEPA: A Counterfactual Analysis of Latent Representations in Joint-Embedding Predictive Architectures for Self-Supervised Learning
- Title(参考訳): CI-JEPA: 自己指導型学習のための統合埋め込み予測アーキテクチャにおける潜在表現の非現実的分析
- Abstract要約: 自己教師付き視覚表現学習は、表現訓練中に手動のアノテーションなしで有用な特徴を学習する。
提案するCI-JEPAは,原画像と修正後の画像との表現変化を予測できる対実的介入対応拡張である。
- 参考スコア(独自算出の注目度): 2.102846336724103
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Self-supervised visual representation learning learns useful features without manual annotations during representation training. The image-based joint-embedding predictive architecture (I-JEPA) predicts latent representations of masked image regions, but its objective does not explicitly model responses to specified visual interventions. We introduce CI-JEPA, a counterfactual intervention-aware extension that learns to predict the representation change $ΔZ = Z_{\mathrm{CF}} - Z$ between an original image and a modified counterpart. We assess representation robustness through selective sensitivity: stronger responses to task-relevant semantic changes than to nuisance changes. Experiments on Flowers102 use flower-center occlusion as a candidate semantic intervention and background blur and tint as candidate nuisance interventions. With frozen-encoder linear probing, CI-JEPA achieves a best validation accuracy of 78.14\%, compared with 77.55\% for both the pretrained ViT-B/16 and the I-JEPA baseline, a gain of 0.59 percentage points. The reported mean $L_2$ representation changes are 4.42 for center occlusion, 3.48 for background tint, and 2.83 for background blur. This ordering is consistent with relative semantic selectivity for the evaluated interventions, rather than complete nuisance invariance. The accuracy comparison is complementary and does not establish improved robustness over the baselines. These controlled image modifications provide a framework for studying intervention-induced changes in JEPA representations; they do not establish causal feature discovery or robustness to all visual changes.
- Abstract(参考訳): 自己教師付き視覚表現学習は、表現訓練中に手動のアノテーションなしで有用な特徴を学習する。
画像ベース共同埋め込み予測アーキテクチャ(I-JEPA)は、マスクされた画像領域の潜伏表現を予測するが、その目的は特定の視覚介入に対する応答を明示的にモデル化するものではない。
本稿では,CI-JEPAについて紹介する。CI-JEPAは,表現変化の予測を学習する反ファクト的介入対応拡張である。
タスク関連セマンティックな変化に対する反応は、ニュアンスな変化よりも強い。
Flowers102の実験では、花中心のオクルージョンを意味的介入候補として、背景のぼやけと染みをニュアンス介入候補として用いた。
凍結エンコーダリニアプローブでは、CI-JEPAは、事前訓練されたViT-B/16とI-JEPAベースラインの両方に対して、78.14\%の検証精度を77.55\%と、0.59ポイントの精度で達成している。
報告された平均的なL_2$表現の変化は、中心閉塞では4.42ドル、背景染料では3.48ドル、背景ぼけでは2.83ドルである。
この順序付けは、完全なニュアンス不変性ではなく、評価された介入に対する相対的な意味的選択性と一致している。
精度比較は相補的であり、ベースラインよりも堅牢性が向上していない。
これらの制御された画像修正は、JEPA表現の介入によって引き起こされる変化を研究するためのフレームワークを提供する。
関連論文リスト
- Just Align $\bm{x}$: Aligning Predictions, Not Representations [42.81833355126605]
JAxはノイズレベルにわたってクリーンなイメージ予測を整列する予測・スーパービジョン手法である。
JAxは一貫してFIDを改善し、JT-B/16、L/16、H/16間の収束を加速する。
その結果、予測空間の監督は、画素空間生成モデルの表現アライメントに代わる、シンプルで原則化された代替手段を提供することを示した。
論文 参考訳(メタデータ) (2026-09-30T19:04:04Z) - Balancing Emotional Alignment and Semantic Consistency in Image Generation via Reinforcement Learning with Valence-Arousal Anchoring [55.57242007016976]
テキスト・ツー・イメージ生成における継続的な感情制御は、プロンプトによって記述されたオブジェクトやレイアウト、シーンを変更することなく、感情的アライメントを改善するモデルを必要とする。
既存の教師付き感情注入法は、しばしば特徴空間プロキシを最適化し、したがって感情のセマンティックドリフトを示す。
本稿では,連続的原子価覚醒条件設定,グループ相対ポリシー最適化,中立的セマンティックアンカーを組み合わせたフローマッチング画像生成フレームワークを用いてこの問題に対処する。
論文 参考訳(メタデータ) (2026-09-11T13:24:35Z) - On-Policy Self-Distillation in Diffusion Models [89.32656931795293]
強化学習は、拡散モデルと人間の好みやタスク固有の目的とを一致させることができるが、エンドポイント報酬は、中間的偏見予測をどのように変更すべきかを規定していない。
そこで我々は、DiffusionOPSDを、画像レベルの報酬誘導を明示的なターゲットに変換して、サンプルクエリにおけるクリーンな出力予測を行うオンライン自己蒸留フレームワークとして導入する。
SD 3.5-Mとステップ蒸留したZ-Image-Turboを用いて、2つのバックボーンと10個の評価器で20の報酬マッチング設定のうち19のファイナルホールトアウトスコアを達成した。
論文 参考訳(メタデータ) (2026-08-25T14:55:24Z) - BenthicDINO: Physics-Informed Self-Distillation for View-Invariant Side-Scan Sonar Representations [0.0]
本稿では,データ効率を最大化するために,ConvNeXt-v2-Tinyバックボーンを用いてDINOv3アーキテクチャ上に構築した物理インフォームド自己蒸留フレームワークを提案する。
本研究では,4つのネットワークステージにまたがる,密集した階層的特徴融合戦略を提案する。
論文 参考訳(メタデータ) (2026-08-24T13:11:22Z) - SC-Diff: Semantically Calibrated Diffusion for Visible-to-Infrared Image Translation [52.62632888060867]
可視赤外画像変換は、豊富な可視画像を用いて赤外線トレーニングデータを拡張するための実用的な方法を提供する。
既存の拡散に基づくメソッドは、通常、外部条件としてのみセマンティックプリエントを使用する。
SC-Diffは、条件付きガイダンスと内部自己注意校正の両方にセマンティックな事前情報を利用する意味論的潜伏拡散フレームワークである。
論文 参考訳(メタデータ) (2026-08-09T07:57:40Z) - Breaking Spurious Correlations via Generative Randomization and Cross-Variant Self-Supervised Learning [0.871725390496537]
経験的リスク最小化でトレーニングされたディープニューラルネットワークは、分散シフト時に失敗することが多い。
最近の生成的アプローチでは、コンテキストが変化した反ファクト画像を作成することでこの問題に対処している。
生成的介入を用いて背景不変の視覚表現を明示的に学習する2段階のフレームワークを提案する。
論文 参考訳(メタデータ) (2026-07-07T05:13:26Z) - AEGIS: A Semantic GAN and Evidential Learning Frameworkfor Robust Adversarial Detection in Vision Sensors [11.468095590140777]
AEGISは、視覚センサパイプラインのためのセマンティックアウェアと不確実性ガイド付き敵検出フレームワークである。
SemantiGANモジュールは、視覚的に矛盾する敵入力を識別しフィルタリングする多クラスセマンティック識別器として機能する。
Tiny ImageNetデータセットの評価は、AEGISの有効性を示す。
論文 参考訳(メタデータ) (2026-06-25T12:03:02Z) - ReA-OVCD: Reliability-Aware Open-Vocabulary Change Detection via Semantic and Spatial Refinement [8.855406881644702]
本稿では, 信頼性に配慮したオープンボキャブラリ変化検出フレームワークを提案する。
まず、ピクセル単位のセマンティックな違いから候補変更領域を導出し、フレキシブルで詳細なローカライゼーションを保証する。
次に、意味的視点と空間的視点の両方から変化の妥当性を明示的にモデル化するための協調的な改善戦略を導入する。
論文 参考訳(メタデータ) (2026-06-18T10:05:45Z) - FACTOR: Counterfactual Training-Free Test-Time Adaptation for Open-Vocabulary Object Detection [63.91351553178842]
FACTORはオープン語彙オブジェクト検出のためのトレーニング不要なテスト時間適応である。
属性依存性の予測を選択的に抑制するために、属性の感度、意味的関連性、予測のバリエーションを定量化する。
PASCAL-C, COCO-C, FoggyCityscapes の実験では、FACTOR が従来の TTA 法より一貫して優れていたことが示されている。
論文 参考訳(メタデータ) (2026-05-05T02:31:18Z) - DQE-CIR: Distinctive Query Embeddings through Learnable Attribute Weights and Target Relative Negative Sampling in Composed Image Retrieval [53.482391830683014]
合成画像検索(CIR)は、参照画像と、意図した変更を特定する修正テキストとを共同で解釈することにより、対象画像を検索するタスクに対処する。
既存のほとんどの手法は、基底の真理像を唯一の正の例として扱い、残りの全ての画像を負の例として扱う対照的な学習フレームワークの上に構築されている。
学習可能な属性重みとターゲットの相対的負サンプリングによるクエリ埋め込みを提案する。
論文 参考訳(メタデータ) (2026-03-04T13:17:44Z) - UIA-ViT: Unsupervised Inconsistency-Aware Method based on Vision
Transformer for Face Forgery Detection [52.91782218300844]
そこで我々は、UIA-ViTと呼ばれるビジョン変換器に基づく教師なし不整合認識手法を提案する。
自己注意機構により、パッチ埋め込み間の注意マップは自然に一貫性関係を表現し、一貫性表現学習に適した視覚変換器となる。
論文 参考訳(メタデータ) (2022-10-23T15:24:47Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。