論文の概要: You Don't Need Strong Assumptions: Visual Representation Learning via Temporal Differences

• arxiv url: http://arxiv.org/abs/2606.15956v1
• Date: Sun, 14 Jun 2026 18:34:54 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-16 16:21:33.960231
• Title: You Don't Need Strong Assumptions: Visual Representation Learning via Temporal Differences
• Title（参考訳）: 強い仮定を必要としない:時間差による視覚表現学習
• Abstract要約: ビデオからの自己教師型学習のための新しいパラダイムであるTDV(Temporal difference in Vision)を紹介する。 TDVは、画像エンコーダとモーションエンコーダを共同で訓練することにより、現在のフレームの表現と符号化されたモーションとが次のフレームの表現と等しいように機能する。 強い帰納バイアスを生かしていないにもかかわらず、TDVは密集した空間的タスクに関する最先端のレシピと一致している。
• 参考スコア（独自算出の注目度）: 71.56121289529226
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Progress in AI has largely been driven by methods that assume less. As compute and data increase, approaches with weaker inductive biases generally outperform those with stronger assumptions. This is particularly characteristic of the field of Visual Representation Learning, where approaches have gone from being dominated by Supervised Learning, to Weakly Supervised Learning, to the now widespread success of Self-Supervised Learning without human labels. Yet, even modern Self-Supervised Learning approaches still depend on strong inductive biases such as augmentations, masking, or cropping. If this trend holds, even these remaining biases should become bottlenecks at scale -- and our experiments confirm this: the optimal strength of inductive biases decreases as data grows. This motivates the search for approaches that rely on fewer assumptions. To this end, we introduce Temporal Difference in Vision (TDV), a new paradigm for self-supervised learning from video that avoids existing inductive biases, relying instead on a causal assumption that the past causes the future. TDV functions by jointly training an image encoder and a motion encoder so that the current frame's representation plus the encoded motion equals the next frame's representation. Despite not leveraging any strong inductive biases, TDV matches state-of-the-art recipes on dense spatial tasks, laying the foundation for representation learning without strong assumptions.
• Abstract（参考訳）: AIの進歩は、仮定の少ない方法によって大きく推進されています。 計算とデータの増加に伴い、より弱い帰納バイアスのアプローチは、一般的により強い仮定のアプローチよりも優れている。 これは特に視覚表現学習の分野に特有であり、そこでは、アプローチが教師付き学習によって支配されるものから、弱く監督された学習へと移行し、現在では人間ラベルのない自己教師付き学習が広く成功している。 しかし、現代の自己監視学習アプローチでさえも、強化、マスキング、収穫のような強い帰納バイアスに依存している。 この傾向が保たれれば、これらの残っていたバイアスでさえ、大規模にボトルネックとなるはずです。 これは仮定の少ないアプローチの探索を動機付けている。 この目的のために,従来の帰納的バイアスを回避し,過去が未来を引き起こすという因果的仮定に依存する,ビデオからの自己教師型学習のための新たなパラダイムであるTDVを紹介した。 TDVは、画像エンコーダとモーションエンコーダを共同で訓練することにより、現在のフレームの表現と符号化されたモーションとが次のフレームの表現と等しいように機能する。 強い帰納バイアスを生かしていないにもかかわらず、TDVは密接な空間的タスクに関する最先端のレシピと一致し、強い仮定なしに表現学習の基礎を築いた。

関連論文リスト

• A Progressive Training Strategy for Vision-Language Models to Counteract Spatio-Temporal Hallucinations in Embodied Reasoning [49.61652671596548]
  「多像幻覚推論」では、前頭と時頭クエリ間の大規模なパフォーマンス低下は、真に理解するのではなく、表面的なショートカットへの依存を示す。 これを軽減するために、我々は、チェーンステップへの詳細な推論と決定的な判断に基づく、時間的連鎖構築という新しいデータセットを開発する。 実験により,本手法は精度を向上するだけでなく,70%以上から6.53%まで,前向きのパフォーマンスギャップも改善することが示された。
  論文  参考訳（メタデータ） (2026-04-12T07:48:44Z)
• Which Way Does Time Flow? A Psychophysics-Grounded Evaluation for Vision-Language Models [3.701776503593477]
  現代の視覚言語モデル(VLM)は多くのマルチモーダルなタスクで優れるが、ビデオにおける時間的情報の把握は依然として弱く、決定的に過小評価されている。 短いクリップが前方または後方で再生されるか否かの矢印(AoT)を判断する。 AoT-PsyPhyBENCHは精神物理学的に検証されたベンチマークで、人間が確立した同じ刺激と行動ベースラインを用いて、VLMが自然ビデオの時間方向を推測できるかどうかをテストする。
  論文  参考訳（メタデータ） (2025-10-30T08:21:50Z)
• Unleashing Perception-Time Scaling to Multimodal Reasoning Models [60.578179197783754]
  推論時間スケーリングの最近の進歩は、LVLM(Large Vision-Language Models)の推論能力を大幅に向上させた。 この成功に触発されて、同様の戦略がマルチモーダル推論に適用されたが、視覚的知覚への影響は未だ不明である。 本稿では,トークンに富む知覚を促進する新しいパラダイムである知覚時間スケーリング(PTS)を提案し,複雑な知覚問題を中間的抽出可能なサブプロブレムに分解する。
  論文  参考訳（メタデータ） (2025-10-10T03:17:52Z)
• Understanding Self-Predictive Learning for Reinforcement Learning [61.62067048348786]
  強化学習のための自己予測学習の学習ダイナミクスについて検討する。 本稿では,2つの表現を同時に学習する新しい自己予測アルゴリズムを提案する。
  論文  参考訳（メタデータ） (2022-12-06T20:43:37Z)
• From latent dynamics to meaningful representations [0.5728954513076778]
  純粋に動的に制約された表現学習フレームワークを提案する。 これは力学系における表現学習のより自然な制約であることを示す。 我々は,現実の蛍光DNAフィルムデータセットを含む様々なシステムに対して,我々の枠組みを検証する。
  論文  参考訳（メタデータ） (2022-09-02T09:27:37Z)
• Chaos is a Ladder: A New Theoretical Understanding of Contrastive Learning via Augmentation Overlap [64.60460828425502]
  コントラスト学習の下流性能に関する新たな保証を提案する。 我々の新しい理論は、攻撃的なデータ強化の下で、異なるクラス内サンプルのサポートがより重なり合うという知見に基づいている。 本稿では、下流の精度とよく一致した教師なしモデル選択距離ARCを提案する。
  論文  参考訳（メタデータ） (2022-03-25T05:36:26Z)
• Probing Representation Forgetting in Supervised and Unsupervised Continual Learning [14.462797749666992]
  破滅的な忘れ物は、以前にモデルで学んだ知識の急激な喪失と関係している。 表現を忘れることによって,モデル能力と損失関数が連続学習に与える影響について新たな知見が得られることを示す。
  論文  参考訳（メタデータ） (2022-03-24T23:06:08Z)
• Improving Transferability of Representations via Augmentation-Aware Self-Supervision [117.15012005163322]
  AugSelfは、ランダムに強化された2つのサンプル間の拡張パラメータの違いを学習する補助的な自己教師型損失である。 私たちの直感は、AugSelfが学習表現における拡張認識情報の保存を奨励していることです。 AugSelfは、最新の最先端の表現学習手法に、無視できる追加のトレーニングコストで簡単に組み込むことができる。
  論文  参考訳（メタデータ） (2021-11-18T10:43:50Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。