論文の概要: Longer Records, Broader Invariance: The Hidden Scaling Problem in Longitudinal Contrastive Learning

• arxiv url: http://arxiv.org/abs/2609.36409v1
• Date: Tue, 29 Sep 2026 00:02:32 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-30 21:28:47.075246
• Title: Longer Records, Broader Invariance: The Hidden Scaling Problem in Longitudinal Contrastive Learning
• Title（参考訳）: 長期記録, 広帯域不変性: 経時的コントラスト学習における隠れスケーリング問題
• Abstract要約: 個人レベルのコントラスト学習では、同一人物からの観察はポジティブとして扱われる。 記録が大きくなるにつれて、これらの陽性はますます遠ざかっていく可能性がある。
• 参考スコア（独自算出の注目度）: 3.175858701056328
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Longitudinal data are valuable because people change. Yet the objectives used to learn from these data can inadvertently erase that change. In person-level contrastive learning, observations from the same person are treated as positives; as records grow, those positives can span increasingly distant---and increasingly different---behavioral states. More history can therefore produce not only more data, but broader invariance. We show that this distinction is fundamental. We separate \emph{record span}, how much history the learner sees, from \emph{supervision span}, how far across that history positive-pair supervision reaches. Across in-home sensing records spanning up to 2.7 years, broader supervision systematically suppresses recoverable changing-state information, even when the available history is held fixed. At the broadest span, less than 10\% of the information recoverable from an untrained encoder remains. Yet keeping positives local is not sufficient: as records grow, even distant states that are never paired become increasingly similar. Explicitly contrasting other observations from the same person reverses this loss without shortening the record, revealing a second route by which longitudinal scale can broaden invariance. Finally, we prospectively reproduce the supervision-span effect in 199 GLOBEM participants. Longitudinal scale therefore presents a choice: more history need not mean more invariance. By controlling what is held invariant as records grow, we can preserve the change that made the longitudinal data valuable in the first place.
• Abstract（参考訳）: 人々が変化するため、縦断データは価値があります。 しかし、これらのデータから学習した目的は、必然的にその変更を消去することができる。 個人レベルの対照的な学習では、同一人物からの観察はポジティブとして扱われる。 したがって、より多くの歴史はより多くのデータを生成するだけでなく、より広い不変性を生み出すことができる。 私たちはこの区別が基本であることを示します。 私たちは、学習者がどれだけの履歴を見たか、そしてその歴史がどれほどポジティブなペアの監督に到達したか、を分離します。 最大2.7年にわたる家庭内センシング記録を通して、より広範な監視は、利用可能な履歴が固定された場合でも、回復可能な状態変化情報を体系的に抑制する。 最も広い範囲では、訓練されていないエンコーダから回復可能な情報の10%未満が残っている。 記録が大きくなるにつれて、決してペアにされていない遠い州でさえ、ますます似通っている。 記録を短くすることなく、同一人物からの他の観測を明示的に対比することで、縦方向のスケールで不変性を広げる2番目の経路が明らかになる。 最後に, GLOBEM 199名を対象に, 監督スパン効果を前向きに再現した。 したがって、縦軸のスケールは選択肢を提示する: より多くの歴史がより多くの不変性を意味する必要はない。 レコードが成長するにつれて保持されるものをコントロールすることで、まずは長手データに価値をもたらす変化を保存できます。

関連論文リスト

• Self-Aligned Forcing: Streaming Video Diffusion with Differentiable Noisy History [53.725055224433056]
  セルフアラインド・フォース(Self-Aligned Forcing, SAF)は、各ブロックの歴史とブロックのノイズレベルを調和させる訓練スキームである。 SAFは既存の方法の中で最も高いシングルGPUスループットを実現している。 実験では、視覚的品質と運動のバランスが良く、優れたロングホライゾン生成が示される。
  論文  参考訳（メタデータ） (2026-09-29T17:49:31Z)
• What if LLMs Ate Their Words: Causal History Effects in Multi-Turn Interaction [21.294220918464525]
  モデル、タスク、ターン、およびモデル内における効果がどのように現れるかは、まだ不明である。 ターン手術は、一度に1つのアシスタントターンでさらに介入する。 全体として、アシスタント生成履歴は、多ターン性能にアクティブだが選択的に影響を及ぼす。
  論文  参考訳（メタデータ） (2026-09-05T05:06:01Z)
• Present but Not Remembered: Auditing How Frozen VLAs Encode, Deploy, and Steer Visual History [3.168307501254055]
  凍結視覚言語行動モデル(VLA)は、決定ステップ毎に最近の観察を受信する。 我々は,この時間軸を層分解線形プローブ法と因果相互干渉法を用いて検討した。
  論文  参考訳（メタデータ） (2026-07-03T14:27:00Z)
• MemTrace: Probing What Final Accuracy Misses in Long-Term Memory [39.696350769003104]
  測定単位が知識点であるベンチマークであるMemTraceを紹介する。 MemTraceは3つの制御された次元に沿って各事実を探索する。 同様にプールされた精度は、異なる失敗を隠すことに気付きます。
  論文  参考訳（メタデータ） (2026-06-15T22:21:23Z)
• Saccade crossing avoidance as a visual search strategy [4.371388370559826]
  個人によって異なる新たな記憶依存効果を報告し,これを自己交差回避と呼ぶ。 これは、ササードがスキャンパスの早期の通過を避ける傾向があり、どちらも振幅が小さい場合に最も顕著である。 自己交差的ペナルティ項を含むパラメトリック確率モデルは, ササードの長さと自己交差の連立統計を再現することができた。
  論文  参考訳（メタデータ） (2025-08-25T18:46:10Z)
• Time-Varying Propensity Score to Bridge the Gap between the Past and Present [104.46387765330142]
  本稿では,データ分布の段階的変化を検出するための時間変化確率スコアを提案する。 実装のさまざまな方法を示し、さまざまな問題について評価する。
  論文  参考訳（メタデータ） (2022-10-04T07:21:49Z)
• Long-Tailed Classification by Keeping the Good and Removing the Bad Momentum Causal Effect [64.41346045698144]
  長い尾の分類は、大規模なディープラーニングの鍵である。 既存の手法は主に、基本的な理論を欠いた再重み付け/再サンプリングに基づいている。 本稿では,従来の手法の理由を解明するだけでなく,新たな原理的解を導出する因果推論の枠組みを確立する。
  論文  参考訳（メタデータ） (2020-09-28T00:32:11Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。