論文の概要: Improving Signals, Declining Encoder: A Known-Answer Test of Label-Free Monitoring in Self-Supervised Learning

• arxiv url: http://arxiv.org/abs/2610.35766v1
• Date: Mon, 26 Oct 2026 17:10:10 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-27 22:27:14.125358
• Title: Improving Signals, Declining Encoder: A Known-Answer Test of Label-Free Monitoring in Self-Supervised Learning
• Title（参考訳）: 信号の改善, ディライニングエンコーダ: 自己教師型学習におけるラベルフリーモニタリングの解答テスト
• Abstract要約: 生成因子が既知の合成画像上でLeJEPAエンコーダを訓練した。 10種中9種では,これらの因子の可読性は突然低下し,ほぼ常に同じ方向の因子空間に留まった。 追跡した11のラベルなし信号のほとんどは改善を続け、低下しないランよりも低下したランの方が優れていると評価した。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Self-supervised training is monitored without labels, through the loss and statistics of the learned features. We report a case where we know the encoders lost part of what they had learned, so we can check whether these signals noticed. We trained LeJEPA encoders on synthetic images with known generating factors. In nine of ten seeds, the readability of those factors fell abruptly and stayed down, nearly always along the same direction in factor space. Meanwhile the loss kept falling, and most of the eleven label-free signals we tracked kept improving and rated the declining runs better than runs that did not decline. Standard change-point detection rarely flagged the decline near its onset, and selecting checkpoints by these signals mostly chose ones after it.
• Abstract（参考訳）: 自己教師型トレーニングは、学習した機能の損失と統計を通じてラベルなしで監視される。 私たちは、エンコーダが学習した情報の一部を失ったことを知っており、これらの信号に気づいたかどうかを確認できるケースを報告します。 生成因子が既知の合成画像上でLeJEPAエンコーダを訓練した。 10種中9種では,これらの因子の可読性は突然低下し,ほぼ常に同じ方向の因子空間に留まった。 一方、損失は減少し続け、追跡した11のラベルなし信号のほとんどは改善を続け、低下しないランよりも低下したランの方が良い評価を受けた。 標準的な変更点検出は、オンセット付近で減少を示すことはめったになく、これらの信号によってチェックポイントを選択することは、主にそれに続くものを選択した。

関連論文リスト

• hacktrace: behavior-supervised detection of reward hacking during code generation [52.709361620508595]
  コーディングエージェントは、コードを修正するか、バグを露呈するテストを削除することで、パスグレードを得ることができる。 我々はQwen3-8Bから173,561個の注釈付きマルチターン符号化トラジェクトリをリリースし、成功を活かさないショートカット動作の監視が検出を大幅に改善することを示す。 HACKTRACEは、エージェントがコードを生成する際に既に計算している内部状態を読み取る行動監視モニターである。
  論文  参考訳（メタデータ） (2026-10-02T09:35:59Z)
• Two Regimes of Chain-of-Thought Unfaithfulness: Behavioral Detection Fails Where Models Are Wrong [1.2744523252873352]
  ブラックボックス(行動)によるFaithCoT-Benchの人間のアノテーションに対する不誠実なCoTの検出。 答えの正しさはあらゆるレベルで問題を構成する。
  論文  参考訳（メタデータ） (2026-07-26T04:43:53Z)
• Radial-Angular Geometry for Reliable Update Diagnosis in Noisy-Label Learning [3.6771547306155523]
  本報告では, 信頼性評価をラベル更新の診断として再放送する。 相対幾何学的衝突(Relative Geometric Conflict)は、大きなが整列したハードクリーンな更新と、破損したラベルによる大きな競合する更新を区別するのに役立つ。
  論文  参考訳（メタデータ） (2026-05-17T12:50:16Z)
• Label Delay in Online Continual Learning [77.05325581370893]
  しばしば見過ごされる重要な側面はラベルの遅延であり、遅くてコストのかかるアノテーションプロセスのために新しいデータがラベル付けされない可能性がある。 本稿では,データとラベルストリーム間のラベル遅延を,時間経過とともに明示的にモデル化した新しい連続学習フレームワークを提案する。 提案手法はラベル遅延係数に最も影響を受けていないことを示し、場合によっては非遅延の精度を回復させる。
  論文  参考訳（メタデータ） (2023-12-01T20:52:10Z)
• Losses over Labels: Weakly Supervised Learning via Direct Loss Construction [71.11337906077483]
  プログラム可能な弱い監視は、機械学習のパラダイムとして成長している。 ラベルの中間ステップを経由することなく,直接損失を発生させるため,ラベルのロバスト・オーバー・ラベル(Losses over Labels, LoL)を提案する。 いくつかのベンチマークテキストおよび画像分類タスクにおいて、LoLは既存の弱い監督手法を改善していることを示す。
  論文  参考訳（メタデータ） (2022-12-13T22:29:14Z)
• KnowMAN: Weakly Supervised Multinomial Adversarial Networks [8.135448729558876]
  本研究では,ラベリング関数に関連する信号の影響を制御可能な,対位法であるノウマンを提案する。 KnowMANは、事前訓練されたトランスフォーマー言語モデルと機能ベースのベースラインによる直接教師付き学習と比較して、結果を改善する。
  論文  参考訳（メタデータ） (2021-09-16T14:01:30Z)
• Detecting Rewards Deterioration in Episodic Reinforcement Learning [63.49923393311052]
  多くのRLアプリケーションでは、トレーニングが終了すると、エージェント性能の劣化をできるだけ早く検出することが不可欠である。 我々は,各エピソードにおける報酬が独立でもなく,同一に分散した,マルコフでもない,エピソード的枠組みを考察する。 平均シフトは、時間信号の劣化(報酬など)に対応する方法で定義し、最適な統計的パワーでこの問題の試行を導出する。
  論文  参考訳（メタデータ） (2020-10-22T12:45:55Z)
• Constrained Labeling for Weakly Supervised Learning [15.365232702938677]
  本稿では、弱い監視信号を組み合わせるための単純なデータフリーアプローチを提案する。 我々の手法は効率よく安定しており、数回の降下を繰り返して収束する。 本手法は,様々なテキスト・画像分類タスクにおいて,他の弱い監督手法よりも優れていることを示す。
  論文  参考訳（メタデータ） (2020-09-15T21:30:53Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。