論文の概要: Is the reconstruction loss culprit? An attempt to outperform JEPA

• arxiv url: http://arxiv.org/abs/2603.14131v1
• Date: Sat, 14 Mar 2026 21:39:56 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-03-17 16:19:35.623338
• Title: Is the reconstruction loss culprit? An attempt to outperform JEPA
• Title（参考訳）: 復興の損失は原因か?JEPAを上回る試み
• Authors: Alexey Potapov, Oleg Shcherbakov, Ivan Kravchenko,
• Abstract要約: 我々は,JEPAスタイルの予測表現学習と再構成に基づくオートエンコーダを比較検討した。 予測可能なコンポーネントを選択することを学ぶゲート付き予測オートエンコーダを導入する。
• 参考スコア（独自算出の注目度）: 0.3823356975862005
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: We evaluate JEPA-style predictive representation learning versus reconstruction-based autoencoders on a controlled "TV-series" linear dynamical system with known latent state and a single noise parameter. While an initial comparison suggests JEPA is markedly more robust to noise, further diagnostics show that autoencoder failures are strongly influenced by asymmetries in objectives and by bottleneck/component-selection effects (confirmed by PCA baselines). Motivated by these findings, we introduce gated predictive autoencoders that learn to select predictable components, mimicking the beneficial feature-selection behavior observed in over-parameterized PCA. On this toy testbed, the proposed gated model is stable across noise levels and matches or outperforms JEPA.
• Abstract（参考訳）: 制御された"TVシリーズ"線形力学系上でのJEPAスタイルの予測表現学習と再構成に基づくオートエンコーダの比較を行った。 最初の比較ではJEPAはノイズに対して顕著に堅牢であることを示しているが、さらなる診断により、オートエンコーダの故障は目的の非対称性やボトルネック/コンポーネント選択効果(PCAベースラインで確認されている)に強く影響されていることが示されている。 これらの知見に触発されて、我々は予測可能なコンポーネントを選択することを学ぶゲート型予測オートエンコーダを導入し、過度なパラメータ化PCAで観察される有益な特徴選択挙動を模倣した。 このおもちゃのテストベッドでは、提案されたゲートモデルがノイズレベルと一致し、JEPAより優れ、安定している。

関連論文リスト

• Shaping Parameter Contribution Patterns for Out-of-Distribution Detection [6.294911773583837]
  訓練された分類器はスパースパラメータの寄与パターンに依存する傾向があることを示す。 この脆さは、不規則にこれらのパラメータをトリガーするOOD入力によって利用することができ、過信な予測をもたらす。 この問題に対処するため,SPCP (Shaping Contribution Patterns) というシンプルな手法を提案する。
  論文  参考訳（メタデータ） (2026-03-07T13:13:42Z)
• Optimizing Continuous-Wave Pumped Entanglement-based QKD in Noisy Environment [0.6291443816903801]
  量子鍵分布(QKD)は、量子コンピュータの脅威から暗号システムを保護するための有望なソリューションとして登場した。 本稿では,検出タイミングの不確実性(ジッタ)を含むQKDシステムパラメータに対する極端雑音の影響について検討する。 これらのパラメータの変化は、ノイズの多い環境でのシステム性能を決定する上で重要な役割を担っていることを示す。
  論文  参考訳（メタデータ） (2025-02-20T21:45:14Z)
• Incorporating Gradients to Rules: Towards Lightweight, Adaptive Provenance-based Intrusion Detection [11.14938737864796]
  多様な環境に自動的に適応できるルールベースのPIDSであるCAPTAINを提案する。 我々は、微分可能なタグ伝搬フレームワークを構築し、勾配降下アルゴリズムを用いてこれらの適応パラメータを最適化する。 その結果,CAPTAINは検出精度の向上,検出遅延の低減,ランタイムオーバーヘッドの低減,検出アラームや知識の解釈性の向上を実現している。
  論文  参考訳（メタデータ） (2024-04-23T03:50:57Z)
• Diffusion Denoising Process for Perceptron Bias in Out-of-distribution Detection [67.49587673594276]
  我々は、識別器モデルが入力の特定の特徴に対してより敏感であることを示唆する新しいパーセプトロンバイアスの仮定を導入し、過度な問題を引き起こした。 DMの拡散分解過程 (DDP) が非対称の新たな形態として機能し, 入力を高め, 過信問題を緩和するのに適していることを示す。 CIFAR10, CIFAR100, ImageNetによる実験により, 提案手法がSOTA手法より優れていることが示された。
  論文  参考訳（メタデータ） (2022-11-21T08:45:08Z)
• Large-Scale Sequential Learning for Recommender and Engineering Systems [91.3755431537592]
  本稿では,現在の状況に適応してパーソナライズされたランキングを提供する自動アルゴリズムの設計に焦点を当てる。 前者はSAROSと呼ばれる新しいアルゴリズムを提案し,インタラクションの順序を学習するためのフィードバックの種類を考慮に入れている。 提案手法は, 電力網の故障検出に対する初期アプローチと比較して, 統計的に有意な結果を示す。
  論文  参考訳（メタデータ） (2022-05-13T21:09:41Z)
• Using Kalman Filter The Right Way: Noise Estimation Is Not Optimal [46.556605821252276]
  kfの仮定を少しでも破っても、効果のあるノイズを著しく修正できることを示す。 KFの対称および正定値(SPD)パラメータに勾配に基づく最適化を効率的に適用する方法を提案する。
  論文  参考訳（メタデータ） (2021-04-06T08:59:15Z)
• AP-Loss for Accurate One-Stage Object Detection [49.13608882885456]
  一段階の物体検出器は、分類損失と局所化損失を同時に最適化することによって訓練される。 前者は、多数のアンカーのため、非常に前景と後方のアンカーの不均衡に悩まされる。 本稿では,一段検知器の分類タスクをランキングタスクに置き換える新しい枠組みを提案する。
  論文  参考訳（メタデータ） (2020-08-17T13:22:01Z)
• Unsupervised Anomaly Detection with Adversarial Mirrored AutoEncoders [51.691585766702744]
  本稿では,識別器のミラー化ワッサースタイン損失を利用して,よりセマンティックレベルの再構築を行う逆自動エンコーダの変種を提案する。 我々は,再建基準の代替として,異常スコアの代替尺度を提案した。 提案手法は,OOD検出ベンチマークにおける異常検出の最先端手法よりも優れている。
  論文  参考訳（メタデータ） (2020-03-24T08:26:58Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。