論文の概要: Beyond Local Linearity: Scale-Resolved Geometry of Learned Image Encoders

• arxiv url: http://arxiv.org/abs/2609.39115v1
• Date: Wed, 30 Sep 2026 06:51:36 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-01 18:57:27.29763
• Title: Beyond Local Linearity: Scale-Resolved Geometry of Learned Image Encoders
• Title（参考訳）: 局所線形性を超えて:学習画像エンコーダのスケール分解幾何
• Abstract要約: 本稿では,エンコーダの計測値の変位量と局所線形予測値との比較を行った。 多様な画像エンコーダにまたがって、このバンプと呼ばれる特徴的なプラトーライズ・ピーク・デカイプロファイルを発見した。 結果は、エンコーダ表現が学習によってどのように形成されるかのサインとして、局所幾何学から逸脱することを確立する。
• 参考スコア（独自算出の注目度）: 2.6545021289556208
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Understanding how learned representations respond to finite input changes is important for characterizing their sensitivity, invariances, and robustness. Yet existing geometric analyses are predominantly local and describe only infinitesimal perturbations. We introduce a scale-resolved statistic that compares an encoder's measured feature displacement with its local linear prediction as the perturbation magnitude increases. Across diverse image encoders, we discover a characteristic plateau-rise-peak-decay profile, which we call the bump. The bump is absent at initialization, emerges early during standard training, and does not form under randomized labels or random-noise inputs. Its shape also varies with the training distribution and robustness objective. These results establish departures from local geometry as a signature of how encoder representations are shaped by learning.
• Abstract（参考訳）: 学習された表現が有限な入力変化にどのように反応するかを理解することは、その感度、不変性、堅牢性を特徴づけるのに重要である。 しかし、既存の幾何学的解析は主に局所的であり、無限小摂動のみを記述する。 本稿では,エンコーダの計測値の特徴変位と局所線形予測との比較を行った。 多様な画像エンコーダにまたがって、このバンプと呼ばれる特徴的なプラトーライズ・ピーク・デカイプロファイルを発見した。 バンプは初期化時に欠落しており、標準トレーニング中に早期に出現し、ランダムなラベルやランダムなノイズ入力では形成されない。 その形状は、トレーニングの分布と頑健さの目的によっても異なる。 これらの結果は、エンコーダ表現が学習によってどのように形成されるかのサインとして、局所幾何学から逸脱することを確立する。

関連論文リスト

• SMKC: Sketch Based Kernel Correlation Images for Variable Cardinality Time Series Anomaly Detection [0.0]
  運用環境では、監視システムはセンサーチャーンを頻繁に経験する。 本稿では,異常検出器から動的入力構造を分離するフレームワークSMKCを提案する。 SMKC表現におけるランダムプロジェクションと近傍近傍の検出器は、完全に訓練されたベースラインと競合する。
  論文  参考訳（メタデータ） (2026-01-28T21:15:11Z)
• Unlearning-based Neural Interpretations [51.99182464831169]
  静的関数を用いて定義される現在のベースラインは、バイアスがあり、脆弱であり、操作可能であることを示す。 UNIは、学習不可能で、偏りがなく、適応的なベースラインを計算し、入力を最も急な上昇の未学習方向に向けて摂動させることを提案する。
  論文  参考訳（メタデータ） (2024-10-10T16:02:39Z)
• Localized Gaussians as Self-Attention Weights for Point Clouds Correspondence [92.07601770031236]
  本稿では,エンコーダのみのトランスフォーマーアーキテクチャのアテンションヘッドにおける意味的意味パターンについて検討する。 注意重みの修正はトレーニングプロセスの促進だけでなく,最適化の安定性の向上にも寄与する。
  論文  参考訳（メタデータ） (2024-09-20T07:41:47Z)
• Fundamental Limits of Two-layer Autoencoders, and Achieving Them with Gradient Methods [91.54785981649228]
  本稿では,非線形二層型オートエンコーダについて述べる。 本結果は,人口リスクの最小化要因を特徴付け,その最小化要因が勾配法によって達成されることを示す。 符号アクティベーション関数の特別な場合において、この解析は、シャローオートエンコーダによるガウス音源の損失圧縮の基本的な限界を確立する。
  論文  参考訳（メタデータ） (2022-12-27T12:37:34Z)
• Adversarial robustness of VAEs through the lens of local geometry [1.2228014485474623]
  可変オートエンコーダ (VAEs) に対する教師なし攻撃では、敵は入力サンプルに小さな摂動を発見し、潜時空間の符号化を著しく変化させる。 本稿では, VAEを攻撃するための最適手法として, プルバック計量テンソルの方向バイアスを利用する方法を示す。
  論文  参考訳（メタデータ） (2022-08-08T05:53:57Z)
• Self-Supervised Training with Autoencoders for Visual Anomaly Detection [61.62861063776813]
  我々は, 正規サンプルの分布を低次元多様体で支持する異常検出において, 特定のユースケースに焦点を当てた。 我々は、訓練中に識別情報を活用する自己指導型学習体制に適応するが、通常の例のサブ多様体に焦点をあてる。 製造領域における視覚異常検出のための挑戦的なベンチマークであるMVTec ADデータセットで、最先端の新たな結果を達成する。
  論文  参考訳（メタデータ） (2022-06-23T14:16:30Z)
• Random Feature Amplification: Feature Learning and Generalization in Neural Networks [44.431266188350655]
  勾配降下法により訓練された2層ReLUネットワークにおける特徴学習過程の特徴付けを行う。 線形分類器は分布のランダムな推定に勝るものの,勾配降下により訓練された2層ReLUネットワークはラベルノイズ率に近い一般化誤差を達成できることを示す。
  論文  参考訳（メタデータ） (2022-02-15T18:18:22Z)
• Unsupervised Dense Deformation Embedding Network for Template-Free Shape Correspondence [18.48814403488283]
  現在のディープラーニングベースの手法では、ポイント単位の翻訳を学習するために、高密度アノテーションの監督が必要である。 本研究では,密集した局所特徴から非剛体形状間の変形を予測できる新しい非教師なし変形埋め込みネットワーク(UD2E-Net)を開発した。 我々のUD2E-Netは、ファウストインターチャレンジで24%、ファウストイントラチャレンジで13%、教師なし手法で24%、最先端の非教師なし手法より優れています。
  論文  参考訳（メタデータ） (2021-08-26T07:07:19Z)
• ProAlignNet : Unsupervised Learning for Progressively Aligning Noisy Contours [12.791313859673187]
  ProAlignNetは、輪郭形状間の大規模なミスアライメントと複雑な変換を説明できる。 近接感度および局所形状依存類似度測定値の上界から導出される新しい損失関数を用いて学習する。 実世界の2つの応用において、提案したモデルは最先端の手法よりも一貫して優れている。
  論文  参考訳（メタデータ） (2020-05-23T14:56:14Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。