論文の概要: How Data Augmentation Shapes Neural Representations
- arxiv url: http://arxiv.org/abs/2605.15306v1
- Date: Thu, 14 May 2026 18:19:40 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-18 21:22:26.053637
- Title: How Data Augmentation Shapes Neural Representations
- Title(参考訳): データ拡張はどのようにニューラル表現を形作るか
- Authors: Tianxiao He, Alex H. Williams, Sarah E. Harvey,
- Abstract要約: 我々は、異なるデータ拡張戦略が、ニューラルネットワークの内部表現をどのように作り直すかを示す。
形状解析のツールを用いて、ネットワーク隠蔽表現を計量空間に埋め込む。
増大強度の増大は, この分野における軌道の発達に繋がることを示す。
- 参考スコア(独自算出の注目度): 6.470483153630981
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Data augmentation is widely recognized for improving generalization in deep networks, yet its impact on the geometry of learned representations remains poorly understood. In this work, we characterize how different data augmentation strategies reshape internal representations in neural networks. Using tools from shape analysis, we embed network hidden representations into a metric space where distance is invariant to scaling, translation, rotation and reflection. We show that increasing augmentation strength leads to well-behaved trajectories in this space, and that different augmentation types steer representations in distinct directions. Moreover, we investigate how neural representation shapes are distorted along data augmentation trajectories, and show that insights from neural geometry can predict which representations provide the most improvement when ensembling models. Our results reveal shared geometric patterns across architectures and seeds, and suggest that analyzing shape-space trajectories offers a principled tool for understanding and comparing data augmentation methods.
- Abstract(参考訳): データ拡張はディープネットワークの一般化を改善するために広く認識されているが、学習された表現の幾何学への影響はいまだによく分かっていない。
本研究では、異なるデータ拡張戦略がニューラルネットワークの内部表現をどのように再構築するかを特徴付ける。
形状解析のツールを用いて、ネットワーク隠蔽表現を距離がスケール、翻訳、回転、反射に不変な距離空間に埋め込む。
拡張強度の増大は、この空間における良好な軌道につながり、異なる拡張型ステア表現が異なる方向に導かれることを示す。
さらに、データ拡張軌跡に沿って神経表現形状がどのように歪められているかを検討し、ニューラルジオメトリから得られる洞察が、モデルを理解する際に最も優れた表現を提供するかを予測できることを示す。
この結果から,図形空間の軌跡を解析することで,データ拡張手法の理解と比較が可能であることが示唆された。
関連論文リスト
- Observing Health Outcomes Using Remote Sensing Imagery and Geo-Context Guided Visual Transformer [8.825339734603862]
本稿では,地理空間情報からの誘導によりリモートセンシング画像処理を向上する新しいモデルを提案する。
本手法では,多様な地理空間データを画像パッチと空間的に整合した埋め込みパッチに変換する地理空間埋め込み機構を導入する。
提案手法は,既存の地理空間基盤モデルより病気の流行予測に優れることを示す。
論文 参考訳(メタデータ) (2026-01-26T22:45:28Z) - Geometric Properties and Graph-Based Optimization of Neural Networks: Addressing Non-Linearity, Dimensionality, and Scalability [0.0]
この研究は、幾何学的メトリクスとグラフ構造を通してニューラルネットワークを探索する。
これは、ニューラルネットワークを管理する幾何学構造についての限られた理解に対処する。
我々は,(1)線形分離可能性の限界を克服し,(2)次元・複雑さのトレードオフを管理すること,(3)グラフ表現によるスケーラビリティ向上という3つの主要な課題を特定する。
論文 参考訳(メタデータ) (2025-02-24T03:36:34Z) - Geometry Distributions [51.4061133324376]
本稿では,分布として幾何学をモデル化する新しい幾何学的データ表現を提案する。
提案手法では,新しいネットワークアーキテクチャを用いた拡散モデルを用いて表面点分布の学習を行う。
本研究では,多種多様な対象に対して質的かつ定量的に表現を評価し,その有効性を実証した。
論文 参考訳(メタデータ) (2024-11-25T04:06:48Z) - Reparameterization through Spatial Gradient Scaling [69.27487006953852]
リパラメータ化は、学習中に畳み込み層を等価なマルチブランチ構造に変換することによって、ディープニューラルネットワークの一般化を改善することを目的としている。
本稿では,畳み込みネットワークにおける重み間の学習焦点を再分配する空間勾配スケーリング手法を提案する。
論文 参考訳(メタデータ) (2023-03-05T17:57:33Z) - Experimental Observations of the Topology of Convolutional Neural
Network Activations [2.4235626091331737]
トポロジカル・データ解析は、複雑な構造のコンパクトでノイズ・ロバストな表現を提供する。
ディープニューラルネットワーク(DNN)は、モデルアーキテクチャによって定義された一連の変換に関連する数百万のパラメータを学習する。
本稿では,画像分類に使用される畳み込みニューラルネットワークの解釈可能性に関する知見を得る目的で,TDAの最先端技術を適用した。
論文 参考訳(メタデータ) (2022-12-01T02:05:44Z) - Augmentation Invariant Manifold Learning [0.5827521884806071]
本稿では,拡張不変多様体学習と呼ばれる新しい表現学習手法を提案する。
既存の自己教師付き手法と比較して、新しい手法は多様体の幾何学的構造と拡張データの不変性を同時に活用する。
提案手法におけるデータ拡張の役割を理論的研究により明らかにし, 下流解析において, 拡張データから得られたデータ表現が$k$-nearestの隣人を改善できる理由と方法を明らかにした。
論文 参考訳(メタデータ) (2022-11-01T13:42:44Z) - Toward a Geometrical Understanding of Self-supervised Contrastive
Learning [55.83778629498769]
自己教師付き学習(SSL)は、人間のアノテーションがなければ、伝達学習に有効なデータ表現を作成するための最重要技術の一つである。
メインストリームSSL技術は、エンコーダとプロジェクタという2つのカスケードニューラルネットワークを備えた、特定のディープニューラルネットワークアーキテクチャに依存している。
本稿では,データ拡張ポリシーの強みがデータ埋め込みに与える影響について検討する。
論文 参考訳(メタデータ) (2022-05-13T23:24:48Z) - Leveraging Equivariant Features for Absolute Pose Regression [9.30597356471664]
変換と回転の同変である畳み込みニューラルネットワークは,カメラの動きの表現を直接特徴空間に誘導することを示す。
次に、この幾何学的性質により、画像平面保存変換の全グループの下でトレーニングデータを暗黙的に増大させることができることを示す。
論文 参考訳(メタデータ) (2022-04-05T12:44:20Z) - Revisiting Transformation Invariant Geometric Deep Learning: An Initial Representation Perspective [38.314914702299056]
我々は幾何学的データのための単純で汎用的なプラグインであるTransform In Neural Networks (TinvNN)を提案する。
具体的には,多次元スケーリングを改良することにより,変換不変性と距離保存初期点表現を実現する。
我々は、TinvNNが変換不変性を厳密に保証し、既存のニューラルネットワークと組み合わせられるほど汎用的で柔軟なことを証明した。
論文 参考訳(メタデータ) (2021-12-23T03:52:33Z) - Towards Deeper Graph Neural Networks [63.46470695525957]
グラフ畳み込みは近傍の集約を行い、最も重要なグラフ操作の1つである。
いくつかの最近の研究で、この性能劣化は過度に滑らかな問題に起因している。
本研究では,大きな受容領域からの情報を適応的に組み込むディープ適応グラフニューラルネットワーク(DAGNN)を提案する。
論文 参考訳(メタデータ) (2020-07-18T01:11:14Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。