論文の概要: Representational Geometry as a Diagnostic for Adversarial Robustness
- arxiv url: http://arxiv.org/abs/2611.17684v1
- Date: Fri, 13 Nov 2026 03:00:03 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-16 18:43:16.295334
- Title: Representational Geometry as a Diagnostic for Adversarial Robustness
- Title(参考訳): 対向ロバスト性診断としての表現幾何学
- Abstract要約: 敵対的トレーニング(Adversarial training)は、ニューラルネットワークを小さな意図的な入力摂動に対してより堅牢にするテクニックである。
MNISTで訓練された多層パーセプトロンを3つの対向的訓練体制下で検討した。
ネットワークが内部データ表現をどう構成するかという構造的変化を,敵対的学習が引き起こすことを示す。
- 参考スコア(独自算出の注目度): 8.083034003904691
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Adversarial training is a common technique for making neural networks more robust to small, intentionally crafted input perturbations, and robustness is commonly measured through accuracy under attack. By exploring inter-network representations across different adversarial training objectives, we can analyze whether multiple networks organize their latent representations similarly. We study Multilayer Perceptrons trained on MNIST under three adversarial training regimes and compare the resulting population training dynamics and geometry to those of a vanilla network. We use M-PHATE to embed data samples across training epochs and examine how the geometry of the data changes during training under adversarial objectives. On penultimate-layer representations we measure displacement between clean and perturbed points, distributional distance through maximum mean discrepancy, and nearest-neighbor recovery. Our visualizations and quantitative analyses show that adversarial training leads to structural changes in how networks organize internal data representations, and robust accuracy and representational stability can rank the same defenses in opposite ways. These findings support a discussion of re-evaluating how practitioners approach the auditing of model robustness by treating latent representations and their training trajectories as diagnostic artifacts across sets of networks.
- Abstract(参考訳): 敵対的トレーニングは、ニューラルネットワークを小さな、意図的な入力摂動に対してより堅牢にするための一般的なテクニックであり、攻撃中の正確性によって、ロバスト性は一般的に測定される。
異なる敵の訓練対象をまたいだネットワーク間表現を探索することにより、複数のネットワークが同様に潜在表現を編成するかどうかを分析することができる。
本研究は,MNISTで訓練された多層パーセプトロンを3つの敵対的訓練体制下で研究し,その結果の個体群トレーニングの力学と幾何学をバニラネットワークのそれと比較する。
我々は、M-PHATEを用いて、トレーニングエポックにデータサンプルを埋め込んで、学習中のデータ形状がどのように変化するかを調べる。
垂直層表現では, 清浄点と摂動点の変位, 最大平均誤差による分布距離, 最寄りの回復率を測定した。
我々の可視化と定量的分析は、ネットワークが内部データ表現をどのように構成するかの構造的変化をもたらし、堅牢な精度と表現安定性は、同じ防御を反対方向にランク付けできることを示している。
これらの知見は,潜伏表現とその訓練軌跡をネットワーク全体の診断的成果物として扱うことにより,モデルロバストネスの監査に実践者がどのようにアプローチするかを再評価する議論を支援する。
関連論文リスト
- A New Framework to Analyse the Distributional Robustness of Deep Neural Networks [0.0]
ニューラルネットワークの分布ロバスト性を解析・定量化する枠組みを提案する。
提案手法は,トレーニングデータを記憶したネットワークと,それを記憶していないネットワークとを区別できることを示す。
このフレームワークは,表現構造とロバストネスのモデルレベル診断に有用であることが示唆された。
論文 参考訳(メタデータ) (2026-05-20T15:42:56Z) - Pre-trained Models Succeed in Medical Imaging with Representation Similarity Degradation [6.545152478351316]
本研究は,表現類似性軌跡の定量化と解析を中心とした厳密な問題定義を確立する。
実験結果から,タスクの精度と事前学習した起源との類似性の両方を保った高性能モデルが存在する可能性が示唆された。
論文 参考訳(メタデータ) (2025-03-11T01:37:54Z) - Adversarial Training Can Provably Improve Robustness: Theoretical Analysis of Feature Learning Process Under Structured Data [38.44734564565478]
本稿では, 特徴学習理論の観点から, 対角的例と対角的学習アルゴリズムの理論的理解を提供する。
本手法は,頑健な特徴学習を効果的に強化し,非ロバストな特徴学習を抑えることができることを示す。
論文 参考訳(メタデータ) (2024-10-11T03:59:49Z) - Improving Network Interpretability via Explanation Consistency Evaluation [56.14036428778861]
本稿では、より説明可能なアクティベーションヒートマップを取得し、同時にモデル性能を向上させるフレームワークを提案する。
具体的には、モデル学習において、トレーニングサンプルを適応的に重み付けするために、新しいメトリクス、すなわち説明整合性を導入する。
そこで,本フレームワークは,これらのトレーニングサンプルに深い注意を払ってモデル学習を促進する。
論文 参考訳(メタデータ) (2024-08-08T17:20:08Z) - Understanding Robust Learning through the Lens of Representation
Similarities [37.66877172364004]
ディープニューラルネットワーク(DNN)の望ましい性質として、敵の例に対するロバストさが出現した
本稿では,頑健な学習によって学習される表現の性質が,標準的非破壊的学習から得られた表現とどのように異なるかを理解することを目的とする。
論文 参考訳(メタデータ) (2022-06-20T16:06:20Z) - Explainable Adversarial Attacks in Deep Neural Networks Using Activation
Profiles [69.9674326582747]
本稿では,敵対的事例に基づくニューラルネットワークモデルを検討するためのビジュアルフレームワークを提案する。
これらの要素を観察することで、モデル内の悪用領域を素早く特定できることを示す。
論文 参考訳(メタデータ) (2021-03-18T13:04:21Z) - Cross-Domain Similarity Learning for Face Recognition in Unseen Domains [90.35908506994365]
本研究では,cdt(cross-domain triplet, クロスドメイントリプレット)の損失を推測する新しいクロスドメインメトリック学習損失法を提案する。
CDT損失は、一つのドメインからコンパクトな特徴クラスタを強制することによって意味論的に意味のある特徴の学習を促進する。
本手法では,トレーニング中,注意深いハードペアサンプルマイニングおよびフィルタリング戦略は必要としない。
論文 参考訳(メタデータ) (2021-03-12T19:48:01Z) - Anomaly Detection on Attributed Networks via Contrastive Self-Supervised
Learning [50.24174211654775]
本論文では,アトリビュートネットワーク上の異常検出のためのコントラスト型自己監視学習フレームワークを提案する。
このフレームワークは、新しいタイプのコントラストインスタンスペアをサンプリングすることで、ネットワークデータからのローカル情報を完全に活用します。
高次元特性と局所構造から情報埋め込みを学習するグラフニューラルネットワークに基づくコントラスト学習モデルを提案する。
論文 参考訳(メタデータ) (2021-02-27T03:17:20Z) - On Robustness and Transferability of Convolutional Neural Networks [147.71743081671508]
現代の深層畳み込みネットワーク(CNN)は、分散シフトの下で一般化しないとしてしばしば批判される。
現代画像分類CNNにおける分布外と転送性能の相互作用を初めて検討した。
トレーニングセットとモデルサイズを増大させることで、分散シフトロバスト性が著しく向上することがわかった。
論文 参考訳(メタデータ) (2020-07-16T18:39:04Z) - Bridging Mode Connectivity in Loss Landscapes and Adversarial Robustness [97.67477497115163]
我々は、モード接続を用いて、ディープニューラルネットワークの対角的堅牢性を研究する。
実験では、異なるネットワークアーキテクチャやデータセットに適用される様々な種類の敵攻撃について取り上げる。
以上の結果から,モード接続は,敵の強靭性を評価・改善するための総合的なツールであり,実用的な手段であることが示唆された。
論文 参考訳(メタデータ) (2020-04-30T19:12:50Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。