論文の概要: Neural Surveillance: Live-Update Visualization of Latent Training Dynamics

• arxiv url: http://arxiv.org/abs/2405.15135v2
• Date: Sat, 11 Oct 2025 11:24:37 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-10-14 18:06:29.485909
• Title: Neural Surveillance: Live-Update Visualization of Latent Training Dynamics
• Title（参考訳）: ニューラルサーベイランス:潜在トレーニングダイナミクスのライブ更新可視化
• Authors: Xianglin Yang, Jin Song Dong,
• Abstract要約: SentryCamは、学習を通して隠された表現の進行を追跡する視覚化フレームワークである。 SentryCamは、最小レイテンシで進化する表現空間を高忠実に視覚化する。 本稿では,SentryCamのモデル監査の実用性について,トレーニング不安定性に関するケーススタディを通して実証する。
• 参考スコア（独自算出の注目度）: 16.042156252825755
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Monitoring the inner state of deep neural networks is essential for auditing the learning process and enabling timely interventions. While conventional metrics like validation loss offer a surface-level view of performance, the evolution of a model's hidden representations provides a deeper, complementary window into its internal dynamics. However, the literature lacks a real-time tool to monitor these crucial internal states. To address this, we introduce SentryCam, a live-update visualization framework that tracks the progression of hidden representations throughout training. SentryCam produces high-fidelity visualizations of the evolving representation space with minimal latency, serving as a powerful dashboard for understanding how a model learns. We quantitatively validate the faithfulness of SentryCam's visualizations across diverse datasets and architectures (ResNet, ViT). Furthermore, we demonstrate SentryCam's practical utility for model auditing through a case study on training instability. We designed an automated auditing system with geometry-based alerts that successfully identified impending model failure up to 7 epochs earlier than was evident from the validation loss curve. SentryCam's flexible framework is easily adaptable, supporting both the exploratory analysis and proactive auditing essential for robust model development. The code is available at https://github.com/xianglinyang/SentryCam.
• Abstract（参考訳）: 深層ニューラルネットワークの内部状態をモニタリングすることは、学習プロセスの監査とタイムリーな介入を可能にするために不可欠である。 バリデーション損失のような従来のメトリクスはパフォーマンスの面レベルのビューを提供するが、モデルの隠れ表現の進化は、内部のダイナミクスをより深く補完的なウィンドウを提供する。 しかし、これらの重要な内部状態を監視するリアルタイムツールが欠如している。 これを解決するために,隠れた表現の進行を追跡するリアルタイム可視化フレームワークであるSentryCamを紹介した。 SentryCamは、モデルがどのように学習するかを理解するための強力なダッシュボードとして機能し、最小のレイテンシで、進化する表現空間を高忠実に視覚化する。 我々は、さまざまなデータセットやアーキテクチャ(ResNet, ViT)にわたるSentryCamの可視化の忠実さを定量的に検証する。 さらに,モデル監査におけるSentryCamの実用性を,トレーニング不安定性のケーススタディで実証した。 検証損失曲線から明らかなよりも7時間早く予測可能なモデル故障を,幾何に基づく警告を用いた自動監査システムを設計した。 SentryCamのフレキシブルなフレームワークは容易に適応可能で、探索分析と積極的な監査の両方が堅牢なモデル開発に必須である。 コードはhttps://github.com/xianglinyang/SentryCamで公開されている。

関連論文リスト

• Premonition: Using Generative Models to Preempt Future Data Changes in Continual Learning [63.850451635362425]
  継続的な学習には、データ分散の継続的な変化に対応するためのモデルが必要である。 本稿では,大規模言語モデルと画像生成モデルの組み合わせが有用であることを示す。 トレーニング済みネットワークのバックボーンは、下流の連続学習問題に有用な表現を学習できることがわかった。
  論文  参考訳（メタデータ） (2024-03-12T06:29:54Z)
• Robust Machine Learning by Transforming and Augmenting Imperfect Training Data [6.928276018602774]
  この論文は、現代の機械学習のいくつかのデータ感度を探求する。 まず、トレーニングデータで測定された事前の人間の識別をMLが符号化するのを防ぐ方法について論じる。 次に、トレーニング中に予測忠実度を提供するが、デプロイ時に信頼性が低い突発的特徴を含むデータから学習する問題について論じる。
  論文  参考訳（メタデータ） (2023-12-19T20:49:28Z)
• What Makes Pre-Trained Visual Representations Successful for Robust Manipulation? [57.92924256181857]
  照明やシーンテクスチャの微妙な変化の下では,操作や制御作業のために設計された視覚表現が必ずしも一般化されないことがわかった。 創発的セグメンテーション能力は,ViTモデルにおける分布外一般化の強い予測因子であることがわかった。
  論文  参考訳（メタデータ） (2023-11-03T18:09:08Z)
• COOLer: Class-Incremental Learning for Appearance-Based Multiple Object Tracking [32.47215340215641]
  本稿では,連続学習研究の範囲を,複数物体追跡(MOT)のためのクラス増分学習に拡張する。 オブジェクト検出器の連続学習のための従来のソリューションは、外見に基づくトラッカーのデータ関連ステージには対応していない。 我々は,Contrastive- and cOntinual-LearningベースのトラッカーであるCOOLerを紹介した。
  論文  参考訳（メタデータ） (2023-10-04T17:49:48Z)
• Crop-Transform-Paste: Self-Supervised Learning for Visual Tracking [137.26381337333552]
  本研究では,十分なトレーニングデータを合成できるCrop-Transform-Paste演算を開発した。 オブジェクトの状態はすべての合成データで知られているので、既存のディープトラッカーは人間のアノテーションなしで日常的に訓練することができる。
  論文  参考訳（メタデータ） (2021-06-21T07:40:34Z)
• Visual Distant Supervision for Scene Graph Generation [66.10579690929623]
  シーングラフモデルは通常、大量のラベル付きデータを人間のアノテーションで教師付き学習する必要がある。 本研究では,人間ラベルデータを用いずにシーングラフモデルを訓練できる視覚関係学習の新しいパラダイムである視覚遠方監視を提案する。 包括的な実験結果から、我々の遠隔監視モデルは、弱い監督と半監督のベースラインよりも優れています。
  論文  参考訳（メタデータ） (2021-03-29T06:35:24Z)
• Learning Invariant Representations for Reinforcement Learning without Reconstruction [98.33235415273562]
  本研究では,表現学習が画像などのリッチな観察からの強化学習を,ドメイン知識や画素再構成に頼ることなく促進する方法について検討する。 シミュレーションメトリクスは、連続MDPの状態間の振る舞いの類似性を定量化する。 修正された視覚的 MuJoCo タスクを用いてタスク関連情報を無視する手法の有効性を実証する。
  論文  参考訳（メタデータ） (2020-06-18T17:59:35Z)
• Laplacian Denoising Autoencoder [114.21219514831343]
  本稿では,新しいタイプの自動符号化器を用いてデータ表現を学習することを提案する。 勾配領域における潜伏クリーンデータを破損させて雑音入力データを生成する。 いくつかのビジュアルベンチマークの実験では、提案されたアプローチでより良い表現が学べることが示されている。
  論文  参考訳（メタデータ） (2020-03-30T16:52:39Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。