論文の概要: Breaking Diversity Collapse in Spiking Pseudo-Ensembles for Efficient OOD Detection in Remote Sensing

• arxiv url: http://arxiv.org/abs/2608.01090v1
• Date: Sun, 02 Aug 2026 08:44:25 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-04 15:07:25.081665
• Title: Breaking Diversity Collapse in Spiking Pseudo-Ensembles for Efficient OOD Detection in Remote Sensing
• Title（参考訳）: リモートセンシングにおける高効率OOD検出のためのスパイキング擬似アンサンブルのダイバーシティ崩壊
• Abstract要約: スパイキングニューラルネットワーク(SNN)は、リソース制約されたリモートセンシングシステムにとって魅力的である。 深いアンサンブルは強い予測の不確実性をもたらすが、複数の完全なモデルとバックボーン評価を必要とする。 凍結したSNNバックボーンに複数の軽量な分類ヘッドを付加する効率的なスパイキング擬似アンサンブルを提案する。
• 参考スコア（独自算出の注目度）: 5.820052926638869
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Spiking Neural Networks (SNNs) are attractive for resource-constrained remote-sensing systems, but reliable out-of-distribution (OOD) detection remains challenging. Deep ensembles provide strong predictive uncertainty, yet require multiple complete models and backbone evaluations. We propose an efficient spiking pseudo-ensemble that attaches multiple lightweight classification heads to a frozen SNN backbone. Naively training these heads with cross-entropy can lead to diversity collapse, where independently parameterized heads may produce correlated predictions. To address this, we introduce an agree--disagree objective that preserves correct predictions on clean in-distribution samples while encouraging diversity on structured, uncertainty-inducing transformations of the same inputs. This provides a diversity-promoting training signal without requiring external OOD data. Experiments with Spikformer and ResNet19-SNN on EuroSAT demonstrate consistent improvements over conventionally trained pseudo-ensembles. Using three backbones with five heads each matches or improves upon a five-model deep ensemble on UCM and AID, while requiring approximately 38% fewer parameters and 40% fewer backbone evaluations. These results show that explicit diversity promotion can recover useful ensemble-style uncertainty at substantially lower deployment cost.
• Abstract（参考訳）: スパイキングニューラルネットワーク(SNN)は、リソース制約されたリモートセンシングシステムには魅力的だが、信頼性の高いアウト・オブ・ディストリビューション(OOD)検出は依然として難しい。 深いアンサンブルは強い予測の不確実性をもたらすが、複数の完全なモデルとバックボーン評価を必要とする。 凍結したSNNバックボーンに複数の軽量な分類ヘッドを付加する効率的なスパイキング擬似アンサンブルを提案する。 これらの頭部を交叉エントロピーでネーティブに訓練すると多様性は崩壊し、独立にパラメータ化された頭部は相関した予測をもたらす可能性がある。 これを解決するために、我々は、同じ入力の構造化された不確実性をもたらす変換の多様性を奨励しながら、クリーンな分布内サンプルの正確な予測を保ちながら、アセンサス・ディスアグリーの目的を導入する。 これにより、外部のOODデータを必要とせずに、多様性を促進するトレーニング信号が提供される。 SpikformerとResNet19-SNNによるEuroSATの実験では、従来の擬似アンサンブルよりも一貫した改善が示された。 それぞれ5つの頭を持つ3つのバックボーンを使用し、UCMとAIDの5つのモデルのディープアンサンブルを改善し、約38%のパラメータと40%のバックボーン評価を必要とした。 これらの結果から,明示的な多様性向上が,デプロイコストを大幅に削減して,有用なアンサンブルスタイルの不確かさを回復させる可能性が示唆された。

関連論文リスト

• Divergence Meets Consensus: A Multi-Source Negative Sampling Framework for Sequential Recommendation [12.425187572716574]
  「Teacher-Peer-Self」フレームワークは、ヴィゴツキーのZPD理論に触発されたものである。 マルチソーススコアリング、分散再ランク付け、コンセンサス蒸留が組み込まれている。 常に最先端のネガティブサンプリング手法より優れています。
  論文  参考訳（メタデータ） (2026-05-19T10:42:23Z)
• Game-Theoretic Gradient Control for Robust Neural Network Training [0.0]
  フィードフォワードニューラルネットワーク(FFNN)は入力ノイズに弱いため、予測性能が低下する。 本研究の目的は,バックプロパゲーションを改良し,マルチエージェントゲームとして解釈し,制御対象変数の雑音化を探索することにより,FFNN雑音の頑健性を高めることである。
  論文  参考訳（メタデータ） (2025-07-25T10:26:25Z)
• Enhancing Uncertainty Estimation and Interpretability via Bayesian Non-negative Decision Layer [55.66973223528494]
  本研究では, ディープニューラルネットワークを条件付きベイズ非負因子分析として再構成したベイズ非負決定層(BNDL)を開発した。 BNDLは複雑な依存関係をモデル化し、堅牢な不確実性推定を提供する。 また,BNDLが効果的に不整合学習を達成できるという理論的保証も提供する。
  論文  参考訳（メタデータ） (2025-05-28T10:23:34Z)
• Deep Neural Networks Tend To Extrapolate Predictably [51.303814412294514]
  ニューラルネットワークの予測は、アウト・オブ・ディストリビューション(OOD)入力に直面した場合、予測不可能で過信される傾向がある。 我々は、入力データがOODになるにつれて、ニューラルネットワークの予測が一定値に向かう傾向があることを観察する。 我々は、OOD入力の存在下でリスクに敏感な意思決定を可能にするために、私たちの洞察を実際に活用する方法を示します。
  論文  参考訳（メタデータ） (2023-10-02T03:25:32Z)
• Improving Uncertainty Quantification of Variance Networks by Tree-Structured Learning [10.566352737844369]
  本研究では,不確実性に基づいて特徴空間を複数の領域に分割する木構造局所ニューラルネットワークモデルを提案する。 提案したUncertainty-Splitting Neural Regression Tree (USNRT)は、新しいスプリッティング基準を採用している。 USNRTやそのアンサンブルは、分散を伴う不確実性を定量化するための最近の一般的な手法と比較して、優れた性能を示している。
  論文  参考訳（メタデータ） (2022-12-24T05:25:09Z)
• Can pruning improve certified robustness of neural networks? [106.03070538582222]
  ニューラルネット・プルーニングはディープ・ニューラル・ネットワーク(NN)の実証的ロバスト性を向上させることができることを示す。 実験の結果,NNを適切に刈り取ることで,その精度を8.2%まで向上させることができることがわかった。 さらに,認証された宝くじの存在が,従来の密集モデルの標準および認証された堅牢な精度に一致することを観察する。
  論文  参考訳（メタデータ） (2022-06-15T05:48:51Z)
• DICE: Diversity in Deep Ensembles via Conditional Redundancy Adversarial Estimation [109.11580756757611]
  メンバー間の多様性のおかげで、ディープアンサンブルは単一のネットワークよりもパフォーマンスが良い。 最近のアプローチでは、多様性を高めるための予測を規則化していますが、個々のメンバーのパフォーマンスも大幅に減少します。 DICEと呼ばれる新しいトレーニング基準を導入し、特徴間の素早い相関を減らして多様性を高める。
  論文  参考訳（メタデータ） (2021-01-14T10:53:26Z)
• Diversity inducing Information Bottleneck in Model Ensembles [73.80615604822435]
  本稿では,予測の多様性を奨励することで,ニューラルネットワークの効果的なアンサンブルを生成する問題をターゲットにする。 そこで本研究では,潜伏変数の学習における逆損失の多様性を明示的に最適化し,マルチモーダルデータのモデリングに必要な出力予測の多様性を得る。 最も競争力のあるベースラインと比較して、データ分布の変化の下で、分類精度が大幅に向上した。
  論文  参考訳（メタデータ） (2020-03-10T03:10:41Z)
• Triple Wins: Boosting Accuracy, Robustness and Efficiency Together by Enabling Input-Adaptive Inference [119.19779637025444]
  深層ネットワークは、(クリーンな自然画像の場合)正確さと(敵対的な摂動画像の場合)頑健さの相違に直面することを最近提案された。 本稿では,入力適応推論に関連するマルチエグジットネットワークについて検討し,モデル精度,ロバスト性,効率の最適化において「スイートポイント」を達成する上での強い期待を示す。
  論文  参考訳（メタデータ） (2020-02-24T00:40:22Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。