論文の概要: RoMod: Temporal Routing Modulation via Mixture-of-Experts for Video Anomaly Detection
- arxiv url: http://arxiv.org/abs/2610.05131v1
- Date: Sun, 04 Oct 2026 11:23:14 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-10 23:09:34.723816
- Title: RoMod: Temporal Routing Modulation via Mixture-of-Experts for Video Anomaly Detection
- Title(参考訳): RoMod:ビデオ異常検出のためのMixture-of-Expertによる時間ルーティング変調
- Abstract要約: 異常に関連する証拠が,少数の専門家に集結していることが示唆された。
弱いラベル付きビデオのみ(5%)でトレーニングされた効率的なVADフレームワークであるRoModを提案する。
RoModは最先端のパフォーマンスを実現しつつ、同等サイズの高密度バックボーンよりも大幅に高速に動作します。
- 参考スコア(独自算出の注目度): 88.79183771990887
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Intermediate-layer features from multimodal large language models have shown strong potential for video anomaly detection (VAD), yet the origin of their discriminative power remains unclear. We study this question using sparse mixture-of-experts (MoE) models, whose explicit expert structure and sparse activation make their internal computation easier to inspect. With a fully frozen backbone and no additional training, we find that anomaly-related evidence is concentrated in a small set of experts. These experts recur across layers, spontaneously specialize in different anomaly types, and together form a dynamic routing subnetwork. We further show that the output channels most strongly influenced by these experts are also the hidden dimensions that contain the most anomaly-relevant information. Routing statistics can therefore serve as an internal anomaly cue that complements semantic features.Based on these findings, we propose RoMod, an efficient VAD framework trained with only \(5\%\) of weakly labeled videos. RoMod includes a Routing-Modulated Fusion module, RoMF, and a Routing-aware Temporal Network, RoTN. RoMF uses routing signals to adaptively recalibrate hidden semantic channels. Its design also prevents the routing branch from bypassing semantic features and making predictions on its own. RoTN captures the temporal evolution of anomalies from onset to persistence and termination. Experiments on three benchmarks show that RoMod achieves state-of-the-art performance while running substantially faster than dense backbones of comparable size.
- Abstract(参考訳): マルチモーダルな大言語モデルによる中間層の特徴は、ビデオ異常検出(VAD)の強力な可能性を示しているが、その識別力の起源はいまだ不明である。
本研究では, スパース・ミックス・オブ・エキスパート(MoE)モデルを用いて, エキスパート構造とスパース・アクティベーションが内部計算を検査しやすくする問題について検討する。
完全に凍結したバックボーンと追加のトレーニングがなければ、異常に関連する証拠が少数の専門家に集中していることが分かる。
これらの専門家はレイヤをまたいで再帰し、異なる異常タイプを自然に特殊化し、一緒に動的ルーティングサブネットワークを形成する。
さらに、これらの専門家に最も強く影響された出力チャネルは、最も異常な関連情報を含む隠された次元であることを示す。
これらの結果に基づき,弱いラベル付きビデオのみをトレーニングした効率的なVADフレームワークであるRoModを提案する。
RoModにはRouting-Modulated Fusionモジュール、RoMF、Routing-Aware Temporal Network、RoTNが含まれている。
RoMFはルーティング信号を使用して、隠れたセマンティックチャネルを適応的に再調整する。
その設計は、ルーティングブランチがセマンティックな特徴をバイパスしたり、独自の予測を行うのを防ぐ。
RoTNは、開始から持続と終了までの異常の時間的進化を捉えている。
3つのベンチマークの実験では、RoModは最先端のパフォーマンスを達成しつつ、同等サイズの高密度バックボーンよりもかなり高速に動作している。
関連論文リスト
- Routing Drift Alone Does Not Diagnose Failure in Merged MoE LLMs [27.677249330544296]
本稿では,制御された対策介入とトークンレベルの分析のためのルーティング解析ツールキットを提案する。
我々は、ルーティング障害を特定のルーティング介入の下でリカバリ可能なtextittask損失として運用し、非ルーティングパラメータを固定する。
そこで本研究では,EmphSelective Router repair (SRR) を事例として提案する。
論文 参考訳(メタデータ) (2026-09-26T17:47:55Z) - Fuzzy-MoE: Interpretable Regime-Conditioned Expert Routing for Non-Stationary Multivariate Time Series Forecasting [10.050287855808307]
Fuzzy-MoE はファジィ論理に基づく動的Mixture-of-Expertsモデルである。
潜時状態を推論し、学習可能なガウスのメンバーシップ関数を通じて専門家の活性化強度を計算する。
予測精度において、主流の予測手法を著しく上回る。
論文 参考訳(メタデータ) (2026-08-21T05:49:32Z) - Focusing on What Matters: Saliency-Harnessing Accurate Routing for Diffusion MoE [49.45064510462232]
Mixture-of-Experts (MoE)アーキテクチャは、視覚生成における拡散モデルをスケールするための強力なパラダイムとして登場した。
シャープモエ(SharpMoE)は,サリエンシハーネスの正確なルーティング機構を備えたポストトレーニングフレームワークである。
ノイズ歪んだ入力をバイパスすることで、SharpMoEはルータに明確なサリエンシガイダンスを提供する。
論文 参考訳(メタデータ) (2026-06-25T12:13:40Z) - Steering and Rectifying Latent Representation Manifolds in Frozen Multi-modal LLMs for Video Anomaly Detection [52.5174167737992]
ビデオ異常検出(VAD)は、ビデオ内の異常事象を特定することを目的としている。
本稿では,MLLMに基づくVADを受動的に読み上げから内部表現を積極的に操り,修正するSteerVADを提案する。
本手法は、トレーニングデータの1%しか必要としないチューニングフリーアプローチにおける最先端性能を実現する。
論文 参考訳(メタデータ) (2026-02-27T13:48:50Z) - Rewiring Experts on the Fly:Continuous Rerouting for Better Online Adaptation in Mixture-of-Expert models [52.502867924372275]
Mixture-of-Experts (MoE)モデルは、スパース専門家のアクティベーションを通じて効率的なスケーリングを実現するが、デプロイメントの分散シフトによる最適以下のルーティング決定に悩まされることが多い。
我々は、外部の監視やデータなしで、テキスト生成中にMoEルーティング決定を継続的に適用するテキストタデータフリーオンラインテストタイムフレームワークを提案する。
論文 参考訳(メタデータ) (2025-10-16T16:24:36Z) - IRDFusion: Iterative Relation-Map Difference guided Feature Fusion for Multispectral Object Detection [23.256601188227865]
クロスモーダルな特徴のコントラストとスクリーニング戦略に基づく,革新的な機能融合フレームワークを提案する。
提案手法は,オブジェクト認識の相補的クロスモーダル特徴を融合させることにより,有能な構造を適応的に強化する。
IRDFusionは、様々な挑戦的なシナリオで既存のメソッドを一貫して上回ります。
論文 参考訳(メタデータ) (2025-09-11T01:22:35Z) - FreSca: Scaling in Frequency Space Enhances Diffusion Models [55.75504192166779]
本稿では,潜時拡散モデルにおける周波数制御について検討する。
本稿では,低周波成分と高周波成分にノイズ差を分解する新しいフレームワークFreScaを紹介する。
FreScaはモデルの再トレーニングやアーキテクチャの変更なしに動作し、モデルとタスクに依存しない制御を提供する。
論文 参考訳(メタデータ) (2025-04-02T22:03:11Z) - Soft Merging of Experts with Adaptive Routing [38.962451264172856]
適応ルーティングによるエキスパートのソフトマージ(SMEAR)について紹介する
SMEARは、専門家のパラメータの重み付け平均を通して構築された単一の「マージされた」専門家を使用することで、離散的なルーティングを避ける。
我々は,メタデータに基づいた経路モデルや,勾配推定によるスパースルーティングを学習するSMEARモデルを用いたモデルの有効性を実証的に検証した。
論文 参考訳(メタデータ) (2023-06-06T15:04:31Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。