論文の概要: TTSD-FAR: Test-Time Self-Distillation with Fisher-Anchored Restoration for Missing-Modality Emotion Recognition in LVLMs
- arxiv url: http://arxiv.org/abs/2608.18386v1
- Date: Tue, 18 Aug 2026 23:40:28 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-20 20:13:55.233542
- Title: TTSD-FAR: Test-Time Self-Distillation with Fisher-Anchored Restoration for Missing-Modality Emotion Recognition in LVLMs
- Title(参考訳): TTSD-FAR:LVLMにおけるミスモーダル感情認識のためのフィッシャーアンカラー修復による試験時間自己蒸留
- Abstract要約: 大規模ビデオ言語モデル(LVLM)は、野生のマルチモーダル感情認識(ER)のようなマルチモーダルタスクにおいて顕著なパフォーマンスを示している。
しかし、現実のデプロイメントは依然として困難であり、テスト時にモダリティが欠落したりうる。
凍結した教師が自己蒸留により適応的な低学級の生徒を指導する手法を提案する。
MELD, DFEW, BAHを0%-50%のモダリティで実験した結果, この統一型適応復元設計はエントロピーベースの適応, RAG, およびパープレキシティベースの生成より一貫して優れていた。
- 参考スコア(独自算出の注目度): 83.78708832901194
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Large video-language models (LVLMs) have shown remarkable performance on multimodal tasks like multimodal emotion recognition (ER) in the wild. ER is inherently multimodal, requiring a joint understanding of facial expressions, vocalizations, language, biosignals, and gestures. However, real-world deployment remains challenging: modalities may be missing or noisy at test time. Partial observations can be viewed as a distribution shift relative to the complete-modality distribution. SOTA TTA methods based on entropy minimization or perplexity reduction do not transfer to autoregressive LVLMs, while retrieval augmented generation (RAG) degrades when the observed modality is weak. Because no ground-truth supervision exists to verify individual updates, adaptation across this stream risks accumulating drift and degrading once the model departs from a reliable solution. An effective solution must therefore adapt to arbitrary missing-modality patterns and remain effective during continual adaptation. We address both jointly with Test-Time Self-Distillation (TTSD), a parameter-efficient framework in which a frozen teacher, trained on complete modalities, guides an adaptive low-rank student via self-distillation, updating only a negligible number of parameters. Stability is built into this same loop through Fisher-Anchored Restoration (FAR), which monitors Fisher information stability to detect convergence versus drift and restores the student toward the teacher's anchor when distributional shifts are identified. Our experiments on MELD, DFEW, and BAH under 0%-50% missing modalities show that this unified adaptation-restoration design consistently outperforms entropy-based adaptation, RAG, and perplexity-based generation over long adaptation horizons, where baselines without restoration progressively degrade while TTSD-FAR remains consistent.
- Abstract(参考訳): 大規模ビデオ言語モデル(LVLM)は、野生のマルチモーダル感情認識(ER)のようなマルチモーダルタスクにおいて顕著なパフォーマンスを示している。
ERは本質的にマルチモーダルであり、表情、発声、言語、生体記号、ジェスチャーを共同で理解する必要がある。
しかし、現実のデプロイメントは依然として困難であり、テスト時にモダリティが欠落したりうる。
部分的な観測は、完全なモジュラリティ分布に対する分布シフトと見なすことができる。
エントロピーの最小化やパープレキシティの低減に基づくSOTA TTA法は自己回帰型LVLMに転送されない。
個々の更新を検証するための根本的な監督は存在しないため、モデルが信頼できるソリューションから離脱すると、このストリームへの適応がドリフトと劣化を蓄積するリスクがある。
したがって、効果的な解は任意のモダリティパターンに適応し、連続的な適応の間も有効でなければならない。
凍結した教師が完全なモダリティを訓練し、自己蒸留を通じて適応的な低ランクの学生を誘導し、無数のパラメータを更新するパラメータ効率のフレームワークであるテスト時自己蒸留(TTSD)と共同で対処する。
このループにはFisher-Anchored Restoration (FAR)が組み込まれ、FARはFisher情報安定性を監視して収束とドリフトを検知し、分散シフトが特定されたときに生徒を教師のアンカーに戻す。
MELD, DFEW, BAHを0%-50%のモダリティ以下で行った実験から, この統一適応復元設計はエントロピーベースの適応, RAG, およびコンプレキシティベース生成を長い適応地平線上で一貫して上回り, TTSD-FAR は徐々に劣化するが, ベースラインは変わらず, TTSD-FAR は一定であることがわかった。
関連論文リスト
- RDDMPI: Residual Denoising Diffusion Model for Probabilistic Multivariate Time Series Imputation [2.589687124983865]
マルチ時間系列計算は、複数の変数からなる時間データの欠落した値を復元することを目的としている。
この問題は、医療監視、交通ネットワーク、エネルギーシステムといった現実世界のアプリケーションの中心である。
近年の拡散型アプローチは,反復的 denoising による欠落値の生成を学習することで,確率論的計算の可能性を強く示している。
論文 参考訳(メタデータ) (2026-09-10T14:53:38Z) - ARISE-RL: Agentic Rubric-Grounded Iterative Self-Evolution with Reinforcement Learning [74.19730275669227]
ARISE-RLは、オープンエンドエージェントをトレーニングするための新しいフルサイクルの自己進化フレームワークである。
Reward-Gated Self-Evolution Distillation (RG-SED)を提案する。
ECR-Benchは,シングルツールディープリサーチとマルチツールトラベルプランニングを対象とする,専門家校正型ルーリックベンチマークスイートである。
論文 参考訳(メタデータ) (2026-09-01T10:54:13Z) - Local Margin Restoration for Test-Time Adaptation of Vision-Language Models [15.097704252897818]
CLIPのような視覚言語モデル(VLM)は、優れたゼロショット機能を示すが、予期せぬテスト時間分散シフトの下で、その性能は急激に低下する。
テスト時間適応フレームワークであるLocal Margin Restoration (LMR)を提案する。
CIFAR-C、ImageNet-C、ImageNetの変種に関する実験では、LMRが最先端のTTAベースラインを一貫して上回っていることが示されている。
論文 参考訳(メタデータ) (2026-08-03T13:38:11Z) - Where to Refine, When to Stop: Rethinking Redundancy via Latent Discrepancy for Efficient Visual Autoregressive Generation [50.139984798361375]
遅延不一致による冗長性を除去する学習自由フレームワークを提案する。
LD-Pruningは、Infinity-8Bの最大2.35倍のスピードアップを実現し、高い生成品質を維持しながら推論を大幅に削減する。
論文 参考訳(メタデータ) (2026-05-29T19:34:39Z) - MoASE++: Mixture of Activation Sparsity Experts with Domain-Adaptive On-policy Distillation for Continual Test Time Adaptation [65.068801413044]
連続的なテスト時間適応は、非定常な未ラベルのターゲットストリームにソース予測モデルを適用する。
ドメインに依存しない構造をドメイン固有のテクスチャから切り離す。
論文 参考訳(メタデータ) (2026-05-18T01:52:12Z) - Learning with Rare Success but Rich Feedback via Reflection-Enhanced Self-Distillation [71.16738415436458]
本稿では、生の障害フィードバックを補正管理のアクティブソースに変換するフレームワークであるReflection-Enhanced Self-Distillation(RESD)を紹介する。
RESDは、局所的なエラーを診断するために振り返りリフレクションを生成し、持続的なグローバルなプレイブックをキュレートすることで、障害の軌跡を解釈する。
複数の連続学習課題に対する実証的な評価は、RESDが標準の自己蒸留ベースラインを大幅に上回っていることを示している。
論文 参考訳(メタデータ) (2026-05-12T20:46:05Z) - Adaptive recurrent flow map operator learning for reaction diffusion dynamics [0.9137554315375919]
我々は,適応的反復学習(DDOL-ART)を軽量な検証マイルストーンを持つ頑健な再帰戦略を用いて行う演算子学習器を開発した。
DDOL-ARTは長いロールアウトで安定なワンステップ演算子を学び、ゼロショットを強いシフトに一般化する。
物理ベースの数値損失演算子学習器(NLOL)よりも、マッチした設定で数倍高速である。
論文 参考訳(メタデータ) (2026-02-10T07:33:13Z) - Analyzing and Improving Diffusion Models for Time-Series Data Imputation: A Proximal Recursion Perspective [45.713195454899875]
拡散モデル(DM)は時系列データインプットを約束している。
DMの性能は複雑なシナリオでは相容れない。
我々はSPIRIT(Semi-proximal Transport Regularized Time-Series Imputation)と呼ばれる新しいフレームワークを提案する。
論文 参考訳(メタデータ) (2026-02-01T12:11:57Z) - Drift No More? Context Equilibria in Multi-Turn LLM Interactions [58.69551510148673]
コンテキストドリフト(Contexts drift)とは、ターン間のゴール一貫性のある振る舞いからモデルが出力する出力の段階的なばらつきである。
シングルターンエラーとは異なり、ドリフトは時間的に展開し、静的な評価指標では捉えにくい。
マルチターンドリフトは、避けられない崩壊というよりも、制御可能な平衡現象として理解できることを示す。
論文 参考訳(メタデータ) (2025-10-09T04:48:49Z) - Holistic Continual Learning under Concept Drift with Adaptive Memory Realignment [6.0897744845912865]
概念ドリフト下での連続学習のための総合的枠組みを導入する。
本稿では,リハーサルベースの学習者に対してドリフトアウェア適応機構を備えた軽量な代替手段であるAdaptive Memory Realignment (AMR)を提案する。
AMRはコンセプトドリフトに一貫して対抗し、最小限のオーバーヘッドで高い精度を維持する。
論文 参考訳(メタデータ) (2025-07-03T04:41:20Z) - Restoration Score Distillation: From Corrupted Diffusion Pretraining to One-Step High-Quality Generation [82.39763984380625]
Score Distillation (DSD) の原理的一般化である textitRestoration Score Distillation (RSD) を提案する。
RSDは、ぼやけた画像、不完全画像、低解像度画像など、広範囲の汚職タイプに対応している。
自然と科学の両方のデータセットの様々な復元作業において、教師モデルを一貫して上回っている。
論文 参考訳(メタデータ) (2025-05-19T17:21:03Z) - Uncertainty-Aware Deep Attention Recurrent Neural Network for
Heterogeneous Time Series Imputation [0.25112747242081457]
欠落は多変量時系列においてユビキタスであり、信頼できる下流分析の障害となる。
本稿では、欠落した値とその関連不確かさを共同で推定するDeep Attention Recurrent Imputation (Imputation)を提案する。
実験の結果,実世界のデータセットを用いた多様な計算タスクにおいて,SOTAを上回っていることがわかった。
論文 参考訳(メタデータ) (2024-01-04T13:21:11Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。