論文の概要: Conformal Fusion Under Missing Modalities
- arxiv url: http://arxiv.org/abs/2608.07183v1
- Date: Fri, 07 Aug 2026 12:57:16 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-10 16:21:25.499502
- Title: Conformal Fusion Under Missing Modalities
- Title(参考訳): モーダリティの欠如によるコンフォーマル核融合
- Abstract要約: 我々は、モダリティのロバスト性と校正不確実性は単一結合性であり、Modality-Conditioned Conformal Fusion (MCCF)を導入していると論じる。
MCCFは、モダリティドロップアウトで訓練されたマルチモーダル・ボトルネック融合バックボーン、モダリティ分解されたディリクレ分布を生成するモダリティごとの明らかなヘッド、およびデンプスターとシェーファーの組み合わせルールを組み合わせる。
モダリティ-存在マスクの鍵となるモンドリアン共形キャリブレーション加群は、すべての空でないモダリティ部分集合に対して有限サンプル群条件付きカバレッジを提供する。
- 参考スコア(独自算出の注目度): 6.599344783327054
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Multimodal fusion architectures typically assume all modalities are available at inference, yet sensor failures, acquisition variability, and cost constraints routinely produce incomplete observations. Existing work treats modality absence as a prediction-accuracy problem, leaving a more basic question unanswered: whether a model's confidence estimates remain calibrated when an entire input stream is removed. We argue that missing-modality robustness and calibrated uncertainty are a single coupled property, and introduce Modality-Conditioned Conformal Fusion (MCCF), an architecture that addresses both at once. MCCF combines a multimodal bottleneck fusion backbone trained with modality dropout, per-modality evidential heads producing modality-decomposed Dirichlet distributions, and a Dempster-Shafer combination rule that fuses the per-modality evidence into a joint predictive distribution; an absent modality contributes vacuous evidence that is structurally ignored, so the fused uncertainty automatically reflects the reduced information without test-time imputation. A Mondrian conformal calibration module keyed on the modality-presence mask then provides finite-sample group-conditional coverage for every non-empty modality subset. MCCF is, to our knowledge, the first method with formal coverage guarantees under arbitrary modality availability through architectural integration rather than post-hoc recalibration, and the evidential decomposition yields per-modality vacuity scores that localise uncertainty to the absent modality responsible. Across a synthetic problem and three real multimodal benchmarks, MCCF holds its target coverage on every modality-presence subset, substantially narrows the coverage gap between full and partial modalities relative to a marginal split-conformal baseline, and imposes no measurable accuracy cost relative to temperature-scaled and evidential baselines.
- Abstract(参考訳): マルチモーダル融合アーキテクチャは通常、すべてのモダリティが推論時に利用できると仮定するが、センサの故障、取得のばらつき、コスト制約は不完全な観測を日常的に生み出す。
既存の作業は、モダリティの欠如を予測精度の問題として扱い、より基本的な疑問を未解決のまま残している。
我々は、モダリティの堅牢性とキャリブレーションの不確実性は単一の結合特性であり、同時に両方の問題に対処するアーキテクチャであるModality-Conditioned Conformal Fusion (MCCF)を導入している。
MCCFは、モダリティ・ドロップアウトで訓練されたマルチモーダル・ボトルネック・フュージョン・バックボーン、モダリティ・ディリクレ分布を生成するモダリティ・アフィシャルヘッド、およびモダリティ・エビデンスを共同予測分布に融合させるDempster-Shaferの組み合わせルールを組み合わせ、不在モダリティは構造的に無視される空虚なエビデンスに寄与するので、融合不確実性はテスト時間計算なしで自動的に減少情報を反映する。
モダリティ-存在マスクの鍵となるモンドリアン共形キャリブレーション加群は、すべての空でないモダリティ部分集合に対して有限サンプル群条件付きカバレッジを提供する。
MCCFは,我々の知る限り,任意のモダリティアベイラビリティを保証した最初の形式的カバレッジを持つ手法であり,その明らかな分解はモダリティごとの空き度スコアを発生させ,不在モダリティの責任を負う不確実性にローカライズする。
合成問題と3つの実マルチモーダルベンチマークにおいて、MCCFはその対象範囲を全てのモダリティ・プレゼンス・サブセットで保持し、限界分割・コンフォーマルベースラインに対する全モダリティと部分モダリティの間のカバーギャップを著しく狭め、温度スケールおよび明度ベースラインに対する測定可能な精度コストを課さない。
関連論文リスト
- Rethinking Modality Reliability in Multimodal Sentiment Analysis with Incomplete Observations [9.993152436695421]
不完全観測設定において、モダリティの信頼性は中心的な変数であり、モデル化に失敗すると2つの問題が発生する。
不完全な観察を伴うマルチモーダル感性分析のためのモダリティ信頼性校正フレームワークを提案する。
MRCFにはReliability-Aware Branchが含まれており、モジュール内の品質基準とモジュール間のセマンティック一貫性からサンプル固有のモダリティの信頼性を推定する。
CMU-MOSI、CMU-MOSEI、CH-SIMSの実験により、MRCFは標準的な不完全観測プロトコルで高い性能を発揮することが示された。
論文 参考訳(メタデータ) (2026-08-04T13:02:48Z) - Adaptive Modality Reliability Diagnosis and Restoration for Robust Multimodal Intent Recognition [2.2012643583422347]
マルチモーダルな意図認識は言語的、音響的、視覚的な証拠を組み合わせたものであるが、個々のモダリティはうるさい、欠落、意味的に矛盾する、あるいは不当に支配的である可能性がある。
サンプルレベルでのモダリティ品質の診断,回復,再評価を行うクローズドループ信頼性ガイドフレームワークであるPRIMEを提案する。
マルチモーダルな意図認識ベンチマークの実験では、PRIMEは、欠如、ノイズ、矛盾、モダリティの不均衡条件下で改善しながら、競争力のあるクリーンデータ性能を維持している。
論文 参考訳(メタデータ) (2026-08-04T11:14:13Z) - Dual-Edged Homogeneous-Modality Similarity: Towards Visible-Infrared Modality-Incomplete Person Re-Identification with Modality Adaptive Matching [60.86381869046298]
我々は, Visible-Infrared Modality-Incomplete Re-Identification (VIMI-ReID) タスクを形式化する。
VIMI-ReIDにおける予測不可能なモダリティの組み合わせと、同質なモダリティサンプルの固有の類似性は、大きな性能低下を引き起こす。
モーダリティ固有およびモーダリティ共有特徴を抽出するMAMT(Modality Adaptive Matching Transformer)を提案する。
論文 参考訳(メタデータ) (2026-07-21T04:10:20Z) - Set-Inclusive Uncertainty Modeling for Robust Brain Tumor Segmentation [17.88630413987641]
本稿では,表現をガウス分布としてモデル化する確率的表現フレームワークを提案する。
我々は,各部分構成の平均値をその完全モダリティに対して正規化するとともに,その整列手段間の差分をスケールする。
BraTS 2018と2020の実験では、さまざまな欠落したモダリティシナリオに対して、私たちのアプローチがベースラインよりも優れたパフォーマンスを提供します。
論文 参考訳(メタデータ) (2026-06-29T14:35:55Z) - PRA-PoE: Robust Multimodal Alzheimer's Diagnosis with Arbitrary Missing Modalities [9.014577470296013]
現実のアルツハイマー病(AD)の評価では、欠落のモダリティが一般的である。
暗黙の計算やモダリティ合成に依存する既存のアプローチは、しばしばモダリティの可用性と不確実性を明示的にモデル化することができない。
本稿では,PRA(Prototype-anchored Representation Alignment)とUA-PoE(Uncertainty-aware Product of Experts)の融合機構を提案する。
論文 参考訳(メタデータ) (2026-05-13T06:54:21Z) - Multimodal Learning on Low-Quality Data with Conformal Predictive Self-Calibration [72.0672328514289]
マルチモーダル学習は、しばしば低品質データの課題に悩まされる。
コンフォーマル予測自己校正(Conformal Predictive Self-Calibration)と呼ばれる統合フレームワークを提案する。
私たちのフレームワークは、既存の最先端メソッドを一貫して上回ります。
論文 参考訳(メタデータ) (2026-05-05T14:48:52Z) - Towards Trustworthy Depression Estimation via Disentangled Evidential Learning [50.22167852149165]
EviDepはうつ病の重症度を共同で定量化する明らかな学習フレームワークである。
EviDepは、堅牢な証拠合成を保証するために厳密な情報整合性を強制する。
最先端の予測精度と優れた不確実性校正を実現し、信頼できる臨床スクリーニングのための堅牢なフェールセーフメカニズムを提供する。
論文 参考訳(メタデータ) (2026-04-17T13:27:11Z) - Calibrated Multimodal Representation Learning with Missing Modalities [100.55774771852468]
マルチモーダル表現学習は、それらを統一潜在空間に整列させることにより、異なるモダリティを調和させる。
最近の研究は、従来のクロスモーダルアライメントを一般化して、強化されたマルチモーダル・シナジーを生成するが、すべてのモダリティを共通の例に含める必要がある。
我々は、アンカーシフトの観点から、この問題に関する理論的洞察を提供する。
モーダルの欠如に起因する不完全なアライメントを校正するために,マルチモーダル表現学習のためのCalMRLを提案する。
論文 参考訳(メタデータ) (2025-11-15T05:01:43Z) - UniMRSeg: Unified Modality-Relax Segmentation via Hierarchical Self-Supervised Compensation [104.59740403500132]
マルチモーダルイメージセグメンテーションは、不完全/破損したモダリティの劣化による実際のデプロイメント課題に直面している。
階層型自己教師型補償(HSSC)による統一Modality-relaxセグメンテーションネットワーク(UniMRSeg)を提案する。
我々のアプローチは、入力レベル、特徴レベル、出力レベルをまたいだ完全なモダリティと不完全なモダリティの間の表現ギャップを階層的に橋渡しします。
論文 参考訳(メタデータ) (2025-09-19T17:29:25Z) - Imputation-Powered Inference [2.676349883103404]
Imputation-powered Inference (IPI) は、ブラックボックス計算の柔軟性と、完全に観測されたデータを用いたバイアス補正を組み合わせたモデルリーンフレームワークである。
IPIは、二重頑健な推定値とナイーブな計算値の両方が名目的カバレッジを達成できない設定において、統計的妥当性を維持しながら、完全ケース分析と比較して、サブポピュレーション効率を大幅に改善する可能性がある。
論文 参考訳(メタデータ) (2025-09-17T07:48:54Z) - Benchmarking Multi-modal Semantic Segmentation under Sensor Failures: Missing and Noisy Modality Robustness [61.87055159919641]
マルチモーダルセマンティックセグメンテーション(MMSS)は、モーダル間で補完情報を統合することで、単一モーダルデータの制限に対処する。
顕著な進歩にもかかわらず、マルチモーダルデータ品質の変動と不確実性により、研究と実世界の展開の間に大きなギャップが持続する。
Intire-Missing Modality (EMM)、Random-Missing Modality (RMM)、Noisy Modality (NM)の3つのシナリオでMMSSモデルを評価する頑健性ベンチマークを導入する。
論文 参考訳(メタデータ) (2025-03-24T08:46:52Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。