論文の概要: CoMet: Context and Multiplicity Decomposition for Multimodal Uncertainty Estimation
- arxiv url: http://arxiv.org/abs/2606.32012v1
- Date: Tue, 30 Jun 2026 17:46:09 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-01 18:27:19.33239
- Title: CoMet: Context and Multiplicity Decomposition for Multimodal Uncertainty Estimation
- Title（参考訳）: CoMet:マルチモーダル不確実性推定のためのコンテキストと多重度分解
- Abstract要約: 不確実性推定は、AIモデルにおける長年にわたる課題である。
本研究では,不確実性を文脈固有項と乗法固有項に分解したMLLM不確実性推定手法であるCoMetを提案する。
我々は,これらの量を評価するために軽量なポストホック不確実性モジュールを訓練し,自動回帰応答生成や繰り返しサンプリングを行うことなく,効率的な不確実性推定を可能にする。
- 参考スコア（独自算出の注目度）: 45.629365817272536
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Uncertainty estimation has been a long-standing challenge in AI models; it amounts to "knowing what you don't know," and metacognition is notoriously difficult even for humans (cf. the Dunning-Kruger effect). Although it is still far from solved even in simpler classification systems, tackling it in multimodal large language models (MLLMs) is becoming increasingly important. Within MLLMs, uncertainty can stem from any of the diverse sources as well as from their relationships, and further can stem from the unbounded answers in the open-ended setting. To tackle the issues, we propose CoMet, an MLLM uncertainty estimation method by decomposing uncertainty into a context-specific term and a multiplicity-specific term. The former captures ambiguity induced by the given context (e.g., task or prompt), while the latter captures how many plausible answers determined by the context remain compatible with the given input. We train a lightweight post-hoc uncertainty module to estimate these quantities, which enables efficient uncertainty estimation without autoregressive answer generation or repeated sampling. Experiments on various open-ended multimodal benchmarks, hallucination detection, and multiple-choice visual question answering benchmarks show that CoMet consistently improves uncertainty estimation over existing baselines while remaining efficient in practice. Code is available at https://github.com/princetonvisualai/comet_uncertainty
- Abstract（参考訳）: 不確実性の推定は、AIモデルにおける長年にわたる課題であり、それは"知らないことを知る"ためであり、メタ認知は人間にとっても非常に難しい(Dunning-Kruger効果など)。
単純な分類システムでもまだ解決には至っていないが、マルチモーダルな大規模言語モデル(MLLM)でそれに取り組むことがますます重要になっている。
MLLM内では、不確実性は様々な情報源やそれらの関係から生じるものであり、また、オープンエンド環境での無境界な答えからもたらされる。
そこで本稿では,不確実性を文脈固有項と多重度固有項に分解したMLLM不確実性推定手法であるCoMetを提案する。
前者は与えられた文脈(例えば、タスクまたはプロンプト)によって引き起こされるあいまいさを捉え、後者は、与えられた入力と相容れない文脈によって決定される妥当な答えの数をキャプチャする。
我々は,これらの量を評価するために軽量なポストホック不確実性モジュールを訓練し,自動回帰応答生成や繰り返しサンプリングを行うことなく,効率的な不確実性推定を可能にする。
様々なオープンエンドマルチモーダルベンチマーク、幻覚検出、複数選択視覚質問応答ベンチマークの実験は、CoMetが既存のベースラインに対する不確実性評価を一貫して改善し、実際は効率を保っていることを示している。
コードはhttps://github.com/princetonvisualai/comet_uncertaintyで入手できる。
関連論文リスト
- Clustered Self-Assessment: A Simple yet Effective Method for Uncertainty Quantification in Large Language Models [44.59799077650502]
本研究では,大規模言語モデルにおける不確実性定量化のための簡易かつ効果的な自己評価手法を提案する。
提案手法は,世代を意味的に異なるクラスタに分類し,構造化された複数選択質問の回答オプションに変換し,モデルによって割り当てられた確率を信頼度推定として利用する。
論文 参考訳（メタデータ） (2026-06-02T16:25:54Z) - Rethinking LLM Uncertainty: A Multi-Agent Approach to Estimating Black-Box Model Uncertainty [47.95943057892318]
ブラックボックスLSMの不確実性の定量化は、信頼性の高い応答とスケーラブルな監視に不可欠である。
本研究では,不確実性推定にマルチエージェント相互作用を用いた新しい理論的基礎手法であるDiverseAgentEntropyを紹介する。
論文 参考訳（メタデータ） (2024-12-12T18:52:40Z) - CLUE: Concept-Level Uncertainty Estimation for Large Language Models [49.92690111618016]
大規模言語モデル(LLM)のための概念レベル不確実性推定のための新しいフレームワークを提案する。
LLMを利用して、出力シーケンスを概念レベルの表現に変換し、シーケンスを個別の概念に分解し、各概念の不確かさを個別に測定する。
我々は,文レベルの不確実性と比較して,CLUEがより解釈可能な不確実性推定結果を提供できることを示す実験を行った。
論文 参考訳（メタデータ） (2024-09-04T18:27:12Z) - MAQA: Evaluating Uncertainty Quantification in LLMs Regarding Data Uncertainty [10.154013836043816]
データ不確実性の存在下での過去の不確実性定量化手法について検討する。
以上の結果から,従来の手法はシングル・アンサー・セッティングに比べて比較的困難であったことが示唆された。
我々は,データ不確実性が存在する場合でも,エントロピーと一貫性に基づく手法がモデル不確実性を効果的に推定することを示した。
論文 参考訳（メタデータ） (2024-08-13T11:17:31Z) - Cycles of Thought: Measuring LLM Confidence through Stable Explanations [53.15438489398938]
大規模言語モデル(LLM)は、様々なベンチマークで人間レベルの精度に到達し、さらに超えることができるが、不正確な応答における過度な自信は、依然として十分に文書化された障害モードである。
本稿では,LLMの不確実性を測定するためのフレームワークを提案する。
論文 参考訳（メタデータ） (2024-06-05T16:35:30Z) - To Believe or Not to Believe Your LLM [51.2579827761899]
大規模言語モデル(LLM)における不確実性定量化について検討する。
疫学的な不確実性が大きい場合にのみ確実に検出できる情報理論の指標を導出する。
定式化の利点を実証する一連の実験を行う。
論文 参考訳（メタデータ） (2024-06-04T17:58:18Z) - Semantic Density: Uncertainty Quantification for Large Language Models through Confidence Measurement in Semantic Space [14.715989394285238]
既存のLarge Language Models (LLM) には、ユーザが生成するレスポンスごとに不確実性/信頼度を計測するための固有の機能がない。
本稿では,これらの課題に対処する新しい枠組みを提案する。
意味密度は、意味空間における確率分布の観点から各応答の不確かさ/自信情報を抽出する。
論文 参考訳（メタデータ） (2024-05-22T17:13:49Z) - Uncertainty Quantification for In-Context Learning of Large Language Models [52.891205009620364]
大規模言語モデル(LLM)の画期的な能力として、文脈内学習が登場している。
両タイプの不確かさを定量化するための新しい定式化法とそれに対応する推定法を提案する。
提案手法は、プラグイン・アンド・プレイ方式でコンテキスト内学習の予測を理解するための教師なしの方法を提供する。
論文 参考訳（メタデータ） (2024-02-15T18:46:24Z) - Decomposing Uncertainty for Large Language Models through Input Clarification Ensembling [69.83976050879318]
大規模言語モデル(LLM)では、不確実性の原因を特定することが、信頼性、信頼性、解釈可能性を改善するための重要なステップである。
本稿では,LLMのための不確実性分解フレームワークについて述べる。
提案手法は,入力に対する一連の明確化を生成し,それらをLLMに入力し,対応する予測をアンサンブルする。
論文 参考訳（メタデータ） (2023-11-15T05:58:35Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。