Fugu-MT 論文翻訳(概要): IntroConformal: Conformal Factuality Guarantees for Large Vision-Language Models via Introspective Signals

論文の概要: IntroConformal: Conformal Factuality Guarantees for Large Vision-Language Models via Introspective Signals

arxiv url: http://arxiv.org/abs/2609.01375v1
Date: Tue, 01 Sep 2026 15:09:56 GMT
ステータス: 翻訳完了
システム内更新日: 2026-09-02 16:31:36.793471
Title: IntroConformal: Conformal Factuality Guarantees for Large Vision-Language Models via Introspective Signals
Title（参考訳）: イントロコンフォーマル:イントロスペクティブ信号を用いた大規模視線モデルのためのコンフォーマルファクタリティ保証
Authors: Md. Atabuzzaman, Christian Alexander, Chris Thomas,
Abstract要約: モデル自体から派生したイントロスペクティブ信号を用いて,信頼性の高い事実性制御を実現することができると論じる。 IntroConformalはトレーニングフリーのコンフォーマルリスクコントロールフレームワークで、有限サンプルで配布不要な事実保証を提供する。
参考スコア（独自算出の注目度）: 2.623527845999313
License: http://creativecommons.org/licenses/by/4.0/
Abstract: Large Vision-Language Models (LVLMs) have achieved strong multimodal performance, yet ensuring the factual correctness of generated content remains challenging. Existing methods that provide statistical guarantees on factuality typically rely on external verifiers or generation-time confidence signals, which introduce auxiliary dependencies or often fail for confident but incorrect outputs. We argue that reliable factuality control can instead be achieved through introspective signals derived from the model itself. We introduce IntroConformal, a training-free Conformal Risk Control (CRC) framework that provides finite-sample, distribution-free factuality guarantees. We first instantiate it with layer-wise semantic stability, a conformity score derived from hidden-state representations, and then propose verification probability, a stronger score capturing the model's self-administered judgment on claim factuality. Across multiple LVLM architectures, IntroConformal satisfies the conformal risk guarantee while substantially reducing abstention and achieving competitive or superior claim-level discrimination relative to external verifier-based baselines.
Abstract（参考訳）: LVLM(Large Vision-Language Models)は強力なマルチモーダル性能を実現しているが、生成したコンテンツの事実的正しさは依然として困難である。事実性に関する統計的保証を提供する既存の手法は、一般的に外部検証や世代間信頼信号に依存しており、補助的な依存関係を導入するか、しばしば信頼できないが誤った出力に失敗する。信頼性のある事実性制御は、モデル自体から派生したイントロスペクティブ信号によって実現できると我々は主張する。 IntroConformalは、トレーニング不要のコンフォーマルリスク制御(CRC)フレームワークで、有限サンプルで分布自由な事実保証を提供する。まず,階層的セマンティック安定性,隠蔽状態表現から導出される整合性スコア,およびモデルの主張事実性に関する自己管理的判断を抽出した検証確率を提案する。複数のLVLMアーキテクチャにまたがって、IntroConformalはコンホメーションリスクの保証を満足し、棄権を大幅に低減し、外部検証に基づくベースラインに対する競合的または優れたクレームレベルの差別を実現する。

関連論文リスト

Trust but Verify: Introducing DAVinCI -- A Framework for Dual Attribution and Verification in Claim Inference for Language Models [53.279391576560755]
大規模言語モデル(LLM)は、広範囲のNLPタスクにおいて顕著な流速と汎用性を示してきたが、実際的な不正確さと制限が伴う傾向にある。これは、信頼と妥当性が最優先される医療、法律、科学コミュニケーションといった、高リスク領域に重大なリスクをもたらす。 LLM出力の事実的信頼性と解釈可能性を高めるために設計されたDAVinCI - Dual Attribution and Verificationフレームワークを紹介する。
論文参考訳（メタデータ） (2026-04-23T01:37:50Z)
VI-CuRL: Stabilizing Verifier-Independent RL Reasoning via Confidence-Guided Variance Reduction [55.04308051033549]
RLVR(Reinforcement Learning with Verifiable Rewards)は、LLM(Large Language Models)推論を向上するための主要なパラダイムとして登場した。モデル固有の信頼性を活用して外部検証から独立したカリキュラムを構築するフレームワークであるVerifier-Independent Curriculum Reinforcement Learning (VI-CuRL)を紹介する。
論文参考訳（メタデータ） (2026-02-13T03:40:52Z)
Provable Model Provenance Set for Large Language Models [17.27624911800891]
非許可モデルの使用頻度と誤帰は、信頼性のあるモデル解析の必要性を高めている。既存の方法は、証明可能なエラー制御がなく、しばしば複数のソースの存在を見落としている指紋マッチング規則に大きく依存している。まず、証明可能な保証でモデル証明問題を定式化し、所定の信頼度レベルで全ての真の証明を厳格に網羅する必要がある。
論文参考訳（メタデータ） (2026-01-31T15:27:14Z)
Towards Comprehensive Stage-wise Benchmarking of Large Language Models in Fact-Checking [64.97768177044355]
大規模言語モデル(LLM)は、現実のファクトチェックシステムにますます多くデプロイされている。 FactArenaは、完全に自動化されたアリーナスタイルの評価フレームワークである。本研究では,静的クレーム検証精度とエンドツーエンドのファクトチェック能力の相違点を明らかにした。
論文参考訳（メタデータ） (2026-01-06T02:51:56Z)
Fact-Checking with Large Language Models via Probabilistic Certainty and Consistency [7.806516365113592]
大規模言語モデル(LLM)は、事実の正確性を必要とするアプリケーションでますます使われている。事実チェックはこれらのエラーを軽減することができるが、既存の手法は通常、外的証拠を無差別に回収する。本稿では,確率的確実性と一貫性(PCC)について紹介する。
論文参考訳（メタデータ） (2026-01-05T21:57:41Z)
FaithCoT-Bench: Benchmarking Instance-Level Faithfulness of Chain-of-Thought Reasoning [62.452350134196934]
FaithCoT-Benchは、インスタンスレベルのCoT不信検出のための統一ベンチマークである。我々の枠組みは差別的な決定問題として不誠実検出を定式化している。 FaithCoT-Bench は LLM のより解釈可能で信頼性の高い推論に向けた将来の研究の基盤となる。
論文参考訳（メタデータ） (2025-10-05T05:16:54Z)
Trusted Uncertainty in Large Language Models: A Unified Framework for Confidence Calibration and Risk-Controlled Refusal [31.458406135473805]
異種不確実性証拠を正当性の校正確率に変換する統一フレームワークUniCRを提案する。 UniCRは、温度スケーリングと適切なスコアリングを備えた軽量なキャリブレーションヘッドを学習する。ショートフォームQA、実行テスト付きコード生成、検索強化ロングフォームQAの実験は、キャリブレーションメトリクスの一貫性のある改善を示している。
論文参考訳（メタデータ） (2025-09-01T13:14:58Z)
Can LLMs Detect Their Confabulations? Estimating Reliability in Uncertainty-Aware Language Models [24.72990207218907]
LLM(Large Language Models)は、畳み込み(confabulation)として知られる、流動的だが不正なコンテンツを生成する傾向にある。本研究では、文脈内情報がモデル行動にどのように影響するか、LLMが信頼できない応答を識別できるかを検討する。
論文参考訳（メタデータ） (2025-08-11T16:12:36Z)
A Context-Aware Dual-Metric Framework for Confidence Estimation in Large Language Models [6.62851757612838]
大規模言語モデル(LLM)に対する現在の信頼度推定法は,応答と文脈情報の関連性を無視する。本稿では,2つの新しい指標を用いた信頼度推定のためのコンテキスト忠実度と一貫性を統合したCRUXを提案する。 3つのベンチマークデータセットに対する実験は、CRUXの有効性を示し、既存のベースラインよりも高いAUROCを達成した。
論文参考訳（メタデータ） (2025-08-01T12:58:34Z)
TrustLoRA: Low-Rank Adaptation for Failure Detection under Out-of-distribution Data [62.22804234013273]
本稿では,共変量および意味的シフトの両条件下での拒絶による分類を統一し,促進する,単純な故障検出フレームワークを提案する。キーとなる洞察は、障害固有の信頼性知識を低ランクアダプタで分離し、統合することにより、障害検出能力を効果的かつ柔軟に向上できるということです。
論文参考訳（メタデータ） (2025-04-20T09:20:55Z)
ConU: Conformal Uncertainty in Large Language Models with Correctness Coverage Guarantees [68.33498595506941]
自己整合性理論に基づく新しい不確実性尺度を導入する。次に,CPアルゴリズムに正当性に整合した不確かさ条件を組み込むことにより,適合性不確かさの基準を策定する。実証的な評価は、我々の不確実性測定が過去の最先端手法よりも優れていることを示している。
論文参考訳（メタデータ） (2024-06-29T17:33:07Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。