論文の概要: Conf-Gen: Conformal Uncertainty Quantification for Generative Models

• arxiv url: http://arxiv.org/abs/2605.28920v1
• Date: Wed, 27 May 2026 18:00:00 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-30 02:45:55.052409
• Title: Conf-Gen: Conformal Uncertainty Quantification for Generative Models
• Title（参考訳）: Conf-Gen: 生成モデルのためのコンフォーマル不確実性定量化
• Authors: Gabriel Loaiza-Ganem, Kevin Zhang, Wei Cui, Marc T. Law, Kin Kwan Leung,
• Abstract要約: コンフォーマル予測(CP)とその拡張であるコンフォーマルリスク制御(CRC)は、教師あり機械学習における不確実性を定量化するフレームワークとして確立されている。 我々は、CRCを生成タスクに適用する一般的なフレームワークであるコンフォメーション生成(Conf-Gen)を導入し、理論的な仮定を緩和する。 我々は、非記憶画像を生成する画像生成装置、会話型AIシステムが十分な明確な質問をしてきたこと、正しいAIエージェントの出力など、いくつかの新しい応用を通して、Conf-Genの柔軟性を実証する。
• 参考スコア（独自算出の注目度）: 17.934974955648695
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Conformal prediction (CP) and its extension, conformal risk control (CRC), are established frameworks for quantifying uncertainty in supervised machine learning through formal guarantees. However, recent breakthroughs in artificial intelligence (AI) have been driven by unsupervised generative models, such as large language models (LLMs) and image generators, which are not directly compatible with CP or CRC. In this work we introduce conformal generation (Conf-Gen), a general framework adapting CRC to generative tasks while relaxing its theoretical assumptions. Conf-Gen unifies and generalizes previous attempts to apply CP to LLMs, and extends conformal methodology to entirely new domains. We demonstrate the flexibility of Conf-Gen through some novel applications, including obtaining conformal guarantees on: image generators producing non-memorized images, conversational AI systems having asked enough clarifying questions, and the output of AI agents being correct.
• Abstract（参考訳）: コンフォーマル予測(CP)とその拡張であるコンフォーマルリスク制御(CRC)は、正式な保証を通じて教師付き機械学習における不確実性を定量化するための確立されたフレームワークである。 しかし、人工知能(AI)の最近の進歩は、CPやCRCと直接互換性のない大規模言語モデル(LLM)や画像生成装置のような教師なしの生成モデルによって推進されている。 本研究では、CRCを生成タスクに適用し、理論的な仮定を緩和する一般的なフレームワークであるコンフォメーション生成(Conf-Gen)を紹介する。 Conf-Gen は、CP を LLM に適用する以前の試みを統一し、一般化し、コンフォメーション方法論を全く新しい領域に拡張する。 我々は、非記憶画像を生成する画像生成装置、会話型AIシステムが十分な明確な質問をしてきたこと、正しいAIエージェントの出力など、いくつかの新しい応用を通して、Conf-Genの柔軟性を実証する。

関連論文リスト

• ConU: Conformal Uncertainty in Large Language Models with Correctness Coverage Guarantees [68.33498595506941]
  自己整合性理論に基づく新しい不確実性尺度を導入する。 次に,CPアルゴリズムに正当性に整合した不確かさ条件を組み込むことにより,適合性不確かさの基準を策定する。 実証的な評価は、我々の不確実性測定が過去の最先端手法よりも優れていることを示している。
  論文  参考訳（メタデータ） (2024-06-29T17:33:07Z)
• CCDM: Continuous Conditional Diffusion Models for Image Generation [22.70942688582302]
  条件拡散モデル(CDM)は連続条件生成モデリング(CCGM)に代わる有望な選択肢を提供する CDMは、特別に設計された条件拡散プロセス、新しいハード・ヴィジナル・イメージ・デノージング・ロス、効率的な条件サンプリング・プロシージャによる既存の制限に対処する。 CCDMは最先端のCCGMモデルより優れており,新たなベンチマークが確立されている。
  論文  参考訳（メタデータ） (2024-05-06T15:10:19Z)
• C-RAG: Certified Generation Risks for Retrieval-Augmented Language Models [57.10361282229501]
  RAGモデルの生成リスクを認証する最初のフレームワークであるC-RAGを提案する。 具体的には、RAGモデルに対して共形リスク分析を行い、生成リスクの上限以上の信頼度を認定する。 検索モデルと変圧器の品質が非自明な場合, RAG は単一の LLM よりも低い共形生成リスクを達成できることを示す。
  論文  参考訳（メタデータ） (2024-02-05T16:46:16Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。