論文の概要: Conformal Autoregressive Generation: Beam Search with Coverage Guarantees

• arxiv url: http://arxiv.org/abs/2309.03797v1
• Date: Thu, 7 Sep 2023 15:50:48 GMT
• ステータス: 処理完了
• システム内更新日: 2023-09-08 12:30:07.629932
• Title: Conformal Autoregressive Generation: Beam Search with Coverage Guarantees
• Title（参考訳）: 共形自己回帰生成:カバレッジ保証付きビーム探索
• Authors: Nicolas Deutschmann, Marvin Alberts, Mar\'ia Rodr\'iguez Mart\'inez
• Abstract要約: 共形予測(CP)に基づくビーム探索アルゴリズムに新たな2つの拡張を導入する。 第1の方法は、ビーム検索結果の非常に単純で動的サイズのサブセットであるが、保温後のキャリブレーション尺度に応じて達成可能な保証値に上限がある。 第2のアルゴリズムでは、復号プロセスの一部として整形集合予測手順を導入し、現在の不確実性に適応する可変ビーム幅を生成する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: We introduce two new extensions to the beam search algorithm based on conformal predictions (CP) to produce sets of sequences with theoretical coverage guarantees. The first method is very simple and proposes dynamically-sized subsets of beam search results but, unlike typical CP procedures, has an upper bound on the achievable guarantee depending on a post-hoc calibration measure. Our second algorithm introduces the conformal set prediction procedure as part of the decoding process, producing a variable beam width which adapts to the current uncertainty. While more complex, this procedure can achieve coverage guarantees selected a priori. We provide marginal coverage bounds for each method, and evaluate them empirically on a selection of tasks drawing from natural language processing and chemistry.
• Abstract（参考訳）: 本稿では,コンフォメーション予測(cp)に基づくビーム探索アルゴリズムの新たな拡張を2つ導入し,理論的カバレッジ保証付きシーケンス群を作成する。 最初の方法は極めて単純で、ビーム検索結果の動的サイズのサブセットを提案するが、通常のcpプロシージャとは異なり、ポストホックキャリブレーションの尺度に応じて達成可能な保証の上界を持つ。 第2のアルゴリズムでは,共形集合予測手順を復号処理の一部として導入し,電流の不確かさに適応する可変ビーム幅を生成する。 この手順はより複雑だが、事前に選択したカバレッジ保証を達成することができる。 本研究では,各手法の限界被覆境界を提供し,自然言語処理や化学から引き出されたタスクの選択を実証的に評価する。

関連論文リスト

• Conformal Generative Modeling with Improved Sample Efficiency through Sequential Greedy Filtering [55.15192437680943]
  生成モデルは出力に対する厳密な統計的保証を欠いている。 厳密な統計的保証を満たす予測セットを生成する逐次共形予測法を提案する。 このことは、高い確率で予測セットが少なくとも1つの許容可能な(または有効な)例を含むことを保証している。
  論文  参考訳（メタデータ） (2024-10-02T15:26:52Z)
• Adjusting Regression Models for Conditional Uncertainty Calibration [46.69079637538012]
  本稿では,分割共形予測手法を適用して条件付きカバレッジを改善するために,回帰関数を訓練する新しいアルゴリズムを提案する。 本研究では,条件付きカバレッジと名目付きカバレッジ率の差分を求める上限を確立し,この上限値を制御するためのエンドツーエンドアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2024-09-26T01:55:45Z)
• Large language model validity via enhanced conformal prediction methods [4.081098869497239]
  我々は,大規模言語モデル(LLM)の出力に対する妥当性を保証するための新しい共形推論手法を開発した。 我々は、Gibs et al. (2023) の条件等式手順を一般化し、出力の実用性を維持するために必要なときに、より弱い保証を適応的に発行する。 バイオグラフィーと医学的質問応答データセットに対するアプローチの有効性を実証する。
  論文  参考訳（メタデータ） (2024-06-14T04:46:39Z)
• Likelihood Ratio Confidence Sets for Sequential Decision Making [51.66638486226482]
  確率に基づく推論の原理を再検討し、確率比を用いて妥当な信頼シーケンスを構築することを提案する。 本手法は, 精度の高い問題に特に適している。 提案手法は,オンライン凸最適化への接続に光を当てることにより,推定器の最適シーケンスを確実に選択する方法を示す。
  論文  参考訳（メタデータ） (2023-11-08T00:10:21Z)
• Online Heavy-tailed Change-point detection [6.7643284029102295]
  我々は,データ生成プロセスの第2モーメントが有界であると仮定した場合でも,クリッピングされたグラディエント・ディクセント(SGD)に基づくアルゴリズムを提案する。 我々は、有界な第2モーメントを持つすべての分布の族に対して、最悪の場合、有限サンプル偽陽性率(FPR)を導出する。 本手法は,データが高次元かつ基礎となる分布が重み付きであっても,有限サンプルFPRを保証する最初のOCPDアルゴリズムである。
  論文  参考訳（メタデータ） (2023-06-15T23:39:05Z)
• Optimal two-qubit gates in recurrence protocols of entanglement purification [0.0]
  提案手法は, 準ニュートンアルゴリズムを用いて, SU(4) 行列全体の数値探索に基づく。 制御NOTゲートにより最適プロトコルが必ずしも達成されない状態の族を示す。
  論文  参考訳（メタデータ） (2022-05-24T14:13:56Z)
• Uniform-PAC Bounds for Reinforcement Learning with Linear Function Approximation [92.3161051419884]
  線形関数近似を用いた強化学習について検討する。 既存のアルゴリズムは、高い確率的後悔と/またはおよそ正当性(PAC)サンプルの複雑さの保証しか持たない。 我々はFLUTEと呼ばれる新しいアルゴリズムを提案し、高い確率で最適ポリシーへの均一PAC収束を享受する。
  論文  参考訳（メタデータ） (2021-06-22T08:48:56Z)
• Determinantal Beam Search [75.84501052642361]
  ビームサーチは、ニューラルシーケンスモデルをデコードするためのゴーツー戦略である。 複数のソリューションを要求するユースケースでは、多様あるいは代表的なセットがしばしば望まれる。 ビームサーチを一連の部分決定問題として繰り返し行うことにより、アルゴリズムを多種多様なサブセット選択プロセスに変換することができる。
  論文  参考訳（メタデータ） (2021-06-14T13:01:46Z)
• Selective Classification via One-Sided Prediction [54.05407231648068]
  片側予測(OSP)に基づく緩和は、実際に関係する高目標精度体制において、ほぼ最適カバレッジが得られるSCスキームをもたらす。 理論的には,SCとOSPのバウンダリ一般化を導出し,その手法が小さな誤差レベルでのカバレッジにおいて,技術手法の状態を強く上回ることを示す。
  論文  参考訳（メタデータ） (2020-10-15T16:14:27Z)
• Efficient Conformal Prediction via Cascaded Inference with Expanded Admission [43.596058175459746]
  共形予測(CP)のための新しい手法を提案する。 我々は、単一の予測の代わりに、予測候補のセットを特定することを目指している。 この集合は、高い確率で正しい答えを含むことが保証される。
  論文  参考訳（メタデータ） (2020-07-06T23:13:07Z)
• Optimal Randomized First-Order Methods for Least-Squares Problems [56.05635751529922]
  このアルゴリズムのクラスは、最小二乗問題に対する最も高速な解法のうち、いくつかのランダム化手法を含んでいる。 我々は2つの古典的埋め込み、すなわちガウス射影とアダマール変換のサブサンプリングに焦点を当てる。 得られたアルゴリズムは条件数に依存しない最小二乗問題の解法として最も複雑である。
  論文  参考訳（メタデータ） (2020-02-21T17:45:32Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。