論文の概要: Conformal Autoregressive Generation: Beam Search with Coverage
Guarantees
- arxiv url: http://arxiv.org/abs/2309.03797v1
- Date: Thu, 7 Sep 2023 15:50:48 GMT
- ステータス: 処理完了
- システム内更新日: 2023-09-08 12:30:07.629932
- Title: Conformal Autoregressive Generation: Beam Search with Coverage
Guarantees
- Title(参考訳): 共形自己回帰生成:カバレッジ保証付きビーム探索
- Authors: Nicolas Deutschmann, Marvin Alberts, Mar\'ia Rodr\'iguez Mart\'inez
- Abstract要約: 共形予測(CP)に基づくビーム探索アルゴリズムに新たな2つの拡張を導入する。
第1の方法は、ビーム検索結果の非常に単純で動的サイズのサブセットであるが、保温後のキャリブレーション尺度に応じて達成可能な保証値に上限がある。
第2のアルゴリズムでは、復号プロセスの一部として整形集合予測手順を導入し、現在の不確実性に適応する可変ビーム幅を生成する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We introduce two new extensions to the beam search algorithm based on
conformal predictions (CP) to produce sets of sequences with theoretical
coverage guarantees. The first method is very simple and proposes
dynamically-sized subsets of beam search results but, unlike typical CP
procedures, has an upper bound on the achievable guarantee depending on a
post-hoc calibration measure. Our second algorithm introduces the conformal set
prediction procedure as part of the decoding process, producing a variable beam
width which adapts to the current uncertainty. While more complex, this
procedure can achieve coverage guarantees selected a priori. We provide
marginal coverage bounds for each method, and evaluate them empirically on a
selection of tasks drawing from natural language processing and chemistry.
- Abstract(参考訳): 本稿では,コンフォメーション予測(cp)に基づくビーム探索アルゴリズムの新たな拡張を2つ導入し,理論的カバレッジ保証付きシーケンス群を作成する。
最初の方法は極めて単純で、ビーム検索結果の動的サイズのサブセットを提案するが、通常のcpプロシージャとは異なり、ポストホックキャリブレーションの尺度に応じて達成可能な保証の上界を持つ。
第2のアルゴリズムでは,共形集合予測手順を復号処理の一部として導入し,電流の不確かさに適応する可変ビーム幅を生成する。
この手順はより複雑だが、事前に選択したカバレッジ保証を達成することができる。
本研究では,各手法の限界被覆境界を提供し,自然言語処理や化学から引き出されたタスクの選択を実証的に評価する。
関連論文リスト
- Likelihood Ratio Confidence Sets for Sequential Decision Making [51.66638486226482]
確率に基づく推論の原理を再検討し、確率比を用いて妥当な信頼シーケンスを構築することを提案する。
本手法は, 精度の高い問題に特に適している。
提案手法は,オンライン凸最適化への接続に光を当てることにより,推定器の最適シーケンスを確実に選択する方法を示す。
論文 参考訳(メタデータ) (2023-11-08T00:10:21Z) - Quantum Annealing Solutions for the Closest String Problem with D-Wave
Systems [0.0]
クローズストストリング問題(Closest String problem)は、生物情報学や符号化理論でよく見られるNP完全問題である。
2つのQUBOの定式化が提案されており、1つはもう1つに対してわずかに修正されている。
DWaveアナライザは、特定のプラットフォーム固有の関心事に対する最適なガイドラインを提供しながら使われてきた。
論文 参考訳(メタデータ) (2023-10-19T16:03:25Z) - Online Heavy-tailed Change-point detection [6.7643284029102295]
我々は,データ生成プロセスの第2モーメントが有界であると仮定した場合でも,クリッピングされたグラディエント・ディクセント(SGD)に基づくアルゴリズムを提案する。
我々は、有界な第2モーメントを持つすべての分布の族に対して、最悪の場合、有限サンプル偽陽性率(FPR)を導出する。
本手法は,データが高次元かつ基礎となる分布が重み付きであっても,有限サンプルFPRを保証する最初のOCPDアルゴリズムである。
論文 参考訳(メタデータ) (2023-06-15T23:39:05Z) - Fully Stochastic Trust-Region Sequential Quadratic Programming for
Equality-Constrained Optimization Problems [62.83783246648714]
目的と決定論的等式制約による非線形最適化問題を解くために,逐次2次プログラミングアルゴリズム(TR-StoSQP)を提案する。
アルゴリズムは信頼領域半径を適応的に選択し、既存の直線探索StoSQP方式と比較して不確定なヘッセン行列を利用することができる。
論文 参考訳(メタデータ) (2022-11-29T05:52:17Z) - Optimal two-qubit gates in recurrence protocols of entanglement purification [0.0]
提案手法は, 準ニュートンアルゴリズムを用いて, SU(4) 行列全体の数値探索に基づく。
制御NOTゲートにより最適プロトコルが必ずしも達成されない状態の族を示す。
論文 参考訳(メタデータ) (2022-05-24T14:13:56Z) - Uniform-PAC Bounds for Reinforcement Learning with Linear Function
Approximation [92.3161051419884]
線形関数近似を用いた強化学習について検討する。
既存のアルゴリズムは、高い確率的後悔と/またはおよそ正当性(PAC)サンプルの複雑さの保証しか持たない。
我々はFLUTEと呼ばれる新しいアルゴリズムを提案し、高い確率で最適ポリシーへの均一PAC収束を享受する。
論文 参考訳(メタデータ) (2021-06-22T08:48:56Z) - Determinantal Beam Search [75.84501052642361]
ビームサーチは、ニューラルシーケンスモデルをデコードするためのゴーツー戦略である。
複数のソリューションを要求するユースケースでは、多様あるいは代表的なセットがしばしば望まれる。
ビームサーチを一連の部分決定問題として繰り返し行うことにより、アルゴリズムを多種多様なサブセット選択プロセスに変換することができる。
論文 参考訳(メタデータ) (2021-06-14T13:01:46Z) - Experimental Design for Regret Minimization in Linear Bandits [19.8309784360219]
オンライン・リニア・バンドレットにおける後悔を最小限に抑える設計に基づく新しいアルゴリズムを提案する。
我々は、現在最先端の有限時間後悔保証を提供し、このアルゴリズムが帯域幅と半帯域幅の両方のフィードバックシステムに適用可能であることを示す。
論文 参考訳(メタデータ) (2020-11-01T17:59:19Z) - Selective Classification via One-Sided Prediction [54.05407231648068]
片側予測(OSP)に基づく緩和は、実際に関係する高目標精度体制において、ほぼ最適カバレッジが得られるSCスキームをもたらす。
理論的には,SCとOSPのバウンダリ一般化を導出し,その手法が小さな誤差レベルでのカバレッジにおいて,技術手法の状態を強く上回ることを示す。
論文 参考訳(メタデータ) (2020-10-15T16:14:27Z) - Efficient Conformal Prediction via Cascaded Inference with Expanded
Admission [43.596058175459746]
共形予測(CP)のための新しい手法を提案する。
我々は、単一の予測の代わりに、予測候補のセットを特定することを目指している。
この集合は、高い確率で正しい答えを含むことが保証される。
論文 参考訳(メタデータ) (2020-07-06T23:13:07Z) - Optimal Randomized First-Order Methods for Least-Squares Problems [56.05635751529922]
このアルゴリズムのクラスは、最小二乗問題に対する最も高速な解法のうち、いくつかのランダム化手法を含んでいる。
我々は2つの古典的埋め込み、すなわちガウス射影とアダマール変換のサブサンプリングに焦点を当てる。
得られたアルゴリズムは条件数に依存しない最小二乗問題の解法として最も複雑である。
論文 参考訳(メタデータ) (2020-02-21T17:45:32Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。