論文の概要: Multiple output samples for each input in a single-output Gaussian
process
- arxiv url: http://arxiv.org/abs/2306.02719v1
- Date: Mon, 5 Jun 2023 09:12:34 GMT
- ステータス: 処理完了
- システム内更新日: 2023-06-06 16:01:01.508392
- Title: Multiple output samples for each input in a single-output Gaussian
process
- Title(参考訳): 単一出力ガウス過程における入力毎の複数の出力サンプル
- Authors: Jeremy H. M. Wong, Huayun Zhang, and Nancy F. Chen
- Abstract要約: 標準ガウス過程(GP)は、トレーニングセット内の入力ごとに1つの出力サンプルしか考慮しない。
本稿では、GPを一般化して、これらの複数の出力サンプルをトレーニングセットで使用可能にすることを提案する。
これは、全ての出力サンプルがここで同じタスクから来ているため、マルチ出力のGPとは異なる。
- 参考スコア(独自算出の注目度): 23.161259333609387
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: The standard Gaussian Process (GP) only considers a single output sample per
input in the training set. Datasets for subjective tasks, such as spoken
language assessment, may be annotated with output labels from multiple human
raters per input. This paper proposes to generalise the GP to allow for these
multiple output samples in the training set, and thus make use of available
output uncertainty information. This differs from a multi-output GP, as all
output samples are from the same task here. The output density function is
formulated to be the joint likelihood of observing all output samples, and
latent variables are not repeated to reduce computation cost. The test set
predictions are inferred similarly to a standard GP, with a difference being in
the optimised hyper-parameters. This is evaluated on speechocean762, showing
that it allows the GP to compute a test set output distribution that is more
similar to the collection of reference outputs from the multiple human raters.
- Abstract(参考訳): 標準ガウス過程(GP)は、トレーニングセット内の入力ごとに1つの出力サンプルしか考慮しない。
音声言語評価のような主観的なタスクのためのデータセットは、入力毎に複数の人間のレーダから出力ラベルを付加することができる。
本稿では, gp を一般化し, トレーニングセット内の複数の出力サンプルを利用可能とし, 利用可能な出力不確実性情報を活用することを提案する。
これはマルチ出力gpと異なり、すべての出力サンプルはここで同じタスクからのものである。
出力密度関数は、すべての出力サンプルを観測する共同可能性として定式化され、潜在変数を繰り返すことなく計算コストを削減できる。
テストセットの予測は、最適化されたハイパーパラメータに差がある標準GPと同様に推測される。
このことは speechocean762 で評価され、GP が複数の人間のレーダからの参照出力の収集に類似したテストセット出力分布を計算できることが示されている。
関連論文リスト
- Scalable Multi-Output Gaussian Processes with Stochastic Variational Inference [2.1249213103048414]
遅延可変MOGP (LV-MOGP) は、データポイントが少ない新しい出力への効率的な一般化を可能にする。
LV-MOGPの複雑性は出力数とともに線形に増加する。
本稿では,LV-MOGPに対して,入力と出力の両方にミニバッチを適用可能な変分推論手法を提案する。
論文 参考訳(メタデータ) (2024-07-02T17:53:56Z) - Exploring Demonstration Ensembling for In-context Learning [75.35436025709049]
In-context Learning (ICL) は、与えられたタスクに対する入出力ペアの言語モデル(LM)の例を示す。
ICLの標準的なアプローチは、LMdのデモとテスト入力の促進である。
本研究は,単純な結合の代替として,DENSE(Demonstration Ensembling)を探索する。
論文 参考訳(メタデータ) (2023-08-17T04:45:19Z) - Conformal Language Modeling [61.94417935386489]
生成言語モデル(LM)の共形予測のための新しい手法を提案する。
標準共形予測は厳密で統計的に保証された予測セットを生成する。
我々は,オープンドメイン質問応答,テキスト要約,ラジオロジーレポート生成において,複数のタスクに対するアプローチの約束を実証する。
論文 参考訳(メタデータ) (2023-06-16T21:55:08Z) - Gradient-based Wang-Landau Algorithm: A Novel Sampler for Output
Distribution of Neural Networks over the Input Space [20.60516313062773]
本稿では,グラディエントをベースとした新しい Wang-Landau (GWL) サンプリング手法を提案する。
まず、NNの出力分布と物理系の状態密度(DOS)との接続を描画する。
そこで我々は,そのランダムな提案を勾配に基づくモンテカルロ提案に置き換えることにより,DOS問題の古典的なサンプリングアルゴリズムであるワン・ランダウアルゴリズムを再構築する。
論文 参考訳(メタデータ) (2023-02-19T05:42:30Z) - Arithmetic Sampling: Parallel Diverse Decoding for Large Language Models [65.52639709094963]
ビームサーチやガンベルトップkサンプリングのような手法は、ビームの各要素に対して異なる出力を保証できるが、並列化は容易ではない。
本稿では,大言語モデルによって暗黙的に定義された算術符号書に従ってサンプリングを行うフレームワークを提案する。
論文 参考訳(メタデータ) (2022-10-18T22:19:41Z) - Few-shot Mining of Naturally Occurring Inputs and Outputs [83.3871936721431]
我々は,100個の小さな種子セットを用いて訓練した教師付き鉱業関数を用いて,大規模コーパスからの入力出力例をマイニングした。
モデル生成データ拡張とは違って,本手法では,複数のタスクを対象としたシードセットのスタイルを模倣するために,自然に発生する高品質な入力出力ペアをマイニングする。
SQuAD型読解では, 採取したデータでシードセットを増強すると, シードセットのみを微調整したBART-largeベースラインよりも13F1の精度が向上した。
論文 参考訳(メタデータ) (2022-05-09T05:40:52Z) - Leveraging Probabilistic Circuits for Nonparametric Multi-Output
Regression [15.52267516714806]
GPエキスパートを用いた大規模マルチアウトプットレグレッションに対するエキスパートベースアプローチを提案する。
モデルでは,推論を正確に,効率的に行うことができることを示す。
論文 参考訳(メタデータ) (2021-06-16T10:49:55Z) - Probabilistic Kolmogorov-Arnold Network [1.4732811715354455]
本稿では,アレータティック不確実性の場合に出力の確率分布を推定する手法を提案する。
提案手法は, 出力の入力依存確率分布と, 入力による分布型の変化を対象とする。
本手法は任意の回帰モデルに適用できるが, 計算効率のよいモデルの構築につながるため,kansと組み合わせる。
論文 参考訳(メタデータ) (2021-04-04T23:49:15Z) - Weakly-supervised Multi-output Regression via Correlated Gaussian
Processes [3.1511847280063696]
依存ガウス過程に基づく弱教師付きマルチアウトプットモデルを提案する。
このモデルでは,ラベルの欠如によるマルチアウトプット設定が優れていることを示す。
最終的には、公正な推論とシーケンシャルな意思決定において、アプローチの可能な使用を強調します。
論文 参考訳(メタデータ) (2020-02-19T19:54:25Z) - Generating diverse and natural text-to-speech samples using a quantized
fine-grained VAE and auto-regressive prosody prior [53.69310441063162]
本稿では,より自然な音響サンプルを生成できる離散潜在空間における逐次前処理を提案する。
本研究では,聴取試験,自動音声認識(ASR)性能の客観的指標,韻律特性の測定によるアプローチの評価を行った。
論文 参考訳(メタデータ) (2020-02-06T12:35:50Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。