論文の概要: Amortized Thompson Sampling and Efficient Information-Directed Sampling for Simulator-Based Design
- arxiv url: http://arxiv.org/abs/2610.32514v1
- Date: Fri, 23 Oct 2026 11:38:24 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-27 01:38:06.508086
- Title: Amortized Thompson Sampling and Efficient Information-Directed Sampling for Simulator-Based Design
- Title(参考訳): 模擬型トンプソンサンプリングと効率的な情報指向サンプリングによるシミュレーターベース設計
- Abstract要約: トンプソンサンプリングは、不確実性の下でのシーケンシャルな意思決定のための戦略である。
本研究では,データの収集に先立って,この処理を前倒しする手法を提案する。
本手法は, ラウンドごとの逐次データ取得とトンプソン・サンプルレコメンデーションを含む, 複数ラウンド設定を解決するための手法である。
- 参考スコア(独自算出の注目度): 3.6954802719347417
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Thompson sampling is a widely used strategy for sequential decision-making under uncertainty, offering a principled way to balance exploration and exploitation. This strategy involves maximizing a target objective under a single sample drawn from the current belief over unknown quantities. Conventionally, this optimization is performed once the belief has been inferred from data, and it becomes computationally burdensome when many Thompson samples are required, especially in continuous action spaces. In this work, we introduce an approach that amortizes this process ahead of time, before any data is collected, so that an approximation of the full Thompson sampling distribution is available immediately once observations arrive. We employ this approach to solve the multi-round setting, involving sequential data acquisition and Thompson-sample recommendation across rounds. Beyond accelerating Thompson sampling, our approach enables efficient estimation of expected information gain about the optimal action. This can be used to select more informative Thompson samples or to obtain maximally informative designs with optimization. Combining this estimate of expected information gain with immediate regret supports information-directed sampling (IDS), which can outperform Thompson sampling by explicitly balancing these two quantities. We demonstrate our approach on two simulator-based design problems in synthetic biology, where the simulators have intractable likelihoods.
- Abstract(参考訳): トンプソンサンプリングは、不確実性の下でのシーケンシャルな意思決定の戦略として広く使われており、探索と搾取のバランスをとるための原則的な方法を提供している。
この戦略は、未知の量に対する現在の信念から引き出された単一のサンプルの下で目標目標を最大化することを含む。
従来、この最適化は信念がデータから推論された後に行われ、特に連続的な行動空間において多くのトンプソンサンプルを必要とすると計算的に負担になる。
本研究では,データ収集に先立って,この過程を前向きに補正する手法を導入し,観測が到着すると,全トンプソンサンプリング分布の近似がすぐに利用可能になることを示す。
本手法は, ラウンドごとの逐次データ取得とトンプソン・サンプルレコメンデーションを含む, 複数ラウンド設定を解決するための手法である。
トンプソンサンプリングの高速化以外にも,本手法は最適動作に関する期待情報獲得を効率的に評価することができる。
これはより情報的なトンプソンサンプルを選択したり、最適化された最大情報的な設計を得るのに使うことができる。
この予測情報ゲインと即時後悔する情報誘導サンプリング(IDS)を組み合わせることで、これらの2つの量を明確にバランスさせることで、トンプソンサンプリングを上回り得る。
合成生物学における2つのシミュレータに基づく設計問題に対して,シミュレータが難解な可能性を示す。
関連論文リスト
- Thompson Sampling via Fine-Tuning of LLMs [68.1722422968855]
我々は,スケーラブルな大規模獲得関数を必要としないトンプソンサンプリングに基づく代替案を提案する。
我々のアプローチであるThompson Smpling via Finening (ToSFiT) は、プロンプト条件付き言語モデルに埋め込まれた事前知識を活用し、後方に向けて漸進的に適応する。
分析の結果,ToSFiTアルゴリズムの基盤となる極大性原理の後続確率への注意的適応が重要であることが明らかとなった。
論文 参考訳(メタデータ) (2025-10-15T09:13:59Z) - Finding the Sweet Spot: Preference Data Construction for Scaling Preference Optimization [66.67988187816185]
本研究の目的は、繰り返しランダムサンプリングにより、オンラインサンプルの数を増大させ、アライメント性能を向上させることである。
実験の結果,サンプルサイズが大きくなるにつれて,この戦略がエフェデクリンの性能向上につながることが明らかとなった。
サンプルの規模が大きくなるにつれてモデル性能を継続的に向上するスケーラブルな嗜好データ構築戦略を導入する。
論文 参考訳(メタデータ) (2025-02-24T04:22:57Z) - BOTS: Batch Bayesian Optimization of Extended Thompson Sampling for Severely Episode-Limited RL Settings [11.008537121214104]
線形トンプソンサンプリングバンドイットを状態作用ユーティリティ関数に基づいた選択動作に拡張する。
提案手法は, トータルリターンの観点から, 標準トンプソンサンプリングを著しく上回り得ることを示す。
論文 参考訳(メタデータ) (2024-11-30T01:27:44Z) - Langevin Monte Carlo for Contextual Bandits [72.00524614312002]
Langevin Monte Carlo Thompson Sampling (LMC-TS) が提案されている。
提案アルゴリズムは,文脈的帯域幅の特別な場合において,最高のトンプソンサンプリングアルゴリズムと同じサブ線形残差を達成できることを示す。
論文 参考訳(メタデータ) (2022-06-22T17:58:23Z) - Doubly-Adaptive Thompson Sampling for Multi-Armed and Contextual Bandits [28.504921333436833]
本稿では,トンプソンサンプリングに基づくアルゴリズムの変種について,両腕の真の平均報酬に対する2倍頑健な推定器の項を適応的に再検討する。
提案アルゴリズムは, 半合成実験における最適(最小)後悔率とその経験的評価に適合する。
このアプローチは、適応データ収集とは別に、より多くのバイアス源が存在するコンテキスト的包帯に拡張する。
論文 参考訳(メタデータ) (2021-02-25T22:29:25Z) - Analysis and Design of Thompson Sampling for Stochastic Partial
Monitoring [91.22679787578438]
部分モニタリングのためのトンプソンサンプリングに基づく新しいアルゴリズムを提案する。
局所可観測性を持つ問題の線形化変種に対して,新たなアルゴリズムが対数問題依存の擬似回帰$mathrmO(log T)$を達成することを証明した。
論文 参考訳(メタデータ) (2020-06-17T05:48:33Z) - On Thompson Sampling with Langevin Algorithms [106.78254564840844]
多武装バンディット問題に対するトンプソンサンプリングは理論と実践の両方において良好な性能を享受する。
計算上のかなりの制限に悩まされており、反復ごとに後続分布からのサンプルを必要とする。
本稿では,この問題に対処するために,トンプソンサンプリングに適した2つのマルコフ連鎖モンテカルロ法を提案する。
論文 参考訳(メタデータ) (2020-02-23T22:35:29Z) - Ensemble Sampling [18.85309520133554]
本稿では,ニューラルネットワークのような複雑なモデルに直面した場合でも,トラクタビリティを維持しつつ,トンプソンサンプリングを近似するアンサンブルサンプリングを開発する。
我々は、このアプローチを支持する理論的基盤を確立し、さらなる洞察を提供する計算結果を示す。
論文 参考訳(メタデータ) (2017-05-20T19:36:36Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。