論文の概要: Topic Modelling Black Box Optimization

• arxiv url: http://arxiv.org/abs/2512.16445v1
• Date: Thu, 18 Dec 2025 12:00:24 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-12-19 18:10:32.041868
• Title: Topic Modelling Black Box Optimization
• Title（参考訳）: ブラックボックス最適化のトピックモデリング
• Authors: Roman Akramov, Artem Khamatullin, Svetlana Glazyrina, Maksim Kryzhanovskiy, Roman Ischenko,
• Abstract要約: LDA(Latent Dirichlet Allocation)におけるトピック数の選択は、トピックモデルの統計的適合性と解釈可能性の両方に強く影響を与える重要な設計決定である。 個別のブラックボックス最適化問題として$T$を選択し、各関数評価はLDAモデルのトレーニングに対応し、その妥当性を測る。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Choosing the number of topics $T$ in Latent Dirichlet Allocation (LDA) is a key design decision that strongly affects both the statistical fit and interpretability of topic models. In this work, we formulate the selection of $T$ as a discrete black-box optimization problem, where each function evaluation corresponds to training an LDA model and measuring its validation perplexity. Under a fixed evaluation budget, we compare four families of optimizers: two hand-designed evolutionary methods - Genetic Algorithm (GA) and Evolution Strategy (ES) - and two learned, amortized approaches, Preferential Amortized Black-Box Optimization (PABBO) and Sharpness-Aware Black-Box Optimization (SABBO). Our experiments show that, while GA, ES, PABBO, and SABBO eventually reach a similar band of final perplexity, the amortized optimizers are substantially more sample- and time-efficient. SABBO typically identifies a near-optimal topic number after essentially a single evaluation, and PABBO finds competitive configurations within a few evaluations, whereas GA and ES require almost the full budget to approach the same region.
• Abstract（参考訳）: LDA(Latent Dirichlet Allocation)におけるトピック数の選択は、トピックモデルの統計的適合性と解釈可能性の両方に強く影響を与える重要な設計決定である。 本研究では,各関数評価がLDAモデルのトレーニングに対応し,その妥当性を測る離散ブラックボックス最適化問題として,$T$の選択を定式化する。 遺伝的アルゴリズム (GA) と進化戦略 (ES) の2つの手設計の進化的手法と、2つの学習された、償却されたアプローチ、優先的償却ブラックボックス最適化 (PABBO) とシャープネス対応ブラックボックス最適化 (SABBO) を比較した。 実験の結果, GA, ES, PABBO, SABBOは最終的に同様の難易度に到達したが, 償却オプティマイザは, よりサンプリング効率と時間効率がよいことがわかった。 SABBOは基本的に1つの評価の後、ほぼ最適のトピック番号を識別し、PABBOはいくつかの評価で競合する構成を見つける。

関連論文リスト

• None To Optima in Few Shots: Bayesian Optimization with MDP Priors [40.4319486959011]
  本稿では,機能評価が極めて少ないブラックボックス最適化法であるProfBOアルゴリズムを提案する。 ProfBOは、高い品質のチューニングソリューションを極めて少ない評価で達成することで、最先端の手法を一貫して上回っている。
  論文  参考訳（メタデータ） (2025-11-02T16:53:17Z)
• Trust Region-Based Bayesian Optimisation to Discover Diverse Solutions [8.727449523567673]
  異なる次元のブラックボックス問題における多様性最適化のための信頼領域に基づくBOアルゴリズムの有効性について検討する。 信頼性のある領域ベースの拡張性アプローチを用いた最初のBO法であるTuRBO1を拡張した多様性最適化手法を提案する。 本研究では,2次元から20次元のベンチマーク関数を用いたアルゴリズムの評価を行った。
  論文  参考訳（メタデータ） (2025-11-02T00:31:37Z)
• $f$-PO: Generalizing Preference Optimization with $f$-divergence Minimization [54.94545757220999]
  $f$-POは、既存のアプローチを一般化し拡張する新しいフレームワークである。 ベンチマークデータセットを用いて最先端言語モデルの実験を行う。
  論文  参考訳（メタデータ） (2024-10-29T02:11:45Z)
• Sharpness-Aware Black-Box Optimization [47.95184866255126]
  シャープネスを考慮したブラックボックス最適化(SABO)アルゴリズムを提案する。 実験により, モデル一般化性能向上のためのSABO法の有効性が実証された。
  論文  参考訳（メタデータ） (2024-10-16T11:08:06Z)
• Poisson Process for Bayesian Optimization [126.51200593377739]
  本稿では、Poissonプロセスに基づくランキングベースの代理モデルを提案し、Poisson Process Bayesian Optimization(PoPBO)と呼ばれる効率的なBOフレームワークを提案する。 従来のGP-BO法と比較すると,PoPBOはコストが低く,騒音に対する堅牢性も良好であり,十分な実験により検証できる。
  論文  参考訳（メタデータ） (2024-02-05T02:54:50Z)
• Generalizing Bayesian Optimization with Decision-theoretic Entropies [102.82152945324381]
  統計的決定論の研究からシャノンエントロピーの一般化を考える。 まず,このエントロピーの特殊なケースがBO手順でよく用いられる獲得関数に繋がることを示す。 次に、損失に対する選択肢の選択が、どのようにして柔軟な獲得関数の族をもたらすかを示す。
  論文  参考訳（メタデータ） (2022-10-04T04:43:58Z)
• MBORE: Multi-objective Bayesian Optimisation by Density-Ratio Estimation [0.01652719262940403]
  最適化問題は、しばしば計算的に、あるいは金銭的にコストがかかる複数の矛盾する目標を持つ。 単代理ベイズ最適化(BO)は、そのようなブラックボックス関数を最適化するための一般的なモデルベースのアプローチである。 BOREによるBOの先行研究を多目的設定に拡張する。
  論文  参考訳（メタデータ） (2022-03-31T09:27:59Z)
• A unified surrogate-based scheme for black-box and preference-based optimization [2.561649173827544]
  ブラックボックスと嗜好に基づく最適化問題は密接に関連しており、同じアプローチのファミリを用いて解決可能であることを示す。 一般的なMSRSフレームワークを一般化した最適化手法である一般化されたメトリック応答面(gMRS)アルゴリズムを提案する。
  論文  参考訳（メタデータ） (2022-02-03T08:47:54Z)
• Bilevel Optimization: Convergence Analysis and Enhanced Design [63.64636047748605]
  バイレベル最適化は多くの機械学習問題に対するツールである。 Stoc-BiO という新しい確率効率勾配推定器を提案する。
  論文  参考訳（メタデータ） (2020-10-15T18:09:48Z)
• Scalable Constrained Bayesian Optimization [10.820024633762596]
  ブラックボックス制約下での高次元ブラックボックス関数のグローバルな最適化は、機械学習、制御、科学コミュニティにおける普及的なタスクである。 本稿では,上記の課題を克服し,現状を推し進めるスケーラブルな制約付きベイズ最適化(SCBO)アルゴリズムを提案する。
  論文  参考訳（メタデータ） (2020-02-20T01:48:46Z)
• Stepwise Model Selection for Sequence Prediction via Deep Kernel Learning [100.83444258562263]
  本稿では,モデル選択の課題を解決するために,新しいベイズ最適化(BO)アルゴリズムを提案する。 結果として得られる複数のブラックボックス関数の最適化問題を協調的かつ効率的に解くために,ブラックボックス関数間の潜在的な相関を利用する。 我々は、シーケンス予測のための段階的モデル選択(SMS)の問題を初めて定式化し、この目的のために効率的な共同学習アルゴリズムを設計し、実証する。
  論文  参考訳（メタデータ） (2020-01-12T09:42:19Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。