論文の概要: PRISM: A Predictive Protocol for Permutation Optimization via Landscape Diagnostics
- arxiv url: http://arxiv.org/abs/2608.08344v1
- Date: Sat, 08 Aug 2026 21:52:04 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-11 19:16:36.782852
- Title: PRISM: A Predictive Protocol for Permutation Optimization via Landscape Diagnostics
- Title(参考訳): PRISM:ランドスケープ診断による置換最適化のための予測プロトコル
- Abstract要約: 本稿では、置換最適化のための予測プロトコルであるPRISMを紹介する。
PRISMは、検索戦略を選択する前にフィットネスランドスケープを測定する。
その結果、PRISMは普遍的に優れているものではなく、置換探索がいつ有用かを決定するためのフレームワークとして位置づけられた。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Permutation optimization arises whenever the components of a system are fixed but their ordering affects performance. We introduce PRISM, a predictive protocol for permutation optimization that measures a fitness landscape before selecting a search strategy. PRISM uses inexpensive landscape diagnostics, including one-step move autocorrelation and fitness-distance correlation, to predict useful mutation operators, identify when structured search is likely to outperform random sampling, and detect regimes in which search provides little advantage. Across synthetic permutation landscapes, neural architecture benchmarks, scientific machine learning pipelines, and large-language-model instruction ordering, the protocol makes testable predictions about search behavior before optimization begins. Exhaustive instruction-ordering experiments reveal substantial performance variation induced solely by permutation, while cross-model experiments show that useful ordering structure can transfer across model families and task difficulty. Additional experiments demonstrate that instruction ordering remains consequential after prompt wording is optimized, indicating that content optimization and ordering optimization are complementary. The results position PRISM not as a universally superior optimizer, but as a framework for determining when permutation search is useful, which representation and operator should be used, and when simpler alternatives are preferable.
- Abstract(参考訳): 順列最適化は、システムのコンポーネントが固定されているが、その順序がパフォーマンスに影響を与えるときに発生する。
PRISMは、探索戦略を選択する前に、フィットネスランドスケープを測定する、置換最適化のための予測プロトコルである。
PRISMは、ワンステップの移動自己相関やフィットネス-距離相関などの安価なランドスケープ診断を使用して、有用な突然変異演算子を予測し、構造化検索がランダムサンプリングを上回りそうなタイミングを特定し、検索がほとんど有利な状態を検出する。
合成置換ランドスケープ、ニューラルネットワークベンチマーク、科学的な機械学習パイプライン、大規模言語モデル命令順序付けなどを通じて、このプロトコルは最適化が始まる前に検索行動に関するテスト可能な予測を行う。
探索的命令順序付け実験は、置換のみによって引き起こされる実質的な性能変化を示す一方、クロスモデル実験は、有用な順序付け構造がモデルファミリをまたいで移動し、タスクの難易度を示す。
さらに、命令順序付けは、プロンプトワードが最適化された後も連続的に行われており、コンテンツ最適化と順序付け最適化が相補的であることを示す。
結果、PRISMは普遍的に優れたオプティマイザではなく、置換探索がいつ有用か、どの表現と演算子を使うべきか、より単純な代替手段が好まれるかを決定するためのフレームワークとして位置づけられる。
関連論文リスト
- APAO: Adaptive Prefix-Aware Optimization for Generative Recommendation [26.371939617653084]
生成レコメンデーションは自動回帰生成プロセスであり、ユーザインタラクション履歴に基づいて、次の項目の離散トークンを予測する。
既存の生成レコメンデーションモデルは、通常、クロスエントロピー損失のようなトークンレベルの可能性目標で訓練される。
標準的なトレーニングでは、推論中にビームサーチが低確率の分岐を産み出すという事実を無視して、地道の歴史が常に利用可能であると仮定している。
論文 参考訳(メタデータ) (2026-03-03T08:29:15Z) - POP: Prior-fitted Optimizer Policies [20.784587787548436]
POP(Prior Policies Policies)は、文脈情報に基づいて段階的に座標を予測できるメタ学習モデルである。
本モデルは,不適合な目的から抽出した数百万の合成最適化問題に基づいて学習した。
論文 参考訳(メタデータ) (2026-02-17T10:27:07Z) - Local Entropy Search over Descent Sequences for Bayesian Optimization [48.7994415668802]
実用的な方法は、勾配降下のような局所最適化手法を用いて初期設計の近傍を反復的に洗練することである。
降下列で到達可能な解を明示的に対象とするベイズ最適化パラダイムである局所エントロピー探索(LES)を提案する。
論文 参考訳(メタデータ) (2025-11-24T15:52:17Z) - Discovering Preference Optimization Algorithms with and for Large Language Models [50.843710797024805]
オフライン優先最適化は、LLM(Large Language Model)出力の品質を向上・制御するための重要な手法である。
我々は、人間の介入なしに、新しい最先端の選好最適化アルゴリズムを自動で発見する客観的発見を行う。
実験は、ロジスティックと指数的損失を適応的にブレンドする新しいアルゴリズムであるDiscoPOPの最先端性能を示す。
論文 参考訳(メタデータ) (2024-06-12T16:58:41Z) - Generalizing Bayesian Optimization with Decision-theoretic Entropies [102.82152945324381]
統計的決定論の研究からシャノンエントロピーの一般化を考える。
まず,このエントロピーの特殊なケースがBO手順でよく用いられる獲得関数に繋がることを示す。
次に、損失に対する選択肢の選択が、どのようにして柔軟な獲得関数の族をもたらすかを示す。
論文 参考訳(メタデータ) (2022-10-04T04:43:58Z) - Efficient Non-Parametric Optimizer Search for Diverse Tasks [93.64739408827604]
興味のあるタスクを直接検索できる,スケーラブルで汎用的なフレームワークを初めて提示する。
基礎となる数学表現の自然木構造に着想を得て、空間を超木に再配置する。
我々は,モンテカルロ法を木探索に適用し,レジェクションサンプリングと等価形状検出を備える。
論文 参考訳(メタデータ) (2022-09-27T17:51:31Z) - Towards Learning Universal Hyperparameter Optimizers with Transformers [57.35920571605559]
我々は,テキストベースのトランスフォーマーHPOフレームワークであるOptFormerを紹介した。
実験の結果,OptFormerは少なくとも7種類のHPOアルゴリズムを模倣できることがわかった。
論文 参考訳(メタデータ) (2022-05-26T12:51:32Z) - Bayesian Optimization for auto-tuning GPU kernels [0.0]
GPUカーネルの最適パラメータ設定を見つけることは、たとえ自動化されても、大規模な検索スペースにとって簡単な作業ではない。
拡張性を改善した新しい文脈探索機能と,情報機能選択機構を併用した新しい獲得機能を導入する。
論文 参考訳(メタデータ) (2021-11-26T11:26:26Z) - An AI-Assisted Design Method for Topology Optimization Without
Pre-Optimized Training Data [68.8204255655161]
トポロジ最適化に基づくAI支援設計手法を提示し、最適化された設計を直接的に得ることができる。
設計は、境界条件と入力データとしての充填度に基づいて、人工ニューラルネットワーク、予測器によって提供される。
論文 参考訳(メタデータ) (2020-12-11T14:33:27Z) - NOVAS: Non-convex Optimization via Adaptive Stochastic Search for
End-to-End Learning and Control [22.120942106939122]
本稿では,一般のニューラルネットワーク最適化操作において,適応探索をビルディングブロックとして用いることを提案する。
我々は、合成エネルギーベースの構造化タスクにおける既存の2つの代替案に対してベンチマークを行い、最適制御アプリケーションでの使用例を示す。
論文 参考訳(メタデータ) (2020-06-22T03:40:36Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。