論文の概要: RAISE: LLM-based Automated Heuristic Design with Robust Adversary Instance Search
- arxiv url: http://arxiv.org/abs/2606.31801v1
- Date: Tue, 30 Jun 2026 15:19:27 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-01 18:27:19.281726
- Title: RAISE: LLM-based Automated Heuristic Design with Robust Adversary Instance Search
- Title(参考訳): RAISE:ロバスト・アドバイザリー・インスタンス・サーチによるLLMに基づく自動ヒューリスティック・デザイン
- Abstract要約: 本稿では,トレーニング分布の近傍に制約付き最悪のインスタンス探索を統合するフレームワークを提案する。
RAISEは、テストおよび問題スケール全体にわたって、一貫して強力なパフォーマンスを維持している。
- 参考スコア(独自算出の注目度): 2.8822232242646533
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Automated Heuristic Design (AHD) with Large Language Models (LLMs) has shown remarkable progress in discovering high-quality heuristics. However, existing LLM-based AHD methods optimize heuristics for a fixed training instance set and may fail catastrophically when deployed under real-world distributional shifts. We propose Robust Adversary Instance Search (RAISE), a framework that integrates constrained worst-case instance search within a principled neighborhood of the training distribution into the LLM-based evolutionary search loop. RAISE treats robust AHD as a constrained adversarial instance search problem: the outer loop evolves heuristics via LLM operators, while an LLM-free inner loop efficiently identifies hard instances within an epsilon-ball around the training instance set using a basis distribution parameterization with boundary projection. Comprehensive experiments on Online Bin Packing (OBP), Online Job Shop Scheduling (OJSP), and Online Vehicle Routing (OVRP) across five distribution families demonstrate that existing LLM-based AHD methods degrade by up to 19 times under distribution shift, while RAISE consistently maintains strong performance across all tested distributions and problem scales
- Abstract(参考訳): LLM(Large Language Models)を用いた自動ヒューリスティックデザイン(AHD)は,高品質ヒューリスティックの発見において顕著な進歩を見せている。
しかし、既存のLLMベースのAHD法は、固定トレーニングインスタンスセットのヒューリスティックスを最適化し、現実の分散シフトの下で展開すると破滅的に失敗する可能性がある。
本稿では,学習分布の原理的近傍に制約付き最悪のインスタンス探索を組み込んだフレームワークであるRobust Adversary Instance Search (RAISE)を提案する。
RAISE はロバスト AHD を制約付き対向インスタンス探索問題として扱い、外ループは LLM 演算子を介してヒューリスティックスを進化させ、一方 LLM のない内ループは境界射影を用いた基底分布パラメタライゼーションを用いてトレーニングインスタンスの周りのエプシロン球内のハードインスタンスを効率的に同定する。
Online Bin Packing(OBP)、Online Job Shop Scheduling(OJSP)、Online Vehicle Routing(OVRP)に関する総合的な実験により、既存のLLMベースのAHDメソッドは、配電シフトの19倍まで劣化し、RAISEは、テストされたすべてのディストリビューションと問題スケールの強いパフォーマンスを維持している。
関連論文リスト
- MOSAIC: Adversarial Co-evolution of Specialist Heuristics and Problem Instances for LLM-based Automated Heuristic Design [16.59846708454225]
本稿では,品質多様性(QD)アーカイブ内の問題インスタンスとスペシャリスト機能とを相互に共進化させるグリッドベースのフレームワークを提案する。
遠方グリッド領域からサンプリングされた各ペアに対して、LLM誘導進化ループは識別可能なインスタンスを生成する。
LLMは2つの反射を対比して、これらの領域に持続する多方向の洞察を生成し、交叉と突然変異を誘導する。
論文 参考訳(メタデータ) (2026-07-31T04:22:17Z) - AHD Agent: Agentic Reinforcement Learning for Automatic Heuristic Design [5.7547035595428255]
AHD(Automatic Design)は、NP-hard最適化問題を解決するための有望なパラダイムとして登場した。
既存のAHDフレームワークは通常、固定されたコンテキスト内で大きな言語モデル(LLM)を受動的ジェネレータとして扱う。
本稿では,新たなツール統合多ターンフレームワークであるAHD Agentを提案する。
論文 参考訳(メタデータ) (2026-05-09T07:36:45Z) - Rethinking LLM-Driven Heuristic Design: Generating Efficient and Specialized Solvers via Dynamics-Aware Optimization [21.449921296295884]
本研究では,コンバージェンス・アウェア・ヒューリスティックス(DASH, Dynamics-Aware Heuristics)を提案する。
DASHは、さまざまな問題スケールにわたる最先端のベースラインのソリューション品質を越えながら、ランタイム効率を3倍以上改善します。
論文 参考訳(メタデータ) (2026-01-14T05:06:42Z) - ArenaRL: Scaling RL for Open-Ended Agents via Tournament-based Relative Ranking [84.07076200941474]
ArenaRLは、ポイントワイドスカラースコアからグループ内相対ランクにシフトする強化学習パラダイムである。
我々は,グループ内対角アリーナを構築し,安定した有利な信号を得るためのトーナメントベースのランキングスキームを考案する。
実験により、ArenaRLは標準のRLベースラインを大幅に上回っていることが示された。
論文 参考訳(メタデータ) (2026-01-10T08:43:07Z) - Diffusion LLMs are Natural Adversaries for any LLM [50.88535293540971]
資源集約的(逆)な最適化問題を非効率な暗黙的推論タスクに変換する新しいフレームワークを提案する。
我々の中核となる洞察は、事前訓練された非自己回帰的生成LDMは、迅速な探索のための強力なサロゲートとして機能できるということである。
生成したプロンプトは、さまざまなブラックボックスターゲットモデルに対して強い転送可能性を示す、低複雑で多様なジェイルブレイクであることがわかった。
論文 参考訳(メタデータ) (2025-10-31T19:04:09Z) - Inpainting-Guided Policy Optimization for Diffusion Large Language Models [67.97530437998117]
自己回帰型LLMの代替として,マスケッド拡散大言語モデル (dLLM) が登場している。
本稿では,dLLMに対するRLアルゴリズムの設計について検討する。
論文 参考訳(メタデータ) (2025-09-12T16:44:31Z) - Agentic Reinforced Policy Optimization [66.96989268893932]
検証可能な報酬付き大規模強化学習(RLVR)は,大規模言語モデル(LLM)を単一ターン推論タスクに活用する効果を実証している。
現在のRLアルゴリズムは、モデル固有のロングホライゾン推論能力と、マルチターンツールインタラクションにおけるその習熟性のバランスが不十分である。
エージェント強化ポリシー最適化(ARPO: Agentic Reinforced Policy Optimization)は,マルチターンLDMエージェントを学習するためのエージェントRLアルゴリズムである。
論文 参考訳(メタデータ) (2025-07-26T07:53:11Z) - Iterative Self-Incentivization Empowers Large Language Models as Agentic Searchers [74.17516978246152]
大規模言語モデル(LLM)は、従来の手法を進化させるために情報検索に広く統合されている。
エージェント検索フレームワークであるEXSEARCHを提案する。
4つの知識集約ベンチマークの実験では、EXSEARCHはベースラインを大幅に上回っている。
論文 参考訳(メタデータ) (2025-05-26T15:27:55Z) - LLM-AutoDiff: Auto-Differentiate Any LLM Workflow [58.56731133392544]
自動プロンプト工学(APE)のための新しいフレームワーク LLM-AutoDiff について紹介する。
LLMs-AutoDiffは、各テキスト入力をトレーニング可能なパラメータとして扱い、フリーズした後方エンジンを使用して、テキスト勾配に対するフィードバック・アキンを生成する。
精度とトレーニングコストの両方において、既存のテキスト勾配ベースラインを一貫して上回ります。
論文 参考訳(メタデータ) (2025-01-28T03:18:48Z) - Invar-RAG: Invariant LLM-aligned Retrieval for Better Generation [43.630437906898635]
Invar-RAGと呼ばれる2段階ファインチューニングアーキテクチャを提案する。
検索段階では、LORAに基づく表現学習を統合してLLMベースの検索器を構築する。
生成段階では、抽出した情報に基づいて回答を生成する際のLCM精度を向上させるための精細調整法が用いられる。
論文 参考訳(メタデータ) (2024-11-11T14:25:37Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。