論文の概要: Beyond Prompt or Skill? Attribution-Guided Optimization of Modular LLM Programs

• arxiv url: http://arxiv.org/abs/2609.32492v1
• Date: Sat, 26 Sep 2026 11:35:35 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-07 08:33:51.283309
• Title: Beyond Prompt or Skill? Attribution-Guided Optimization of Modular LLM Programs
• Title（参考訳）: プロンプトやスキルを超えて? モジュール型LLMプログラムの属性ガイドによる最適化
• Abstract要約: タスク命令、再利用可能なスキルブロック、ルーティングルールを協調的に最適化するフレームワークであるSPAROを提案する。 言語プログラムの最適化は、グローバルなプロンプト書き換えを超えて、構造化され、再利用可能な、選択的に活性化されたタスク知識へと移行する。 5つのベンチマークと5つのワーカモデルで、SPAROはプロンプト中心とスキル中心の両方の最適化ベースラインを一貫して上回っている。
• 参考スコア（独自算出の注目度）: 11.81988371180666
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Large language models can solve increasingly diverse reasoning tasks, yet their performance remains highly sensitive to task prompts, intermediate instructions, and the way reusable problem-solving knowledge is incorporated. Existing optimization methods usually focus on only one part of this design space: they either optimize a monolithic prompt, or separately induce and refine skills from model traces. As a result, they lack a principled mechanism for deciding which component should be updated when failures occur, and they rarely optimize prompts, skills, and skill-use policies in a unified framework. We propose SPARO (Skill, Prompt, And Routing Optimization), a framework that jointly optimizes task instructions, reusable skill blocks, and routing rules. It performs controlled counterfactual evaluations, converts examples' effects into a probabilistic responsibility distribution over prompt, skill, and routing components, samples one component from that distribution, and applies the corresponding targeted mutation. This design moves language-program optimization beyond global prompt rewriting toward structured, reusable, and selectively activated task knowledge. Across five benchmarks and five worker models, SPARO consistently outperforms both prompt-centered and skill-centered optimization baselines. These results suggest that effective language-program optimization depends not only on discovering useful task knowledge, but also on deciding where that knowledge should be stored and when it should be activated.
• Abstract（参考訳）: 大規模言語モデルは多種多様な推論タスクを解くことができるが、その性能はタスクプロンプトや中間命令、再利用可能な問題解決知識の組み入れ方に非常に敏感である。 既存の最適化手法は通常、モノリシックなプロンプトを最適化するか、モデルトレースから個別にスキルを誘導し、洗練する。 結果として、障害が発生した時にどのコンポーネントを更新すべきかを決定するための原則的なメカニズムが欠如しており、統一されたフレームワークでプロンプト、スキル、スキル使用ポリシーを最適化することは滅多にありません。 タスク命令、再利用可能なスキルブロック、ルーティングルールを協調的に最適化するフレームワークであるSPARO(Skill, Prompt, And Routing Optimization)を提案する。 制御された反事実評価を実行し、プロンプト、スキル、ルーティングコンポーネント上の確率的責任分布に変換し、その分布から1つのコンポーネントをサンプリングし、対応する突然変異を適用します。 この設計は、言語プログラムの最適化をグローバルなプロンプト書き換えを超えて、構造化され、再利用可能な、選択的に活性化されたタスク知識へと移行する。 5つのベンチマークと5つのワーカモデルで、SPAROはプロンプト中心とスキル中心の両方の最適化ベースラインを一貫して上回っている。 これらの結果から,効率的な言語プログラミングの最適化は,有用なタスク知識の発見だけでなく,その知識をどこに保存すべきか,いつ起動すべきかの判断にも依存することがわかった。

関連論文リスト

• The Optimizer Is the Agent: Reasoning-Driven Search across Prompts, Programs, and ML Workflows [72.9051182568928]
  推論駆動最適化のための統合フレームワークであるReASearchを提案する。 共有エージェントループとドメイン固有のツールにより、ReASearchは、プロンプト、プログラム、MLを最適化するために、まったく同じスキャフォールドをインスタンス化する。 我々は,複雑な探索行動がエージェントの推論プロセスから自然に現れることを観察する。
  論文  参考訳（メタデータ） (2026-08-07T02:15:39Z)
• Joint Semantic Token Selection and Prompt Optimization for Interpretable Prompt Learning [57.91658393667469]
  Interpretable Prompt Learningは、個別の意味トークンの選択と連続的なプロンプト最適化を交互に行うハイブリッドフレームワークである。 我々のフレームワークはプラグイン・アンド・プレイであり、既存の即興学習手法とシームレスに統合できる。
  論文  参考訳（メタデータ） (2026-05-06T02:38:59Z)
• Optimizing LLM Prompt Engineering with DSPy Based Declarative Learning [0.0]
  大規模言語モデル(LLM)は、幅広い自然言語処理タスクにおいて、高いパフォーマンスを示している。 それらの効果は、素早い設計、構造、組込み推論に大きく依存している。 本稿では,DSPyに基づく宣言型学習の体系的研究を行い,迅速な最適化を提案する。
  論文  参考訳（メタデータ） (2026-04-06T17:17:57Z)
• Modular Prompt Optimization: Optimizing Structured Prompts with Section-Local Textual Gradients [0.8604557306886812]
  本稿では,プロンプトを固定的なセマンティックセクションで構成される構造化オブジェクトとして扱うスキーマベースのプロンプト最適化フレームワークを提案する。 LLaMA-3 8B-Instruct と Mistral-7B-Instruct をソルバモデルとして用いて, ARC-Challenge と MMLU の2つの推論ベンチマークでMPOを評価した。
  論文  参考訳（メタデータ） (2026-01-07T16:20:08Z)
• Learning from Prompt itself: the Hierarchical Attribution Prompt Optimization [13.8868879878572]
  構造化最適化アプローチでは、改良されたプロンプトを開発するには、自動または半自動の手順が必要である。 現在のプロンプト最適化手法は、しばしばプロンプトドリフトを誘導し、新しいプロンプトが前の障害を修正するが、以前成功したタスクのパフォーマンスを損なう。 本研究では,(1)学習データにおける誤りパターンをターゲットとした動的帰属機構,(2)機能的プロンプトセグメントを編集するための意味単位最適化,(3)エンドツーエンドのLSMとLM-MLLMの両方をサポートするマルチモーダル・フレンドリなプロンプト・プロンプト・フレームワークを提案する。
  論文  参考訳（メタデータ） (2026-01-06T03:34:17Z)
• Tournament of Prompts: Evolving LLM Instructions Through Structured Debates and Elo Ratings [0.9437165725355702]
  我々は,エロの選考による議論駆動評価を通じて,進化を促す新しいフレームワークであるDEEVOを紹介する。 Eloの格付けをフィットネスプロキシとして利用することで、DEEVOは同時に改善を推進し、迅速な人口の貴重な多様性を保ちます。
  論文  参考訳（メタデータ） (2025-05-30T19:33:41Z)
• RAISE: Reinforced Adaptive Instruction Selection For Large Language Models [63.122992052034554]
  タスクオブジェクト駆動型命令選択フレームワークRAISE(Reinforced Adaptive Instruction Selection)を提案する。 RAISEは命令の微調整プロセス全体を最適化に取り入れ、各命令がモデルの性能改善に期待する影響に基づいて各ステップで命令を選択する。 実験と結果解析は,他の命令選択法と比較して,本手法の優位性を証明している。
  論文  参考訳（メタデータ） (2025-04-09T21:17:52Z)
• Towards more Contextual Agents: An extractor-Generator Optimization Framework [0.0]
  LLM(Large Language Model)ベースのエージェントは、幅広い汎用アプリケーションにわたる複雑なタスクの解決に顕著な成功を収めている。 しかしながら、それらのパフォーマンスは、専門産業や研究領域のようなコンテキスト固有のシナリオで劣化することが多い。 この課題に対処するため,本研究では,LLMエージェントの文脈適応性を高めるための体系的アプローチを提案する。
  論文  参考訳（メタデータ） (2025-02-18T15:07:06Z)
• In-context Demonstration Matters: On Prompt Optimization for Pseudo-Supervision Refinement [71.60563181678323]
  大規模言語モデル(LLM)は様々なタスクで大きな成功を収めており、生成品質をさらに向上させるためには微調整が必要である場合もある。 これらの課題に対処する直接的な解決策は、教師なしの下流タスクから高信頼のデータを生成することである。 本稿では,プロンプトと全体的な擬似スーパービジョンを両立させる新しい手法,擬似教師付きデモアライメント・アライメント・アライメント・プロンプト・最適化(PAPO)アルゴリズムを提案する。
  論文  参考訳（メタデータ） (2024-10-04T03:39:28Z)
• Robust Prompt Optimization for Large Language Models Against Distribution Shifts [80.6757997074956]
  大規模言語モデル(LLM)は、様々な自然言語処理タスクにおいて重要な能力を示している。 本稿では,LLMの分散シフトに対するロバストな最適化法を提案する。 この問題は、ラベル付けされたソースグループに最適化されたプロンプトを同時にラベル付けされていないターゲットグループに一般化する必要がある。
  論文  参考訳（メタデータ） (2023-05-23T11:30:43Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。