論文の概要: In-Context Guidance: Learning Inter-Task Synergies via Numerical Foundational Models for Few-Shot Multitask Optimization

• arxiv url: http://arxiv.org/abs/2609.25836v2
• Date: Sat, 26 Sep 2026 14:25:11 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-29 21:31:51.637172
• Title: In-Context Guidance: Learning Inter-Task Synergies via Numerical Foundational Models for Few-Shot Multitask Optimization
• Title（参考訳）: In-Context Guidance:Few-Shot Multitask Optimizationのための数値基礎モデルによるタスク間シナジーの学習
• Abstract要約: マルチタスク最適化(MTO)は一連の最適化タスクを同時に処理し、しばしば限られた評価予算下でのタスク間関係推定の不正確さに悩まされる。 In-Context Guidance Multitask Optimization (ICG-MTO) は,数値的基礎モデルを利用してタスク間カップリング推定を改善する新しいフレームワークである。 人工ベンチマークと実世界のロボットアーム制御問題に対する実験と、異なる獲得機能と進化的マルチタスクによる評価は、ICG-MTOの有効性と汎用性を実証する。
• 参考スコア（独自算出の注目度）: 30.51693347263385
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Multi-task optimization (MTO) addresses a set of optimization tasks simultaneously, often suffering from inaccurate inter-task relationship estimation under limited evaluation budgets, leading to negative transfer. This paper introduces In-Context Guidance Multitask Optimization (ICG-MTO), a novel framework that leverages numerical foundational models to improve inter-task coupling estimation in few-shot scenarios. Unlike conventional methods that rely solely on scarce observed data, ICG-MTO employs a frozen foundational model to infer auxiliary guidance through in-context learning. The framework operates through three stages: constructing an algorithm-specific in-context query from evaluated solutions, using the foundational model to infer a guidance signal characterizing predictive relationships among tasks, and translating this signal into algorithm-specific guidance for maximum-a-posteriori coupling estimation. This approach provides regularization during the early, data-scarce stages of optimization and gradually relinquishes control as task-specific observations accumulate. We instantiate the framework in multitask Bayesian optimization as ICG-MTBO, using directional fitness-class queries to guide inter-task coupling estimation, and further instantiate it in MFEA-II using decision-space-overlap queries to guide random mating probability estimation. Experiments across synthetic benchmarks and a real-world robot arm control problem, together with evaluations under different acquisition functions and evolutionary multitasking, demonstrate the effectiveness and generality of ICG-MTO for few-shot multitask optimization.
• Abstract（参考訳）: マルチタスク最適化(MTO)は一連の最適化タスクを同時に処理し、しばしば限られた評価予算下でのタスク間関係推定の不正確さに悩まされ、負の転送につながる。 In-Context Guidance Multitask Optimization (ICG-MTO) は,数値的基礎モデルを利用してタスク間カップリング推定を改善する新しいフレームワークである。 ICG-MTOは、観測データにのみ依存する従来の手法とは異なり、文脈内学習を通じて補助的ガイダンスを推論するために凍結基本モデルを採用している。 このフレームワークは、評価されたソリューションからアルゴリズム固有のインコンテキストクエリを構築し、基本モデルを使用して、タスク間の予測関係を特徴付けるガイダンス信号を推論し、この信号をアルゴリズム固有のインコンテキストクエリーに変換し、最大時間後結合推定を行う。 このアプローチは、最適化の初期段階、データスカース段階において規則化を提供し、タスク固有の観察が蓄積されるにつれて、徐々に制御を放棄する。 ICG-MTBOとしてマルチタスクベイズ最適化のフレームワークをインスタンス化し、指向性適合型クエリを用いてタスク間カップリング推定を導出し、さらに決定空間オーバーラップクエリを用いてMFEA-IIでインスタンス化し、ランダムなマッチング確率推定を導出する。 マルチタスク最適化のためのICG-MTOの有効性と汎用性を実証するため, 総合的なベンチマークと実世界のロボットアーム制御問題, 異なる獲得関数と進化的マルチタスクによる評価を行った。

関連論文リスト

• CoAction: Cross-task Correlation-aware Pareto Set Learning [9.837762929043649]
  マルチオブジェクトマルチタスク最適化のためのクロス・tAsk相関対応フレームワークを提案する。 タスク固有の埋め込みベクトルを個別のタスクに割り当てることにより、モデルは知識共有を容易にしながらタスクを効果的に区別する。 提案手法はベンチマーク問題と実世界のアプリケーションの両方をカバーする総合マルチタスクテストスイートで評価される。
  論文  参考訳（メタデータ） (2026-05-03T04:52:44Z)
• Multitask-Informed Prior for In-Context Learning on Tabular Data: Application to Steel Property Prediction [10.228135528637411]
  本研究では,TabPFNの先行にマルチタスク認識を注入するマルチタスク学習フレームワークを提案する。 本手法は,タスク固有の微調整に比べて予測精度と計算効率を両立させる。
  論文  参考訳（メタデータ） (2026-03-24T03:03:54Z)
• MEJO: MLLM-Engaged Surgical Triplet Recognition via Inter- and Intra-Task Joint Optimization [52.149337961205624]
  手術用三重項認識のためのタスク間最適化とタスク内最適化を両立する枠組みを提案する。 タスク間最適化のために、タスク共有およびタスク固有コンポーネントに表現を分解する共有特徴分散学習スキーム(S$2$D)を導入する。 タスク内最適化競合に対して,正負の曖昧さを識別・再バランスするコーディネート・グラディエント・ラーニング(CGL)戦略を開発する。
  論文  参考訳（メタデータ） (2025-09-16T09:48:52Z)
• Large Language Model as Meta-Surrogate for Data-Driven Many-Task Optimization: A Proof-of-Principle Study [11.452011929848844]
  本研究では,マルチタスク最適化を支援するメタサロゲートフレームワークを提案する。 問題群に適合するメタデータを持つ普遍モデルを定義することにより、多タスクフィットネス予測のための統一的なフレームワークを定式化する。 我々のフレームワークは、双対レベルの知識伝達 -- 代理レベルと個別レベルの両方 -- をサポートし、最適化の効率性と堅牢性を高めます。
  論文  参考訳（メタデータ） (2025-03-11T11:13:11Z)
• Unlearning as multi-task optimization: A normalized gradient difference approach with an adaptive learning rate [105.86576388991713]
  正規化勾配差(NGDiff)アルゴリズムを導入し、目的間のトレードオフをよりよく制御できるようにする。 本研究では,TOFUおよびMUSEデータセットにおける最先端の未学習手法において,NGDiffの優れた性能を実証的に実証し,理論的解析を行った。
  論文  参考訳（メタデータ） (2024-10-29T14:41:44Z)
• MAP: Low-compute Model Merging with Amortized Pareto Fronts via Quadratic Approximation [80.47072100963017]
  Amortized Pareto Front (MAP) を用いた新しい低演算アルゴリズム Model Merging を導入する。 MAPは、複数のモデルをマージするためのスケーリング係数のセットを効率的に識別し、関連するトレードオフを反映する。 また,タスク数が比較的少ないシナリオではベイジアンMAP,タスク数の多い状況ではNested MAPを導入し,計算コストを削減した。
  論文  参考訳（メタデータ） (2024-06-11T17:55:25Z)
• Multi-Task Learning on Networks [0.0]
  マルチタスク学習コンテキストで発生する多目的最適化問題は、特定の特徴を持ち、アドホックな方法を必要とする。 この論文では、入力空間の解は、関数評価に含まれる知識をカプセル化した確率分布として表現される。 確率分布のこの空間では、ワッサーシュタイン距離によって与えられる計量が与えられ、モデルが目的関数に直接依存しないような新しいアルゴリズムMOEA/WSTを設計することができる。
  論文  参考訳（メタデータ） (2021-12-07T09:13:10Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。