論文の概要: Harness In-Context Operator Learning with Chain of Operators
- arxiv url: http://arxiv.org/abs/2606.12318v1
- Date: Wed, 10 Jun 2026 16:53:03 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-11 16:42:38.576173
- Title: Harness In-Context Operator Learning with Chain of Operators
- Title(参考訳): オペレーターの連鎖を用いたハーネス・イン・コンテクスト・オペレーター学習
- Authors: Minghui Yang, Ling Guo, Liu Yang,
- Abstract要約: ニューラル作用素は関数空間間の写像を近似するが、しばしば他の作用素にはあまり一般化しない。
In-Context Operator Networks (ICON)は、数値的なコンテキストでモデルにプロンプトすることでこの問題に対処する。
凍結したICONをパラメータを更新せずにOOD演算子タスクに活用するフレームワークであるChain of Operators (CHOP)を紹介した。
- 参考スコア(独自算出の注目度): 13.500251222650396
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Neural operators approximate mappings between function spaces, but often generalize poorly to other operators and usually require fine-tuning or retraining. In-Context Operator Networks (ICON) addresses this issue by prompting the model with numerical context so that the model learns specific operators from prompts and adapt to different operators without fine-tuning. However, ICON may still fail to generalize to out-of-distribution (OOD) operator tasks. Inpired by the success of harness engineering of Large Language models (LLMs), we introduce Chain of Operators (CHOP), a framework that harness a frozen ICON to OOD operator tasks without updating its parameters. Specifically, CHOP constructs a chain of operators consisting of explicit elementary transformations and the frozen ICON. Experiments on a scalar conservation law and a mean-field control problem show that CHOP reduces relative inference error over direct ICON evaluation, while each operator in the chain remains interpretable and in closed form. A chain constructed on one PDE family further generalizes to a different family, indicating shared mechanisms across harness systems.
- Abstract(参考訳): ニューラル作用素は関数空間間の写像を近似するが、しばしば他の作用素によく一般化し、通常は微調整や再訓練を必要とする。
In-Context Operator Networks (ICON) はこの問題に対処するため、モデルに数値的コンテキストを付与し、特定の演算子をプロンプトから学習し、微調整なしで異なる演算子に適応させる。
しかし、ICONは相変わらず、アウト・オブ・ディストリビューション(OOD)オペレータータスクへの一般化に失敗する可能性がある。
LLM(Large Language Model)のハーネスエンジニアリングの成功に触発されたChain of Operators(CHOP)は,凍結したICONをパラメータを更新せずにOOD演算子タスクに活用するフレームワークである。
具体的には、CHOPは明示的な初等変換と凍結したICONからなる作用素の連鎖を構成する。
平均場制御問題とスカラー保存法に関する実験により、CHOPは直接ICON評価よりも相対的推論誤差を低減し、チェーン内の各演算子は解釈可能で閉形式のままであることが示された。
あるPDEファミリー上に構築された鎖は、さらに別のファミリーに一般化し、ハーネスシステム間で共有メカニズムを示す。
関連論文リスト
- Lotka-Sharpe Neural Operators for Control of Population PDEs [1.5049442691806052]
年齢構造前駆体-前駆体-部分微分方程式のフィードバック設計における重要な課題は、ロトカ・シャープの非線形積分条件によって暗黙的に定義されるスカラー$$である。
まず、ロトカ・シャープ作用素が連続であることを証明し、コンパクトな肥大性と死亡関数の集合上の任意の正確なニューラル作用素近似の存在を保証する。
そこで, この近似フィードバック法則は, 演算子近似誤差の伝播による半言語的安定性を他の非線形演算子を通して維持することを示す。
論文 参考訳(メタデータ) (2026-04-04T23:17:44Z) - Invertible Koopman neural operator for data-driven modeling of partial differential equations [15.007354910932039]
Invertible Koopman Neural Operator (IKNO)は、Koopman演算子理論とニューラル演算子にインスパイアされた、新しいデータ駆動モデリングアプローチである。
IKNOは、同じ学習可能なパラメータの下で観測可能な関数とその逆を同時にパラメータ化する。
論文 参考訳(メタデータ) (2025-03-25T14:43:53Z) - Self-regulating Prompts: Foundational Model Adaptation without
Forgetting [112.66832145320434]
本稿では,PromptSRCと呼ばれる自己正規化フレームワークを提案する。
PromptSRCはタスク固有の汎用表現とタスクに依存しない汎用表現の両方に最適化するプロンプトを導く。
論文 参考訳(メタデータ) (2023-07-13T17:59:35Z) - Representation Equivalent Neural Operators: a Framework for Alias-free
Operator Learning [11.11883703395469]
この研究は、Representation equivalent Neural Operators (ReNO) フレームワークによるニューラル演算子に対する新たな取り組みを提供する。
中心となるのは演算子エイリアスの概念であり、これは神経演算子とその離散表現の不整合を測定する。
我々の研究結果は、異なる離散化やグリッドを扱う際にエイリアシングがエラーを発生させ、重要な連続構造が失われることについて詳述している。
論文 参考訳(メタデータ) (2023-05-31T14:45:34Z) - Join-Chain Network: A Logical Reasoning View of the Multi-head Attention
in Transformer [59.73454783958702]
本稿では,多くの結合演算子を連結して出力論理式をモデル化するシンボリック推論アーキテクチャを提案する。
特に,このような結合鎖のアンサンブルが'ツリー構造'の1次論理式であるFOETの広い部分集合を表現できることを実証する。
変圧器における多頭部自己保持モジュールは,確率的述語空間における結合作用素の結合境界を実装する特別なニューラル演算子として理解することができる。
論文 参考訳(メタデータ) (2022-10-06T07:39:58Z) - Learning Dynamical Systems via Koopman Operator Regression in
Reproducing Kernel Hilbert Spaces [52.35063796758121]
動的システムの有限データ軌跡からクープマン作用素を学ぶためのフレームワークを定式化する。
リスクとクープマン作用素のスペクトル分解の推定を関連付ける。
以上の結果から,RRRは他の広く用いられている推定値よりも有益である可能性が示唆された。
論文 参考訳(メタデータ) (2022-05-27T14:57:48Z) - Bayesian Bellman Operators [55.959376449737405]
ベイズ強化学習(RL)の新しい視点について紹介する。
我々のフレームワークは、ブートストラップが導入されたとき、モデルなしアプローチは実際には値関数ではなくベルマン作用素よりも後部を推測する、という洞察に動機づけられている。
論文 参考訳(メタデータ) (2021-06-09T12:20:46Z) - On operator growth and emergent Poincar\'e symmetries [0.0]
有限温度での一般大Nゲージ理論に対する作用素成長を考察する。
これらのモードの代数は、初期作用素が時間とともに混合する作用素の簡単な解析を可能にする。
これらのアプローチはすべて、ゲルファント・ナイマルク・セガル(GNS)の構成の観点から自然な定式化を持つことを示す。
論文 参考訳(メタデータ) (2020-02-10T15:29:50Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。