論文の概要: How do Transformers Perform Low-Level Control In-Context?

• arxiv url: http://arxiv.org/abs/2611.07291v1
• Date: Thu, 05 Nov 2026 01:13:33 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-11-06 21:50:50.482904
• Title: How do Transformers Perform Low-Level Control In-Context?
• Title（参考訳）: 変圧器はどのように低レベル制御を実現するか?
• Abstract要約: 不安定な非線形力学系の「コンテキスト内」制御を行うトランスフォーマーモデルの性能について検討する。 システムパラメータが変圧器に未知な2つの古典非線形システムの性能を評価する。 コンテキスト内制御が可能であることを示し、学習されたポリシー性能は、コンテキストが増加するにつれて一般的に向上することを示す。
• 参考スコア（独自算出の注目度）: 1.7427210043461274
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: One of the remarkable abilities of Transformer-based neural networks is in-context learning. This motivates us to think about "in-context" control. Can we control a system knowing only (1) that it belongs to a particular family of systems and (2) some data on system evolution (provided as the context trajectory) but no specific parameter information? Specifically, we investigate the ability of Transformer-models to perform "in-context" control of unstable, nonlinear dynamical systems, where context consists only of the unforced system dynamics. We leverage a multi-head, GPT-2-style architecture, and we evaluate performance for two classical nonlinear systems -- the cartpole system and the two-link acrobot system, where the system parameters are unknown to the Transformer. We consider a setting where trajectories from an expert controller are available at training time but not at inference time. Here, we identify training techniques that are essential to train Transformers to perform low-level control. Through an analysis over checkpoints, we show that in-context control is possible, and the learned policy performance generally improves as context increases. Furthermore, the Transformer models can generalize to stabilize systems that are out-of-distribution.
• Abstract（参考訳）: Transformerベースのニューラルネットワークの注目すべき能力の1つは、コンテキスト内学習である。 このことは、"コンテキスト内"コントロールについて考える動機になります。 1)特定のシステムに属すること、(2)システム進化に関するデータ(文脈軌跡として提供される)のみを知ればよいが、特定のパラメータ情報はないのか? 具体的には,トランスフォーマーモデルが不安定な非線形力学系の「コンテキスト内」制御を行う能力について検討する。 我々は,マルチヘッドGPT-2スタイルのアーキテクチャを活用し,トランスフォーマーにシステムパラメータが未知な2つの古典非線形システム – カートポールシステムと2リンクアクロボットシステム – の性能評価を行う。 専門家のコントローラからのトラジェクトリがトレーニング時に利用できるが、推論時には利用できないような設定を考える。 ここでは,低レベル制御を行うためにトランスフォーマーを訓練する上で不可欠な訓練手法を同定する。 チェックポイントに対する分析により、コンテキスト内制御が可能であり、学習されたポリシー性能は、コンテキストが増加するにつれて一般的に改善されることを示す。 さらに、Transformerモデルは、配布外であるシステムを安定化するために一般化することができる。

関連論文リスト

• Transformers Implement Functional Gradient Descent to Learn Non-Linear Functions In Context [44.949726166566236]
  非線形変換器は自然に関数空間の勾配降下を実装することを学習する。 また、非線形活性化の最適選択は、学習すべき関数のクラスに自然に依存していることも示している。
  論文  参考訳（メタデータ） (2023-12-11T17:05:25Z)
• Can Transformers Learn Optimal Filtering for Unknown Systems? [21.214392963929978]
  過去の全ての出力予測を生成する変換器を用いた最適出力推定問題について検討する。 我々は、様々な異なるシステムを用いてトランスフォーマーを訓練し、未知のダイナミクスを持つ未知のシステムの性能を評価する。 非d.d.ノイズ、時間変化力学、未知のパラメータを持つ四元数系のような非線形力学のより複雑な設定では、トランスフォーマーも有望な結果を示す。
  論文  参考訳（メタデータ） (2023-08-16T17:52:11Z)
• Learning Control-Oriented Dynamical Structure from Data [25.316358215670274]
  一般非線形制御アフィン系に対する状態依存非線形トラッキングコントローラの定式化について論じる。 安定軌跡追跡における学習版の有効性を実証的に実証した。
  論文  参考訳（メタデータ） (2023-02-06T02:01:38Z)
• Transformers learn in-context by gradient descent [58.24152335931036]
  自己回帰目標におけるトランスフォーマーの訓練は、勾配に基づくメタラーニングの定式化と密接に関連している。 トレーニングされたトランスフォーマーがメザ最適化器となる方法,すなわち,前方通過における勾配降下によるモデル学習方法を示す。
  論文  参考訳（メタデータ） (2022-12-15T09:21:21Z)
• Control of Two-way Coupled Fluid Systems with Differentiable Solvers [22.435002906710803]
  本研究では、複雑な非線形力学系を制御するためにディープニューラルネットワークを用いることを検討する。 ナヴィエ・ストークス方程式を2方向のカップリングで解き、非線形摂動を生じさせる。 提案手法を用いてトレーニングしたコントローラは,評価指標や一般化能力の点で,古典的,学習的な代替品よりも優れていることを示す。
  論文  参考訳（メタデータ） (2022-06-01T09:12:08Z)
• Sparsity in Partially Controllable Linear Systems [56.142264865866636]
  本研究では, 部分制御可能な線形力学系について, 基礎となる空間パターンを用いて検討する。 最適制御には無関係な状態変数を特徴付ける。
  論文  参考訳（メタデータ） (2021-10-12T16:41:47Z)
• Adaptive-Control-Oriented Meta-Learning for Nonlinear Systems [29.579737941918022]
  我々は過去のデータからオフラインで学習し、非線形特徴の内部パラメトリックモデルによる適応制御を行う。 ベースランナーとして閉ループ追跡シミュレーション、メタオブジェクトとして平均トラッキングエラーで適応コントローラをメタ学習します。 非線形平面ロータークラフトを用いて,適応型コントローラが回帰型メタラーニングで学習した他のコントローラよりも優れていることを実証する。
  論文  参考訳（メタデータ） (2021-03-07T23:49:59Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。