論文の概要: Reinforcement Learning reveals fundamental limits on the mixing of
active particles
- arxiv url: http://arxiv.org/abs/2105.14105v1
- Date: Fri, 28 May 2021 21:04:55 GMT
- ステータス: 処理完了
- システム内更新日: 2021-06-01 16:50:19.949299
- Title: Reinforcement Learning reveals fundamental limits on the mixing of
active particles
- Title(参考訳): 強化学習は活性粒子の混合の基本的限界を明らかにする
- Authors: Dominik Schildknecht, Anastasia N. Popova, Jack Stellwagen, Matt
Thomson
- Abstract要約: 活性物質では、粒子間の非線形力学と長距離相互作用は系の力学の閉形式記述を禁止している。
RLは, 粒子相互作用と反発性粒子相互作用を組み合わせたシステムにおいて, 正準能動性物質を混合するタスクにおいて, 優れた戦略しか見つからないことを示す。
- 参考スコア(独自算出の注目度): 2.294014185517203
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: The control of far-from-equilibrium physical systems, including active
materials, has emerged as an important area for the application of
reinforcement learning (RL) strategies to derive control policies for physical
systems. In active materials, non-linear dynamics and long-range interactions
between particles prohibit closed-form descriptions of the system's dynamics
and prevent explicit solutions to optimal control problems. Due to fundamental
challenges in solving for explicit control strategies, RL has emerged as an
approach to derive control strategies for far-from-equilibrium active matter
systems. However, an important open question is how the mathematical structure
and the physical properties of the active matter systems determine the
tractability of RL for learning control policies. In this work, we show that RL
can only find good strategies to the canonical active matter task of mixing for
systems that combine attractive and repulsive particle interactions. Using
mathematical results from dynamical systems theory, we relate the availability
of both interaction types with the existence of hyperbolic dynamics and the
ability of RL to find homogeneous mixing strategies. In particular, we show
that for drag-dominated translational-invariant particle systems, hyperbolic
dynamics and, therefore, mixing requires combining attractive and repulsive
interactions. Broadly, our work demonstrates how fundamental physical and
mathematical properties of dynamical systems can enable or constrain
reinforcement learning-based control.
- Abstract(参考訳): 物理システムの制御方針を導出するための強化学習(RL)戦略の適用分野として,活性物質を含む非平衡物理系の制御が重要視されている。
活性物質では、非線形ダイナミクスと粒子間の長距離相互作用は系のダイナミクスの閉形式記述を禁止し、最適制御問題に対する明示的な解を防止している。
明示的な制御戦略の解決における根本的な課題により、RLは非平衡な活性物質系の制御戦略を導出するアプローチとして登場した。
しかしながら、重要な疑問は、アクティブマター系の数学的構造と物理的性質が、学習制御政策におけるrlの扱い可能性を決定するかである。
本研究では, 粒子間相互作用を惹起する系の混合という正準活性物質問題に対して, rlは適切な戦略しか見つけられないことを示す。
力学系理論の数学的結果を用いて, 相互作用型と双曲力学の存在, rlによる均質混合戦略の探索能力との関係を明らかにした。
特に, 抵抗支配型翻訳不変粒子系では, 双曲力学と混合は魅力的な相互作用と反発相互作用を組み合わせなければならないことを示す。
本研究は,動的システムの物理的および数学的性質が強化学習に基づく制御をいかに可能にするか,あるいは制約するかを示す。
関連論文リスト
- Learning Controlled Stochastic Differential Equations [61.82896036131116]
本研究では,非一様拡散を伴う連続多次元非線形微分方程式のドリフト係数と拡散係数の両方を推定する新しい手法を提案する。
我々は、(L2)、(Linfty)の有限サンプル境界や、係数の正則性に適応する学習率を持つリスクメトリクスを含む、強力な理論的保証を提供する。
当社のメソッドはオープンソースPythonライブラリとして利用可能です。
論文 参考訳(メタデータ) (2024-11-04T11:09:58Z) - SINDy-RL: Interpretable and Efficient Model-Based Reinforcement Learning [5.59265003686955]
SINDy-RLは,SINDyと深層強化学習を組み合わせたフレームワークである。
SINDy-RLは最先端のDRLアルゴリズムに匹敵する性能を達成する。
我々は,ベンチマーク制御環境と流体問題に対するアプローチの有効性を実証する。
論文 参考訳(メタデータ) (2024-03-14T05:17:39Z) - Inferring Relational Potentials in Interacting Systems [56.498417950856904]
このような相互作用を発見する代替手法として、ニューラル・インタラクション・推論(NIIP)を提案する。
NIIPは観測された関係制約を尊重する軌道のサブセットに低エネルギーを割り当てる。
別々に訓練されたモデル間での相互作用の型を交換するなどの軌道操作や、軌道予測を可能にする。
論文 参考訳(メタデータ) (2023-10-23T00:44:17Z) - Learning Interaction Variables and Kernels from Observations of
Agent-Based Systems [14.240266845551488]
本稿では,エージェントの軌道に沿った状態や速度の観測を前提として,相互作用カーネルが依存する変数と相互作用カーネル自体を両立させる学習手法を提案する。
これにより、高次元観測データから次元性の呪いを避ける効果的な次元削減が得られる。
我々は,本手法の学習能力を,様々な一階対話システムに示す。
論文 参考訳(メタデータ) (2022-08-04T16:31:01Z) - A quantum inspired approach to learning dynamical laws from
data---block-sparsity and gauge-mediated weight sharing [0.0]
複雑系の動的法則を復元するスケーラブルで数値的に堅牢な手法を提案する。
我々は、量子多体系における同様のアプローチにインスパイアされた、動的法則のブロックスパーステンソルトレイン表現を使用する。
3つの1次元システム上で数値的に手法の性能を示す。
論文 参考訳(メタデータ) (2022-08-02T17:00:26Z) - Decimation technique for open quantum systems: a case study with
driven-dissipative bosonic chains [62.997667081978825]
量子系の外部自由度への不可避結合は、散逸(非単体)ダイナミクスをもたらす。
本稿では,グリーン関数の(散逸的な)格子計算に基づいて,これらのシステムに対処する手法を提案する。
本手法のパワーを,複雑性を増大させる駆動散逸型ボゾン鎖のいくつかの例で説明する。
論文 参考訳(メタデータ) (2022-02-15T19:00:09Z) - DySMHO: Data-Driven Discovery of Governing Equations for Dynamical
Systems via Moving Horizon Optimization [77.34726150561087]
本稿では,スケーラブルな機械学習フレームワークである移動水平最適化(DySMHO)による動的システムの発見について紹介する。
DySMHOは、基底関数の大きな辞書から基礎となる支配方程式を逐次学習する。
標準非線形力学系の例は、DySMHOが規則を正確に回復できることを示すために用いられる。
論文 参考訳(メタデータ) (2021-07-30T20:35:03Z) - Efficient Model-Based Multi-Agent Mean-Field Reinforcement Learning [89.31889875864599]
マルチエージェントシステムにおける学習に有効なモデルベース強化学習アルゴリズムを提案する。
我々の理論的な貢献は、MFCのモデルベース強化学習における最初の一般的な後悔の限界である。
コア最適化問題の実用的なパラメトリゼーションを提供する。
論文 参考訳(メタデータ) (2021-07-08T18:01:02Z) - Hierarchical Decomposition of Nonlinear Dynamics and Control for System
Identification and Policy Distillation [39.83837705993256]
強化学習(RL)の最近のトレンドは、力学と政策の複雑な表現に焦点を当てている。
制御コミュニティからインスピレーションを得て、複雑なダイナミクスをより単純なコンポーネントに分解するために、ハイブリッドスイッチングシステムの原則を適用します。
論文 参考訳(メタデータ) (2020-05-04T12:40:59Z) - Learning to Control PDEs with Differentiable Physics [102.36050646250871]
本稿では,ニューラルネットワークが長い時間をかけて複雑な非線形物理系の理解と制御を学べる新しい階層型予測器・相関器手法を提案する。
本手法は,複雑な物理系の理解に成功し,PDEに関わるタスクに対してそれらを制御できることを実証する。
論文 参考訳(メタデータ) (2020-01-21T11:58:41Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。