論文の概要: Modular, Hierarchical Machine Learning for Sequential Goal Completion
- arxiv url: http://arxiv.org/abs/2404.19060v1
- Date: Mon, 29 Apr 2024 19:01:55 GMT
- ステータス: 処理完了
- システム内更新日: 2024-05-01 18:10:13.513077
- Title: Modular, Hierarchical Machine Learning for Sequential Goal Completion
- Title（参考訳）: 逐次ゴール完了のためのモジュール型階層型機械学習
- Authors: Nathan McDonald,
- Abstract要約: 典型的な機械学習(ML)ソリューションには、モノリシックにトレーニングされた人工知能(ANN)が含まれる。
モノリシックなANNの代わりに、モジュール型MLコンポーネントは、1)独立して最適化可能(タスクに依存しない)、2)他のMLモジュールと任意に再構成可能である。
本研究は,1)認知マップ学習者(CML)と2)超次元コンピューティング(HDC)の2つの新興ML技術を統合することで,モジュラーで階層的なMLフレームワークを記述する。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Given a maze populated with different objects, one may task a robot with a sequential goal completion task, e.g. 1) pick up a key then 2) unlock the door then 3) unlock the treasure chest. A typical machine learning (ML) solution would involve a monolithically trained artificial neural network (ANN). However, if the sequence of goals or the goals themselves change, then the ANN must be significantly (or, at worst, completely) retrained. Instead of a monolithic ANN, a modular ML component would be 1) independently optimizable (task-agnostic) and 2) arbitrarily reconfigurable with other ML modules. This work describes a modular, hierarchical ML framework by integrating two emerging ML techniques: 1) cognitive map learners (CML) and 2) hyperdimensional computing (HDC). A CML is a collection of three single layer ANNs (matrices) collaboratively trained to learn the topology of an abstract graph. Here, two CMLs were constructed, one describing locations on in 2D physical space and the other the relative distribution of objects found in this space. Each CML node states was encoded as a high-dimensional vector to utilize HDC, an ML algebra, for symbolic reasoning over these high-dimensional symbol vectors. In this way, each sub-goal above was described by algebraic equations of CML node states. Multiple, independently trained CMLs were subsequently assembled together to navigate a maze to solve a sequential goal task. Critically, changes to these goals required only localized changes in the CML-HDC architecture, as opposed to a global ANN retraining scheme. This framework therefore enabled a more traditional engineering approach to ML, akin to digital logic design.
- Abstract（参考訳）: 異なる物体が密集している迷路があると、連続的なゴール完了タスクをロボットに課すことができる。
2) 扉を開けてから
3)宝箱を開ける。
典型的な機械学習(ML)ソリューションには、モノリシックにトレーニングされた人工知能(ANN)が含まれる。
しかし、ゴールのシーケンスやゴール自体が変化した場合、ANNは大幅に(または最悪の場合、完全に)再訓練されなければならない。
モノリシックなANNの代わりに、モジュール型MLコンポーネントは、
1) 独立して最適化可能(タスク非依存)で
2) 他のMLモジュールと任意に再構成できる。
この研究は、新しい2つのML技術を統合することで、モジュラーで階層的なMLフレームワークを記述する。
1)認知地図学習者(CML)と
2)超次元計算(HDC)。
CMLは抽象グラフのトポロジを学ぶために協調的に訓練された3つの単層ANN(行列)の集合である。
ここでは2つのCMLが構築され、1つは2次元物理空間上の位置を記述し、もう1つはこの空間にある物体の相対分布を記述した。
各CMLノード状態は高次元ベクトルとして符号化され、これらの高次元シンボルベクトルのシンボリック推論にML代数であるHDCを利用する。
このように、上記の各部分ゴールはCMLノード状態の代数方程式によって記述される。
その後、個別に訓練された複数のCMLが組み立てられ、迷路をナビゲートしてシーケンシャルなゴールタスクを解決した。
重要な点として、これらの目標の変更は、グローバルなANN再トレーニングスキームとは対照的に、CML-HDCアーキテクチャの局所的な変更のみを必要とした。
したがって、このフレームワークは、デジタル論理設計に似た、より伝統的なMLのエンジニアリングアプローチを可能にした。
関連論文リスト
- $γ-$MoD: Exploring Mixture-of-Depth Adaptation for Multimodal Large Language Models [87.43596173378913]
我々は既存のMLLMに対して$gamma$-MoDという革新的な戦略を提案する。
$gamma$-MoD では、MLLM における MoD の展開を導くための新しい計量法が提案されている。
MLLMの計算空間を最大化する2つの新しい設計法を提案する。
論文 参考訳（メタデータ） (2024-10-17T17:59:53Z) - Language-Image Models with 3D Understanding [59.499585515469974]
LV3Dと呼ばれる2Dおよび3Dのための大規模事前学習データセットを開発した。
次に,新しいMLLMであるCube-LLMを導入し,LV3Dで事前学習する。
純粋なデータスケーリングは、3D特有のアーキテクチャ設計やトレーニング目的を使わずに、強力な3D知覚能力を実現することを示す。
論文 参考訳（メタデータ） (2024-05-06T17:57:27Z) - Assembling Modular, Hierarchical Cognitive Map Learners with Hyperdimensional Computing [0.0]
認知地図学習者(Cognitive Map Learningers, CML)は、独立して訓練された単一層人工ニューラルネットワーク(行列)の集合である。
この研究は、高次元ベクトルとして表現されたノード状態を持つCMLを、シンボリック機械学習(ML)の形式である超次元計算(HDC)と整合する。
いくつかのCMLは独立に作成され、それぞれのグラフトポロジーに明示的に言及せずにハノイの塔を解くために再利用された。
論文 参考訳（メタデータ） (2024-04-29T18:45:51Z) - RedCoast: A Lightweight Tool to Automate Distributed Training of LLMs on Any GPU/TPUs [32.01139974519813]
大規模言語モデル(LLM)の分散トレーニングと推論を自動化するツールであるRedCoastを紹介する。
また,3つの関数の定義により,多様なMLパイプラインをカスタマイズする機構を提案する。
その結果、Redcoの実装は公式実装に比べてコード行数が大幅に減った。
論文 参考訳（メタデータ） (2023-10-25T04:32:35Z) - LLM-Pruner: On the Structural Pruning of Large Language Models [65.02607075556742]
大規模言語モデル(LLM)は、言語理解と生成において顕著な能力を示している。
タスク非依存であり、元のトレーニングデータセットへの依存を最小限に抑えるという2つの制約の範囲内でLLMの圧縮に取り組む。
LLM-Prunerという名前のこの手法は、非臨界結合構造を選択的に除去する構造プルーニングを採用する。
論文 参考訳（メタデータ） (2023-05-19T12:10:53Z) - Modularizing and Assembling Cognitive Map Learners via Hyperdimensional
Computing [0.0]
認知地図学習者(CML)は、3つの独立した、協調的に訓練された人工ニューラルネットワークの集合である。
この研究は、高次元コンピューティング(HDC)に適した高次元ベクトルとして表現されたノード状態を持つCMLを作成し、シンボリック機械学習(ML)の形式である。
最初のアプローチではHDCを使用して任意の数の階層CMLを設計し、各グラフノード状態が次の下位レベルCMLに対してターゲットノード状態を指定する。
論文 参考訳（メタデータ） (2023-04-10T17:47:13Z) - Equivariant Architectures for Learning in Deep Weight Spaces [54.61765488960555]
重み空間の学習のための新しいネットワークアーキテクチャを提案する。
入力として、事前訓練された不変量の重みとバイアスの連結をとる。
これらのレイヤを3つの基本的な操作で実装する方法を示す。
論文 参考訳（メタデータ） (2023-01-30T10:50:33Z) - LegoNN: Building Modular Encoder-Decoder Models [117.47858131603112]
最先端のエンコーダ・デコーダモデルは、原子単位として構築され、訓練されたエンドツーエンドである。
モデルのどのコンポーネントも他のコンポーネントなしでは(再)使用できないため、部品の共有は不可能です。
LegoNNは、エンコーダ-デコーダアーキテクチャを、微調整を必要とせずに、その部品を他のタスクに適用できる方法で構築する手順である。
論文 参考訳（メタデータ） (2022-06-07T14:08:07Z) - Recomposing the Reinforcement Learning Building Blocks with
Hypernetworks [19.523737925041278]
一次ネットワークが条件付き動的ネットワークの重みを決定することを示す。
このアプローチは勾配近似を改善し、学習ステップの分散を低減する。
我々は、RL(TD3とSAC)とMeta-RL(MAMLとPEARL)の両方において、異なる移動タスクと異なるアルゴリズムで一貫した改善を示す。
論文 参考訳（メタデータ） (2021-06-12T19:43:12Z) - MLGO: a Machine Learning Guided Compiler Optimizations Framework [0.0]
この作業は、実際の設定で複雑なコンパイラパスで機械学習を初めて完全に統合した作業です。
インライン・フォー・サイズモデルのトレーニングには2つの異なるMLアルゴリズムを使用し、最大7%の削減を実現している。
同じモデルは、実世界のターゲットの多様性、そして数ヶ月のアクティブな開発の後、同じターゲットセットにうまく一般化します。
論文 参考訳（メタデータ） (2021-01-13T00:02:49Z) - Sparse Graphical Memory for Robust Planning [93.39298821537197]
スパースメモリに状態と実現可能な遷移を格納する新しいデータ構造であるスパースグラフィカルメモリ(SGM)を導入する。
SGMは、ゴール条件付きRLに古典的状態集約基準を適用し、新しい双方向整合目標に従って状態を集約する。
本研究では, SGM が, 遠近法, スパース・リワード視覚ナビゲーションタスクにおいて, 最先端の工法を著しく上回っていることを示す。
論文 参考訳（メタデータ） (2020-03-13T17:59:32Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。