論文の概要: Using Transformers for Teaching and Learning via Symbolic Distillation of Neural A-life Agents
- arxiv url: http://arxiv.org/abs/2611.07254v1
- Date: Thu, 05 Nov 2026 00:06:00 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-06 21:50:50.473987
- Title: Using Transformers for Teaching and Learning via Symbolic Distillation of Neural A-life Agents
- Title（参考訳）: ニューラルAライフエージェントのシンボリック蒸留によるトランスフォーマーによる指導と学習
- Abstract要約: ニューラルネットワークをコンパクトなシンボルポリシーに蒸留することは、Aライフにおけるエージェントの振る舞いを理解するのに役立つ。
本稿では, 容易に利用可能なランダムパーセプション・アクション・データに基づいて事前学習したトランスフォーマーを用いて蒸留を高速化することを提案する。
実験結果は異なる蒸留法とシンボル空間の影響を比較した。
- 参考スコア（独自算出の注目度）: 4.236684028722698
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Neural networks controlling behavior of A-life agents can evolve over multiple generations. While effective in making the agents survive, such networks are generally opaque to a human observer. Furthermore, the neural weights cannot be transferred between agents with different neural architectures. Distilling such neural networks into compact symbolic policies can help humans understand agent behavior in A-life. Additionally, it allows the agents to share their knowledge in a compact fashion, improving population-level learning. Distilling a neural policy into a symbolic policy is typically performed by searching the space of symbolic policies to find one that approximates the neural policy. However, even with a domain-specific language the space of policies can be large, necessitating incomplete stochastic search such as genetic algorithms. Yet the distillation remains computationally expensive. We propose to instead use a transformer pre-trained on readily available random percept-action data. Doing so speeds up distillation substantially. We derive the transformer architecture via a neural architecture search. Empirical results compare different distillation methods and the influence of the symbolic space on A-life population dynamics through self-reflection and teaching and learning.
- Abstract（参考訳）: Aライフエージェントの動作を制御するニューラルネットワークは、複数の世代にわたって進化することができる。
エージェントを生き残るのに効果的であるが、そのようなネットワークは一般に人間の観察者にとって不透明である。
さらに、神経重みは異なる神経構造を持つエージェント間で伝達することはできない。
このようなニューラルネットワークをコンパクトなシンボルポリシーに蒸留することは、Aライフにおけるエージェントの振る舞いを理解するのに役立つ。
さらに、エージェントは自身の知識をコンパクトな方法で共有し、人口レベルの学習を改善することができる。
ニューラルポリシーをシンボリックポリシーに蒸留することは、典型的には、シンボリックポリシーの空間を探索して、ニューラルポリシーを近似するものを見つけることによって行われる。
しかし、ドメイン固有の言語であっても、ポリシーの空間は大きくなり、遺伝的アルゴリズムのような不完全な確率探索を必要とする。
しかし、蒸留は依然として計算上高価である。
そこで我々は,手軽に利用可能なランダムパーセプション・アクション・データに基づいて事前学習したトランスフォーマーを提案する。
そうすることで蒸留が大幅にスピードアップする。
ニューラルアーキテクチャサーチによりトランスフォーマーアーキテクチャを導出する。
実験結果は, 蒸留法の違いと, 自己回帰, 教育, 学習によるA-ライフの個体群動態に及ぼす記号空間の影響を比較した。
関連論文リスト
- Principled Approaches for Extending Neural Architectures to Function Spaces for Operator Learning [78.88684753303794]
ディープラーニングは主にコンピュータビジョンと自然言語処理の応用を通じて進歩してきた。
ニューラル演算子は、関数空間間のマッピングにニューラルネットワークを一般化する原則的な方法である。
本稿では、無限次元関数空間間の写像の実践的な実装を構築するための鍵となる原理を同定し、蒸留する。
論文 参考訳（メタデータ） (2025-06-12T17:59:31Z) - Unsupervised representation learning with Hebbian synaptic and structural plasticity in brain-like feedforward neural networks [0.0]
教師なし表現学習が可能な脳様ニューラルネットワークモデルを導入,評価する。
このモデルは、一般的な機械学習ベンチマークのさまざまなセットでテストされた。
論文 参考訳（メタデータ） (2024-06-07T08:32:30Z) - Distilling Reinforcement Learning Policies for Interpretable Robot Locomotion: Gradient Boosting Machines and Symbolic Regression [53.33734159983431]
本稿では, ニューラルRLポリシをより解釈可能な形式に蒸留する新しい手法を提案する。
我々は、RLを用いて専門家のニューラルネットワークポリシーを訓練し、(i)GBM、(ii)EBM、(iii)シンボリックポリシーに蒸留する。
論文 参考訳（メタデータ） (2024-03-21T11:54:45Z) - Hebbian Learning based Orthogonal Projection for Continual Learning of
Spiking Neural Networks [74.3099028063756]
我々は,側方接続とヘビアン学習に基づくニューラル操作を用いた新しい手法を開発した。
我々は,反復する側方接続におけるヘビアン学習と反ヘビアン学習が,神経活動の主部分空間を効果的に抽出できることを示した。
我々の手法は、ほとんど忘れることなくニューラルネットワークをスパイクするために一貫して解決する。
論文 参考訳（メタデータ） (2024-02-19T09:29:37Z) - Fully Spiking Actor Network with Intra-layer Connections for
Reinforcement Learning [51.386945803485084]
エージェントが制御する多次元決定論的ポリシーを学習する必要があるタスクに焦点をあてる。
既存のスパイクベースのRL法は、SNNの出力として発火率を取り、完全に接続された層を通して連続的なアクション空間(つまり決定論的なポリシー)を表すように変換する。
浮動小数点行列操作を伴わない完全にスパイクするアクターネットワークを開発するため,昆虫に見られる非スパイク介在ニューロンからインスピレーションを得た。
論文 参考訳（メタデータ） (2024-01-09T07:31:34Z) - Generative Adversarial Neuroevolution for Control Behaviour Imitation [3.04585143845864]
本稿では,一般的なシミュレーション環境における行動模倣にディープ・ニューロエボリューションが有効かどうかを考察する。
我々は、単純な共進化的逆数生成フレームワークを導入し、標準の深い再帰ネットワークを進化させることにより、その能力を評価する。
全てのタスクにおいて、事前訓練されたエージェントが獲得したものよりも高いスコアを達成できる最後のエリートアクターが見つかる。
論文 参考訳（メタデータ） (2023-04-03T16:33:22Z) - Diversity Through Exclusion (DTE): Niche Identification for
Reinforcement Learning through Value-Decomposition [63.67574523750839]
本稿では,多変量ニッチ環境におけるベースライン深度Q-ラーニングアルゴリズムよりも優れた汎用強化学習(RL)アルゴリズムを提案する。
この方法で訓練されたエージェントは、貧弱だが魅力ある局所最適化から逃れて、より高い価値戦略の発見を困難にすることを示します。
論文 参考訳（メタデータ） (2023-02-02T16:00:19Z) - An Interpretable Neuron Embedding for Static Knowledge Distillation [7.644253344815002]
本稿では,ニューロンを意味空間に埋め込み,解釈可能な新しいニューラルネットワーク手法を提案する。
提案したセマンティックベクトルは、潜伏した知識を静的な知識に外部化する。
可視化の実証実験により、セマンティックベクターはニューロンの活性化セマンティクスをうまく表現していることが示された。
論文 参考訳（メタデータ） (2022-11-14T03:26:10Z) - Probe-Based Interventions for Modifying Agent Behavior [4.324022085722613]
本研究では,事前学習したニューラルネットの表現を,外的特性に応じて更新する手法を開発した。
実験では,多種多様なニューラルネットワークに対するヒトエージェントチームのパフォーマンス向上のために,我々の手法がどのように用いられるかを示す。
論文 参考訳（メタデータ） (2022-01-26T19:14:00Z) - One-shot learning of paired association navigation with biologically plausible schemas [3.990406494980651]
複数のペア・アソシエーション・ナビゲーションタスクにおける一発一発学習はスキーマに依存していると仮定されている。
生物学的に妥当なニューラル実装を持つスキーマからエージェントを構成する。
アクター・クリティカルによって補足されたスキーマは、障害が直接の進路を妨げたとしても、エージェントが成功することを示す。
論文 参考訳（メタデータ） (2021-06-07T13:03:51Z) - Artificial Neural Variability for Deep Learning: On Overfitting, Noise
Memorization, and Catastrophic Forgetting [135.0863818867184]
人工ニューラルネットワーク(ANV)は、ニューラルネットワークが自然のニューラルネットワークからいくつかの利点を学ぶのに役立つ。
ANVは、トレーニングデータと学習モデルの間の相互情報の暗黙の正則化として機能する。
過度にフィットし、ノイズの記憶をラベル付けし、無視できるコストで破滅的な忘れを効果的に軽減することができる。
論文 参考訳（メタデータ） (2020-11-12T06:06:33Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。