論文の概要: Bidirectional Reactive Programming for Machine Learning

• arxiv url: http://arxiv.org/abs/2311.16977v1
• Date: Tue, 28 Nov 2023 17:25:16 GMT
• ステータス: 処理完了
• システム内更新日: 2023-11-29 17:27:20.943501
• Title: Bidirectional Reactive Programming for Machine Learning
• Title（参考訳）: 機械学習のための双方向リアクティブプログラミング
• Authors: Dumitru Potop Butucaru and Albert Cohen and Gordon Plotkin and Hugo Pompougnac
• Abstract要約: リアクティブ言語は、環境と継続的に同時に対話するシステムのプログラミングに特化しています。 後方再帰を可能にする対称反応性構造を導入する。 逆モードの自動微分、バックプロパゲーション、バッチ正規化、双方向リカレントニューラルネットワーク、トレーニングおよび強化学習アルゴリズムは、すべて双方向リアクティブプログラムとして自然にキャプチャされる。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: Reactive languages are dedicated to the programming of systems which interact continuously and concurrently with their environment. Values take the form of unbounded streams modeling the (discrete) passing of time or the sequence of concurrent interactions. While conventional reactivity models recurrences forward in time, we introduce a symmetric reactive construct enabling backward recurrences. Constraints on the latter allow to make the implementation practical. Machine Learning (ML) systems provide numerous motivations for all of this: we demonstrate that reverse-mode automatic differentiation, backpropagation, batch normalization, bidirectional recurrent neural networks, training and reinforcement learning algorithms, are all naturally captured as bidirectional reactive programs.
• Abstract（参考訳）: リアクティブ言語は、環境と継続的に同時に対話するシステムのプログラミングに特化している。 値は、時間の(離散的な)通過や同時インタラクションのシーケンスをモデル化する、無制限ストリームの形式を取る。 従来の反応モデルでは, 後向きの反応を再現できる対称的反応構造を導入する。 後者の制約は実装を実用的なものにすることを可能にする。 逆モードの自動微分、バックプロパゲーション、バッチ正規化、双方向リカレントニューラルネットワーク、トレーニングと強化学習アルゴリズムは、すべて双方向リアクティブプログラムとして自然に取得されていることを実証する。

関連論文リスト

• Single-Reset Divide & Conquer Imitation Learning [49.87201678501027]
  デモはDeep Reinforcement Learningアルゴリズムの学習プロセスを高速化するために一般的に使用される。 いくつかのアルゴリズムは1つのデモンストレーションから学習するために開発されている。
  論文  参考訳（メタデータ） (2024-02-14T17:59:47Z)
• ReST meets ReAct: Self-Improvement for Multi-Step Reasoning LLM Agent [50.508669199496474]
  外部知識に基づいて推論と行動を行うReAct-style LLMエージェントを開発した。 エージェントをReSTライクな手法で改良し,従来の軌道上で反復的に訓練する。 引き起こされた大きなモデルから始まり、アルゴリズムのたった2イテレーションの後に、微調整された小さなモデルを生成することができる。
  論文  参考訳（メタデータ） (2023-12-15T18:20:15Z)
• Mitigating the Learning Bias towards Repetition by Self-Contrastive Training for Open-Ended Generation [92.42032403795879]
  GPT2のような事前訓練された言語モデル(LM)は、繰り返しテキストを生成する傾向にあることを示す。 トークンレベルの反復確率の過大評価は学習バイアスに起因している。 LMは文レベルの繰り返しループの原因となる非繰り返しトークンよりも長い範囲依存を用いて繰り返しトークンを予測する。
  論文  参考訳（メタデータ） (2023-07-04T07:53:55Z)
• Bayesian Recurrent Units and the Forward-Backward Algorithm [91.39701446828144]
  ベイズの定理を用いることで、ユニットワイド・リカレンスとフォワード・バックワードアルゴリズムに類似した後方再帰を導出する。 その結果得られたベイジアン再帰ユニットは、ディープラーニングフレームワーク内で再帰ニューラルネットワークとして統合することができる。 音声認識の実験は、最先端の繰り返しアーキテクチャの最後に派生したユニットを追加することで、訓練可能なパラメータの点で非常に低コストで性能を向上させることを示唆している。
  論文  参考訳（メタデータ） (2022-07-21T14:00:52Z)
• Learning Sequence Representations by Non-local Recurrent Neural Memory [61.65105481899744]
  教師付きシーケンス表現学習のためのNon-local Recurrent Neural Memory (NRNM)を提案する。 我々のモデルは長距離依存を捉えることができ、潜伏した高レベル特徴を我々のモデルで抽出することができる。 我々のモデルは、これらのシーケンスアプリケーションごとに特別に設計された他の最先端の手法と比較して好意的に比較する。
  論文  参考訳（メタデータ） (2022-07-20T07:26:15Z)
• Composite FORCE learning of chaotic echo state networks for time-series prediction [7.650966670809372]
  本稿では,初期活動が自然にカオスなESNを学習するための複合Force学習法を提案する。 その結果,従来の手法に比べて学習性能と予測性能が著しく向上することが判明した。
  論文  参考訳（メタデータ） (2022-07-06T03:44:09Z)
• Convolutional Dictionary Learning by End-To-End Training of Iterative Neural Networks [3.6280929178575994]
  本研究では,教師付きおよび物理情報を用いたオンライン畳み込み辞書学習アルゴリズムとして利用可能な INN を構築する。 提案手法は,従来の2つのモデルに依存しない訓練法よりも改善され,深い INN と比較して競争結果が得られることを示す。
  論文  参考訳（メタデータ） (2022-06-09T12:15:38Z)
• Learning in Feedback-driven Recurrent Spiking Neural Networks using full-FORCE Training [4.124948554183487]
  本稿では,トレーニング中にのみ第2のネットワークを導入するRSNNの教師付きトレーニング手順を提案する。 提案したトレーニング手順は、リカレント層とリードアウト層の両方のターゲットを生成することで構成される。 本研究では,8つの力学系をモデル化するためのフルFORCEトレーニング手法の性能向上とノイズ堅牢性を示す。
  論文  参考訳（メタデータ） (2022-05-26T19:01:19Z)
• Deep Explicit Duration Switching Models for Time Series [84.33678003781908]
  状態依存型と時間依存型の両方のスイッチングダイナミクスを識別できるフレキシブルモデルを提案する。 状態依存スイッチングは、リカレントな状態-スイッチ接続によって実現される。 時間依存スイッチング動作を改善するために、明示的な期間カウント変数が使用される。
  論文  参考訳（メタデータ） (2021-10-26T17:35:21Z)
• Neural Hybrid Automata: Learning Dynamics with Multiple Modes and Stochastic Transitions [36.81150424798492]
  我々は,モード数やモード間遷移のダイナミクスについて事前知識のないSHSダイナミクスを学習するためのレシピであるNeural Hybrid Automata (NHAs)を紹介した。 NHAは、正規化フロー、ニューラル微分方程式、自己超越に基づく体系的推論手法を提供する。 遷移を伴うシステムにおけるモードリカバリやフローラーニング,階層型ロボットコントローラのエンドツーエンド学習など,さまざまなタスクにおけるNHAについて紹介する。
  論文  参考訳（メタデータ） (2021-06-08T08:04:39Z)
• The Role of Isomorphism Classes in Multi-Relational Datasets [6.419762264544509]
  アイソモーフィックリークは,マルチリレーショナル推論の性能を過大評価することを示す。 モデル評価のためのアイソモーフィック・アウェア・シンセサイティング・ベンチマークを提案する。 また、同型類は単純な優先順位付けスキームによって利用することができることを示した。
  論文  参考訳（メタデータ） (2020-09-30T12:15:24Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。