論文の概要: In-Memory Learning: A Declarative Learning Framework for Large Language Models

• arxiv url: http://arxiv.org/abs/2403.02757v1
• Date: Tue, 5 Mar 2024 08:25:11 GMT
• ステータス: 処理完了
• システム内更新日: 2024-03-06 15:40:01.977560
• Title: In-Memory Learning: A Declarative Learning Framework for Large Language Models
• Title（参考訳）: インメモリ学習:大規模言語モデルのための宣言型学習フレームワーク
• Authors: Bo Wang, Tianxiang Sun, Hang Yan, Siyin Wang, Qingyuan Cheng, Xipeng Qiu
• Abstract要約: 本研究では,人間ラベルデータに頼らずにエージェントが環境に整合できる新しい学習フレームワークを提案する。 このプロセス全体がメモリコンポーネント内で変換され、自然言語で実装される。 フレームワークの有効性を実証し、この問題に対する洞察を提供する。
• 参考スコア（独自算出の注目度）: 56.62616975119192
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: The exploration of whether agents can align with their environment without relying on human-labeled data presents an intriguing research topic. Drawing inspiration from the alignment process observed in intelligent organisms, where declarative memory plays a pivotal role in summarizing past experiences, we propose a novel learning framework. The agents adeptly distill insights from past experiences, refining and updating existing notes to enhance their performance in the environment. This entire process transpires within the memory components and is implemented through natural language, so we character this framework as In-memory Learning. We also delve into the key features of benchmarks designed to evaluate the self-improvement process. Through systematic experiments, we demonstrate the effectiveness of our framework and provide insights into this problem.
• Abstract（参考訳）: エージェントが人間ラベルのデータに頼らずに環境と協調できるかどうかの探求は興味深い研究トピックである。 宣言的記憶が過去の経験を要約する上で重要な役割を果たす知的生物のアライメントプロセスからインスピレーションを得て,新しい学習枠組みを提案する。 エージェントは過去の経験から洞察を十分に抽出し、既存のノートを精錬して更新し、環境におけるパフォーマンスを高める。 このプロセス全体がメモリコンポーネント内を透過し、自然言語で実装されるので、このフレームワークをインメモリ学習と呼ぶ。 また,自己改善プロセスを評価するために設計されたベンチマークの重要な機能についても検討した。 体系的な実験を通じて,我々のフレームワークの有効性を実証し,この問題に対する洞察を与える。

関連論文リスト

• Decorrelation-based Self-Supervised Visual Representation Learning for Writer Identification [10.55096104577668]
  本稿では,自己教師型学習のデコリレーションに基づくパラダイムを探求し,著者識別のための不整合脳卒中の特徴の学習に適用する。 提案手法は,著者識別ベンチマークにおいて,現代の自己教師型学習フレームワークよりも優れていることを示す。 我々の知る限り、本研究は、著者検証タスクの学習表現に自己教師付き学習を適用した最初のものである。
  論文  参考訳（メタデータ） (2024-10-02T11:43:58Z)
• Learning Symbolic Task Representation from a Human-Led Demonstration: A Memory to Store, Retrieve, Consolidate, and Forget Experiences [3.0501524254444767]
  認知的な記憶機能に着想を得たシンボリックラーニングフレームワークを提案する。 我々の主な貢献は、階層的な知識表現をブートストラップするための様々な記憶を調べるために使用できるフレームワークの形式化である。
  論文  参考訳（メタデータ） (2024-04-16T14:14:34Z)
• Analysis of the Memorization and Generalization Capabilities of AI Agents: Are Continual Learners Robust? [91.682459306359]
  連続学習(CL)では、AIエージェントが動的環境下で非定常データストリームから学習する。 本稿では,過去の知識を維持しつつ,動的環境への堅牢な一般化を実現するための新しいCLフレームワークを提案する。 提案フレームワークの一般化と記憶性能を理論的に解析した。
  論文  参考訳（メタデータ） (2023-09-18T21:00:01Z)
• RET-LLM: Towards a General Read-Write Memory for Large Language Models [53.288356721954514]
  RET-LLMは、大規模な言語モデルに一般的な読み書きメモリユニットを装備する新しいフレームワークである。 デビッドソンのセマンティクス理論に触発され、三重項の形で知識を抽出し保存する。 本フレームワークは,時間に基づく質問応答タスクの処理において,堅牢な性能を示す。
  論文  参考訳（メタデータ） (2023-05-23T17:53:38Z)
• Information-Theoretic Odometry Learning [83.36195426897768]
  生体計測推定を目的とした学習動機付け手法のための統合情報理論フレームワークを提案する。 提案フレームワークは情報理論言語の性能評価と理解のためのエレガントなツールを提供する。
  論文  参考訳（メタデータ） (2022-03-11T02:37:35Z)
• Learning What to Memorize: Using Intrinsic Motivation to Form Useful Memory in Partially Observable Reinforcement Learning [0.0]
  曖昧な環境で学習するためには、エージェントは以前の認識を記憶に残さなければならない。 本研究では, メモリの制御をエージェントに委ねることで, メモリ変更動作を可能とすることで, メモリの制御をエージェントに行わせるという考え方に従う。 この学習メカニズムは、希少な観察を記憶する本質的な動機によって支えられ、エージェントが環境中の状態を曖昧にするのに役立つ。
  論文  参考訳（メタデータ） (2021-10-25T11:15:54Z)
• Self-training with Few-shot Rationalization: Teacher Explanations Aid Student in Few-shot NLU [88.8401599172922]
  タスク固有のラベルと合理的性に制限された自己学習言語モデルに基づくフレームワークを開発する。 ニューラルネットワークの性能は,その合理的な予測を意識することで,大幅に向上できることを示す。
  論文  参考訳（メタデータ） (2021-09-17T00:36:46Z)
• Learning to Learn Variational Semantic Memory [132.39737669936125]
  我々はメタラーニングに変分セマンティックメモリを導入し、数ショットラーニングのための長期的知識を得る。 セマンティックメモリはスクラッチから成長し、経験したタスクから情報を吸収することで徐々に統合される。 アドレスコンテンツから潜在記憶変数の変動推論としてメモリリコールを定式化する。
  論文  参考訳（メタデータ） (2020-10-20T15:05:26Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。