論文の概要: Integrating Temporal Representations for Dynamic Memory Retrieval and Management in Large Language Models

• arxiv url: http://arxiv.org/abs/2410.13553v1
• Date: Thu, 17 Oct 2024 13:51:03 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-10-18 13:21:56.620068
• Title: Integrating Temporal Representations for Dynamic Memory Retrieval and Management in Large Language Models
• Title（参考訳）: 大規模言語モデルにおける動的メモリ検索と管理のための時間表現の統合
• Authors: Yuki Hou, Haruki Tamoto, Homei Miyashita,
• Abstract要約: 我々は、シナプス力学をレトリーバル強化生成(RAG)に組み込む新しいアプローチであるSynapticRAGを提案する。 本手法は,会話から長期的文脈維持と特定の情報抽出を強化することで,文脈認識型対話型AIシステムを進化させる。
• 参考スコア（独自算出の注目度）: 8.943924354248622
• License:
• Abstract: Conventional dialogue agents often struggle with effective memory recall, leading to redundant retrieval and inadequate management of unique user associations. To address this, we propose SynapticRAG, a novel approach integrating synaptic dynamics into Retrieval-Augmented Generation (RAG). SynapticRAG integrates temporal representations into memory vectors, mimicking biological synapses by differentiating events based on occurrence times and dynamically updating memory significance. This model employs temporal scoring for memory connections and a synaptic-inspired propagation control mechanism. Experiments across English, Japanese, and Chinese datasets demonstrate SynapticRAG's superiority over existing methods, including traditional RAG, with up to 14.66\% improvement in memory retrieval accuracy. Our approach advances context-aware dialogue AI systems by enhancing long-term context maintenance and specific information extraction from conversations.
• Abstract（参考訳）: 従来の対話エージェントは、しばしば効果的なメモリリコールに悩まされ、冗長な検索とユニークなユーザアソシエーションの管理が不十分になる。 これを解決するために,SynapticRAGを提案する。これは,Synaptic DynamicsをRetrieval-Augmented Generation (RAG)に統合する新しいアプローチである。 SynapticRAGは、時間的表現をメモリベクターに統合し、発生時間に基づいて事象を識別し、記憶の重要度を動的に更新することで生物学的シナプスを模倣する。 このモデルは、メモリ接続のための時間的スコアリングと、シナプスにインスパイアされた伝搬制御機構を用いる。 英語、日本語、中国語のデータセットでの実験では、従来のRAGを含む既存の手法よりもSynapticRAGの方が14.66倍のメモリ取得精度で優れていることが示されている。 本手法は,会話から長期的文脈維持と特定の情報抽出を強化することで,文脈認識型対話型AIシステムを進化させる。

関連論文リスト

• Neuron: Learning Context-Aware Evolving Representations for Zero-Shot Skeleton Action Recognition [64.56321246196859]
  本稿では,dUalスケルトン・セマンティック・セマンティック・セマンティック・セマンティック・シンジスティック・フレームワークを提案する。 まず、時空間進化型マイクロプロトタイプを構築し、動的コンテキスト認識側情報を統合する。 本研究では,空間的圧縮と時間的記憶機構を導入し,空間的時間的マイクロプロトタイプの成長を導く。
  論文  参考訳（メタデータ） (2024-11-18T05:16:11Z)
• Embodied-RAG: General Non-parametric Embodied Memory for Retrieval and Generation [65.23793829741014]
  Embodied-RAGは、非パラメトリックメモリシステムによるエンボディエージェントのモデルを強化するフレームワークである。 コアとなるEmbodied-RAGのメモリはセマンティックフォレストとして構成され、言語記述を様々なレベルで詳細に保存する。 Embodied-RAGがRAGをロボット領域に効果的にブリッジし、200以上の説明とナビゲーションクエリをうまく処理できることを実証する。
  論文  参考訳（メタデータ） (2024-09-26T21:44:11Z)
• Hello Again! LLM-powered Personalized Agent for Long-term Dialogue [63.65128176360345]
  モデルに依存しない長期対話エージェント(LD-Agent)を導入する。 イベント認識、ペルソナ抽出、応答生成のための3つの独立した調整可能なモジュールが組み込まれている。 LD-Agentの有効性, 汎用性, クロスドメイン性について実験的に検証した。
  論文  参考訳（メタデータ） (2024-06-09T21:58:32Z)
• Semantically-correlated memories in a dense associative model [2.7195102129095003]
  私はCorrelated Associative Memory(CDAM)という新しい連想記憶モデルを紹介します。 CDAMは、自動連想とヘテロ連想の両方を、連続的に評価されたメモリパターンのための統一されたフレームワークに統合する。 理論的、数値的に解析され、4つの異なる力学モードが明らかにされている。
  論文  参考訳（メタデータ） (2024-04-10T16:04:07Z)
• A Framework for Inference Inspired by Human Memory Mechanisms [9.408704431898279]
  本稿では,知覚,記憶,推論の構成要素からなるPMIフレームワークを提案する。 メモリモジュールは、ワーキングメモリと長期メモリから構成され、後者は、広範囲で複雑なリレーショナル知識と経験を維持するために、高次構造を備えている。 我々は、bAbI-20kやSolt-of-CLEVRデータセットのような質問応答タスクにおいて、一般的なTransformerとCNNモデルを改善するためにPMIを適用します。
  論文  参考訳（メタデータ） (2023-10-01T08:12:55Z)
• Relational Temporal Graph Reasoning for Dual-task Dialogue Language Understanding [39.76268402567324]
  デュアルタスクダイアログ理解言語は、2つの相関ダイアログ言語理解タスクを、その固有の相関を通じて同時に扱うことを目的としている。 我々は、リレーショナル時間グラフ推論(Relational temporal graph reasoning)が中心となる新しいフレームワークを提唱した。 私たちのモデルは最先端のモデルよりも大きなマージンで優れています。
  論文  参考訳（メタデータ） (2023-06-15T13:19:08Z)
• Sparse Coding in a Dual Memory System for Lifelong Learning [13.041607703862724]
  Brainは、重複しないスパースコードの情報を効率的にエンコードする。 我々はマルチメモリ再生機構においてスパース符号化を用いる。 本手法は,作業モデルのシナプス重みに符号化された情報を集約し,集約する,長期的セマンティックメモリを新たに維持する。
  論文  参考訳（メタデータ） (2022-12-28T12:56:15Z)
• Canonical Cortical Graph Neural Networks and its Application for Speech Enhancement in Future Audio-Visual Hearing Aids [0.726437825413781]
  本稿では, 層内変調を用いたマルチモーダル情報と正準相関解析(CCA)を組み合わせた, より生物学的に妥当な自己教師型機械学習手法を提案する。 この手法は、よりクリーンなオーディオ再構成とエネルギー効率の両方を考慮した最近の最先端の結果より優れており、スモーザーでスモーザーなニューロンの発火速度分布によって説明されている。
  論文  参考訳（メタデータ） (2022-06-06T15:20:07Z)
• Temporal Memory Relation Network for Workflow Recognition from Surgical Video [53.20825496640025]
  本研究では, 長期および多スケールの時間パターンを関連づける, エンドツーエンドの時間メモリ関係ネットワーク (TMNet) を提案する。 我々はこのアプローチを2つのベンチマーク手術ビデオデータセットで広範囲に検証した。
  論文  参考訳（メタデータ） (2021-03-30T13:20:26Z)
• PredRNN: A Recurrent Neural Network for Spatiotemporal Predictive Learning [109.84770951839289]
  歴史的文脈からビジュアルダイナミクスを学習するための新しいリカレントネットワークであるPredRNNを紹介する。 本手法は,3つの標準データセット上で高い競争結果が得られることを示す。
  論文  参考訳（メタデータ） (2021-03-17T08:28:30Z)
• Sequential Recommender via Time-aware Attentive Memory Network [67.26862011527986]
  本稿では,注意機構と繰り返し単位を改善するための時間ゲーティング手法を提案する。 また,長期と短期の嗜好を統合するマルチホップ・タイムアウェア・アテンテーティブ・メモリ・ネットワークを提案する。 提案手法は,候補探索タスクに対してスケーラブルであり,ドット積に基づくTop-Kレコメンデーションのための潜在因数分解の非線形一般化とみなすことができる。
  論文  参考訳（メタデータ） (2020-05-18T11:29:38Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。