論文の概要: Self-Keyed In-Parameter Memorization for External Memory-Free Dialogue Recall in Frozen Language Models

• arxiv url: http://arxiv.org/abs/2610.36948v1
• Date: Tue, 27 Oct 2026 10:10:11 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-28 21:04:31.561679
• Title: Self-Keyed In-Parameter Memorization for External Memory-Free Dialogue Recall in Frozen Language Models
• Title（参考訳）: 凍結言語モデルにおける外部メモリフリー対話リコールのための自己キーインパラメータ記憶法
• Abstract要約: この研究は、言語モデルに外部メモリがなく、将来の質問やその答えに関する事前知識がない環境を想定している。 モチベーションは、対話をモデルパラメータに格納できるかどうかを調べ、後でそれに関する質問に答えることである。
• 参考スコア（独自算出の注目度）: 9.568062343941657
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: A large language model maintains conversational content in an external storage that is outside the model and grows as the dialogue continues. This work assumes an environment where a language model has no external memory and no prior knowledge of the future question or its answer. The motivation is to research whether a dialogue can be stored in the model parameters and later answer a question about it. This work proposes self-keyed in-parameter memorization (SKIM), a closed-form method in which the model generates its own questions about each dialogue turn and writes those questions into its parameters as the keys that later retrieve the turn's content. Generating many varied questions for each turn allows a later user question to match one even when phrased differently, and its answer is recalled from the parameters alone. Evaluated on five language models, SKIM recalls most stored dialogue turns from later user questions, and it answers from the model parameters without any external storage.
• Abstract（参考訳）: 大きな言語モデルは、モデルの外にある外部ストレージで会話の内容を保持し、対話が継続するにつれて成長する。 この研究は、言語モデルに外部メモリがなく、将来の質問やその答えに関する事前知識がない環境を想定している。 モチベーションは、対話をモデルパラメータに格納できるかどうかを調べ、後でそれに関する質問に答えることである。 本研究は, 自己鍵型パラメータ内記憶法(SKIM)を提案する。これは, モデルが各対話ターンに関する独自の質問を生成し, それらの質問を, ターンの内容を検索するキーとしてパラメータに書き込む, クローズドフォーム方式である。 各ターンごとに様々な質問を生成すると、後続のユーザー質問がフレーズが違うときでもその質問にマッチし、その答えはパラメータのみからリコールされる。 5つの言語モデルで評価され、SKIMは、ほとんどの記憶されている対話は、後のユーザの質問から振り返り、外部ストレージなしでモデルパラメータから答える。

関連論文リスト

• REALTALK: A 21-Day Real-World Dataset for Long-Term Conversation [51.97224538045096]
  本稿では、21日間のメッセージアプリ対話のコーパスであるREALTALKを紹介する。 EI属性とペルソナの整合性を比較し,現実世界の対話による課題を理解する。 その結果,モデルでは対話履歴のみからユーザをシミュレートすることが困難であり,特定のユーザチャットの微調整はペルソナのエミュレーションを改善することがわかった。
  論文  参考訳（メタデータ） (2025-02-18T20:29:01Z)
• Let's Go Real Talk: Spoken Dialogue Model for Face-to-Face Conversation [55.043492250775294]
  本稿では,新しい対面音声対話モデルを提案する。 ユーザ入力から音声視覚音声を処理し、応答として音声視覚音声を生成する。 また,最初の大規模マルチモーダル音声対話コーパスであるMultiDialogを紹介する。
  論文  参考訳（メタデータ） (2024-06-12T04:48:36Z)
• Personalized Large Language Model Assistant with Evolving Conditional Memory [15.780762727225122]
  条件記憶を進化させる大規模言語モデルアシスタントをパーソナライズするためのプラグイン・アンド・プレイフレームワークを提案する。 パーソナライズされたアシスタントは、ユーザとの履歴対話から知識と経験をインテリジェントに保存することに焦点を当てる。
  論文  参考訳（メタデータ） (2023-12-22T02:39:15Z)
• Recursively Summarizing Enables Long-Term Dialogue Memory in Large Language Models [30.48902594738911]
  長い会話をすると、大きな言語モデル(LLM)は過去の情報を思い出さず、一貫性のない応答を生成する傾向がある。 本稿では,長期記憶能力を高めるために,大規模言語モデル(LLM)を用いて要約/メモリを生成することを提案する。
  論文  参考訳（メタデータ） (2023-08-29T04:59:53Z)
• q2d: Turning Questions into Dialogs to Teach Models How to Search [11.421839177607147]
  質問から情報検索ダイアログを生成する自動データ生成パイプラインであるq2dを提案する。 検索クエリによる人書きダイアログに依存する従来の手法とは異なり,提案手法では,より優れた制御とスケールで,クエリベースの基底ダイアログを自動的に生成することができる。
  論文  参考訳（メタデータ） (2023-04-27T16:39:15Z)
• Adapting Task-Oriented Dialogue Models for Email Conversations [4.45709593827781]
  本稿では,対話モデルの最新開発を長文会話に適用できる効果的な伝達学習フレームワーク(EMToD)を提案する。 提案するEMToDフレームワークは,事前学習した言語モデルに対する意図検出性能を45%向上し,タスク指向の電子メール会話において,事前学習した対話モデルに対する意図検出性能を30%向上することを示す。
  論文  参考訳（メタデータ） (2022-08-19T16:41:34Z)
• DialogVED: A Pre-trained Latent Variable Encoder-Decoder Model for Dialog Response Generation [80.45816053153722]
  DialogVEDは、拡張エンコーダデコーダ事前トレーニングフレームワークに連続潜伏変数を導入し、応答の関連性と多様性を高める。 我々は,PersonaChat,DailyDialog,DSTC7-AVSDベンチマークを用いて応答生成実験を行った。
  論文  参考訳（メタデータ） (2022-04-27T16:18:15Z)
• The Adapter-Bot: All-In-One Controllable Conversational Model [66.48164003532484]
  本稿では、DialGPTなどの固定バックボーンモデルを用いて、異なるアダプタを介してオンデマンド対話スキルをトリガーする対話モデルを提案する。 スキルに応じて、モデルはテキスト、テーブル、強調応答などの複数の知識タイプを処理できる。 我々は,既存の会話モデルと比較し,自動評価を用いたモデルの評価を行った。
  論文  参考訳（メタデータ） (2020-08-28T10:59:31Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。