論文の概要: CoLink: Global Compression and Knowledge Linking for Multi-Turn Dialogue Modeling
- arxiv url: http://arxiv.org/abs/2610.34335v1
- Date: Sun, 25 Oct 2026 14:51:19 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-27 22:27:13.57958
- Title: CoLink: Global Compression and Knowledge Linking for Multi-Turn Dialogue Modeling
- Title(参考訳): CoLink:マルチターン対話モデリングのためのグローバル圧縮と知識リンク
- Abstract要約: CoLinkは、Large Language Modelsのグローバルなコンテキスト認識を強化するフレームワークである。
意味関係とグラフ構造トポロジを相乗化することで知識を検索し、活性化する。
グローバルコンテキストを専用メモリと知識スロットに凝縮し、長い冗長な入力を極めてコンパクトな潜在表現に効率よく蒸留する。
- 参考スコア(独自算出の注目度): 20.13611308561028
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Extracting salient information from long-horizon dialogue histories remains a significant challenge for Large Language Models (LLMs) due to the restricted context windows and efficient retrieval challenges. Current methods typically rely on history organization or local token-level optimization, suffering from information loss, retrieval redundancy, and myopic attention. Inspired by the view in cognitive science that dialogue constitutes sense-making and memory association, we propose CoLink, a framework that enhances LLMs' global context awareness in domain-specific multi-turn dialogues through information linking and compression. CoLink first clusters historical contexts into topic graphs to establish cross-semantic associations with external knowledge. Guided by the adaptive control of thought, it then retrieves and activates knowledge via synergizing semantic relevance and graph-structural topology. Crucially, to achieve effective compression of history and knowledge, we ground multi-turn dialogues in information theory and derive a principled optimization objective for extracting the core sense-making information. Coupled with a competitive slot mechanism, CoLink condenses the global context into dedicated memory and knowledge slots, efficiently distilling lengthy, redundant inputs into an extremely compact latent representation. Extensive empirical results on both public and our MMD datasets validate CoLink's superiority and generalizability in knowledge linking and sense modeling.
- Abstract(参考訳): 長期の対話履歴から有能な情報を抽出することは、制限されたコンテキストウィンドウと効率的な検索課題のために、Large Language Models (LLMs) にとって重要な課題である。
現在の手法は通常、履歴組織や局所トークンレベルの最適化に依存しており、情報損失、検索冗長性、明視的注意に悩まされている。
対話が感覚形成と記憶の関連性を構成するという認知科学の考え方に触発されて,情報リンクと圧縮を通じて,LLMのグローバルなコンテキスト認識を強化するフレームワークであるCoLinkを提案する。
CoLinkはまず、過去のコンテキストをトピックグラフにまとめて、外部知識と横断的な関連を確立する。
思考の適応制御によって導かれ、意味的関連性とグラフ構造トポロジを相乗化することによって知識を検索し、活性化する。
重要なことは、歴史と知識を効果的に圧縮するために、情報理論の多元対話を基盤として、中核的な感覚情報抽出のための最適化目標を導出することである。
競合するスロット機構と組み合わせて、CoLinkはグローバルコンテキストを専用メモリとナレッジスロットに凝縮し、冗長な長い入力を極めてコンパクトな潜在表現に効率的に蒸留する。
知識リンクと感覚モデリングにおけるCoLinkの優位性と一般化性の検証を行った。
関連論文リスト
- Bridging Semantic Gaps in RAG through Generated Context Knowledge Fusion [35.01896467717532]
本稿では,クエリと検索したドキュメント間のセマンティックな空間アライメントを,インテリジェントな知識融合によって実現し,経路選択の質を向上させる新しいフレームワークを提案する。
提案手法は, 生成的知識と検索的知識の相補的強みを多段階的プロセスを通じて生かし, 妥当性と精度を両立させる。
論文 参考訳(メタデータ) (2026-09-29T09:57:57Z) - A Unified Framework for Context-Aware and Relation-Aware Graph Retrieval-Augmented Generation [13.705515718089123]
Retrieval-Augmented Generation (RAG) は、大規模言語モデルを外部知識で拡張するためのパラダイムとして登場した。
既存のグラフベースの手法は、真の知識融合なしに原文に固定された表現を操作する。
本稿では,HyGRAGを提案する。HyGRAGは階層型グラフRAGフレームワークで,3つのコア課題に対処することで,ソース文書を超越する。
論文 参考訳(メタデータ) (2026-06-16T15:44:10Z) - GAM: Hierarchical Graph-based Agentic Memory for LLM Agents [45.876418535406714]
大きな言語モデル(LLM)エージェントは、新しい情報を取得し、事前の知識を保持することの間の緊張関係をナビゲートする必要がある。
現在の統合ストリームベースのメモリシステムは、コンテキスト更新を容易にするが、過渡的ノイズからの干渉に弱いままである。
本稿では,階層型グラフベースのエージェントメモリフレームワークであるGAMを提案する。
論文 参考訳(メタデータ) (2026-04-14T04:53:00Z) - GIVE: Structured Reasoning of Large Language Models with Knowledge Graph Inspired Veracity Extrapolation [108.2008975785364]
Graph Inspired Veracity Extrapolation (GIVE)は、パラメトリックメモリと非パラメトリックメモリを融合して、最小の外部入力で正確な推論を改善する新しい推論手法である。
GIVE は LLM エージェントをガイドして,最も関連する専門家データ (observe) を選択し,クエリ固有の発散思考 (reflect) に従事し,その情報を合成して最終的な出力 (speak) を生成する。
論文 参考訳(メタデータ) (2024-10-11T03:05:06Z) - Knowledge Graphs and Pre-trained Language Models enhanced Representation Learning for Conversational Recommender Systems [58.561904356651276]
本稿では,対話型推薦システムのためのエンティティの意味理解を改善するために,知識強化型エンティティ表現学習(KERL)フレームワークを紹介する。
KERLは知識グラフと事前訓練された言語モデルを使用して、エンティティの意味的理解を改善する。
KERLはレコメンデーションとレスポンス生成の両方のタスクで最先端の結果を達成する。
論文 参考訳(メタデータ) (2023-12-18T06:41:23Z) - Knowledge-Enhanced Hierarchical Information Correlation Learning for
Multi-Modal Rumor Detection [82.94413676131545]
マルチモーダルなうわさ検出のための知識強化型階層型情報相関学習手法(KhiCL)を提案する。
KhiCLは異質な一様性特徴を共通特徴空間に伝達するために、クロスモーダルな関節辞書を利用する。
画像やテキストから視覚的およびテキスト的実体を抽出し、知識関連推論戦略を設計する。
論文 参考訳(メタデータ) (2023-06-28T06:08:20Z) - ORD: Object Relationship Discovery for Visual Dialogue Generation [60.471670447176656]
視覚対話生成のためのオブジェクトインタラクションを保存するためのオブジェクト関係探索(ORD)フレームワークを提案する。
階層的なグラフ畳み込みネットワーク (HierGCN) が提案され、オブジェクトノードと近傍の関係を局所的に保持し、オブジェクトとオブジェクトの接続をグローバルに洗練する。
実験により,視覚的関係の文脈情報を活用することにより,対話の質を大幅に向上できることが示された。
論文 参考訳(メタデータ) (2020-06-15T12:25:40Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。