論文の概要: Mental Model Management: An Operator-Based Framework for LLM Memory
- arxiv url: http://arxiv.org/abs/2608.15451v1
- Date: Sun, 16 Aug 2026 00:01:07 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-18 19:59:03.303284
- Title: Mental Model Management: An Operator-Based Framework for LLM Memory
- Title(参考訳): メンタルモデル管理: LLMメモリのための演算子ベースのフレームワーク
- Abstract要約: メンタルモデルマネジメントは、知識がコンパクトなチャンクからなるメンタルモデルとして表現されるフレームワークである。
オペレータのセットは知識を抽出し、関連するモデルを取得し、チャンクの追加と更新を行い、表現を再編成し、矛盾を検出し、新しい知識を導き出す。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Large language models process large amounts of information but usually lack an explicit mechanism for maintaining compact and evolving conceptual representations. We introduce Mental Model Management (3M), a framework in which knowledge is represented as mental models consisting of compact chunks. Rather than accumulating text passages, 3M continuously integrates new information into an existing conceptual representation. A set of operators extracts knowledge, retrieves relevant models, adds and updates chunks, reorganizes representations, detects inconsistencies, and derives new knowledge. We describe the main 3M operators and illustrate each operation using Evolution Strategies as a running example.
- Abstract(参考訳): 大規模な言語モデルは大量の情報を処理するが、通常、コンパクトで進化した概念表現を維持するための明確なメカニズムを欠いている。
本稿では、知識をコンパクトなチャンクからなるメンタルモデルとして表現するフレームワークであるメンタルモデルマネジメント(3M)を紹介する。
テキストパスを蓄積する代わりに、3Mは、新しい情報を既存の概念表現に継続的に統合する。
オペレータのセットは知識を抽出し、関連するモデルを取得し、チャンクの追加と更新を行い、表現を再編成し、矛盾を検出し、新しい知識を導き出す。
主な3M演算子について記述し,動作例としてEvolution Strategiesを用いて各演算を記述した。
関連論文リスト
- CAM: A Constructivist View of Agentic Memory for LLM-Based Reading Comprehension [55.29309306566238]
現在のLarge Language Models (LLM) は、長文文書を解釈する際に圧倒的な情報量に直面している。
この課題は、バニラLSMを自律的な読み出しエージェントに高めることができる凝集性メモリモジュールの必須性を高める。
我々はジャン・ピアジェの構成主義理論(Constructivist Theory)からインスピレーションを得て、エージェントメモリの3つの特性(構造化スキーマ、フレキシブルな同化、動的調節)を表現した。
論文 参考訳(メタデータ) (2025-10-07T02:16:30Z) - Quantifying Memory Utilization with Effective State-Size [73.52115209375343]
「我々は、テキスト・メモリ利用の尺度を策定する。」
この計量は、textitinput-invariant および textitinput-variant linear operator を持つシステムの基本的なクラスに適合する。
論文 参考訳(メタデータ) (2025-04-28T08:12:30Z) - Conceptual Metaphor Theory as a Prompting Paradigm for Large Language Models [0.0]
大規模言語モデル(LLM)の拡張のためのフレームワークとしてメタファー概念理論(CMT)を紹介する。
CMTは比喩的マッピングを活用して抽象的推論を構造化し、複雑な概念を処理し説明するモデルの能力を向上させる。
我々は4つのネイティブモデル(Llama3.2、Phi3、Gemma2、Mistral)を、ドメイン固有の推論、創造的洞察、メタファ解釈にまたがるベンチマークタスクで、CMTが強化したモデルと比較する。
論文 参考訳(メタデータ) (2025-02-04T00:26:39Z) - Analyzing Finetuning Representation Shift for Multimodal LLMs Steering [56.710375516257876]
隠れた状態を解釈可能な視覚的概念とテキスト的概念にマッピングすることを提案する。
これにより、オリジナルモデルや微調整モデルからのシフトなど、特定のセマンティックダイナミクスをより効率的に比較することが可能になります。
また,これらの変化を捉えるためにシフトベクトルを用いることを実証する。
論文 参考訳(メタデータ) (2025-01-06T13:37:13Z) - The Mechanics of Conceptual Interpretation in GPT Models: Interpretative Insights [10.777646083061395]
本稿では,大規模言語モデルにおける概念化機構を明らかにする知識編集の革新的バリエーションである概念編集を紹介する。
我々は、トランスモデルのマルチ層パーセプトロン(MLP)、マルチヘッドアテンション(MHA)、および隠れ状態成分を解析する。
我々の研究は、LLMにおける複雑な階層化されたセマンティック処理の性質と、これらのモデルにおける特定の概念の分離と修正の課題を強調している。
論文 参考訳(メタデータ) (2024-08-05T18:50:08Z) - Tokenization, Fusion, and Augmentation: Towards Fine-grained Multi-modal Entity Representation [51.80447197290866]
マルチモーダル知識グラフ補完(MMKGC)は、与えられた知識グラフから観測されていない知識を発見することを目的としている。
既存のMMKGCメソッドは通常、事前訓練されたモデルでマルチモーダルな特徴を抽出する。
エンティティの微細なマルチモーダル表現をトークン化し、融合し、拡張する新しいフレームワークであるMyGOを紹介します。
論文 参考訳(メタデータ) (2024-04-15T05:40:41Z) - Multi-modal Auto-regressive Modeling via Visual Words [96.25078866446053]
本稿では,視覚的特徴を大規模多モードモデルの語彙上の確率分布にマッピングする視覚トークンの概念を提案する。
さらに、LMM内の意味空間における視覚的特徴の分布と、視覚情報を表現するためにテキスト埋め込みを使用することの可能性について検討する。
論文 参考訳(メタデータ) (2024-03-12T14:58:52Z) - Self-Supervised Representation Learning with Meta Comprehensive
Regularization [11.387994024747842]
既存の自己管理フレームワークに組み込まれたCompMod with Meta Comprehensive Regularization (MCR)というモジュールを導入する。
提案したモデルを双方向最適化機構により更新し,包括的特徴を捉える。
本稿では,情報理論と因果対実的視点から提案手法の理論的支援を行う。
論文 参考訳(メタデータ) (2024-03-03T15:53:48Z) - Concept-Centric Transformers: Enhancing Model Interpretability through
Object-Centric Concept Learning within a Shared Global Workspace [1.6574413179773757]
概念中心変換器は、解釈可能性のための共有グローバルワークスペースの単純かつ効果的な構成である。
本モデルでは,すべての問題に対して,すべてのベースラインの分類精度が向上することを示す。
論文 参考訳(メタデータ) (2023-05-25T06:37:39Z) - RET-LLM: Towards a General Read-Write Memory for Large Language Models [53.288356721954514]
RET-LLMは、大規模な言語モデルに一般的な読み書きメモリユニットを装備する新しいフレームワークである。
デビッドソンのセマンティクス理論に触発され、三重項の形で知識を抽出し保存する。
本フレームワークは,時間に基づく質問応答タスクの処理において,堅牢な性能を示す。
論文 参考訳(メタデータ) (2023-05-23T17:53:38Z) - Modeling Temporal-Modal Entity Graph for Procedural Multimodal Machine
Comprehension [23.281727955934304]
手続き型マルチモーダル文書(PMD)は、テキスト命令とそれに対応する画像を段階的に整理する。
本研究では,M3C(Procedural MultiModal Machine)を細粒度レベルで(文書や文レベルでの既存調査と比較)アプローチする。
論文 参考訳(メタデータ) (2022-04-06T03:41:13Z) - Explaining Representation by Mutual Information [0.0]
ニューラルネットワーク表現を3つの完全成分に分解する相互情報(MI)に基づく手法を提案する。
CNNやTransformerなどのアーキテクチャに統合された2つの軽量モジュールを用いて,これらのコンポーネントを推定し,解釈能力を示す。
論文 参考訳(メタデータ) (2021-03-28T12:26:56Z) - A Minimalist Dataset for Systematic Generalization of Perception,
Syntax, and Semantics [131.93113552146195]
我々は,機械が一般化可能な概念を学習する能力を調べるため,新しいデータセットであるHINT(Hand written arithmetic with INTegers)を提案する。
HINTでは、イメージなどの生信号から概念がどのように認識されるかを学ぶことが機械のタスクである。
我々は、RNN、Transformer、GPT-3など、様々なシーケンス・ツー・シーケンスモデルで広範囲に実験を行った。
論文 参考訳(メタデータ) (2021-03-02T01:32:54Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。