論文の概要: Surprise as a Signal for Plasticity and Metacognition
- arxiv url: http://arxiv.org/abs/2606.31495v1
- Date: Tue, 30 Jun 2026 11:14:04 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-01 18:27:19.190488
- Title: Surprise as a Signal for Plasticity and Metacognition
- Title(参考訳): 塑性とメタ認知のシグナルとしてのサプライズ
- Abstract要約: 予測エラー信号は可塑性のゲートとして機能し,メタ認知の基盤として機能する。
本稿では,両システムを概念実証として明示的な制約で報告し,近年のエピソード・メモリとパーソナライズド・VLMの作業に対して第2位と位置づける。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by-sa/4.0/
- Abstract: We study a single idea across two settings: that a prediction-error signal, computed by a small predictor over the latent space of a frozen encoder, can serve both as a gate on plasticity and as a substrate for metacognition. In the first system, a non-parametric episodic memory writes a new concept only when this surprise is high, and a periodic offline replay phase consolidates recent traces into a slow linear readout. On a continual stream of 1000 ImageNet classes with a frozen DINOv2 or I-JEPA backbone, the consolidation phase recovers 17.7 points of retention on the oldest classes for DINOv2 and 51.3 points for I-JEPA (single-seed runs), and an ablation shows that replaying only a recent window is worse than no replay at all. In few-shot evaluation the same memory reaches 91.6% on 5-way 1-shot mini-ImageNet, above a task-specific baseline, while a harder 500-way regime exposes the true difficulty. In the second system, the same surprise signal, computed in a shared text-image space, modulates the behaviour of a vision-language model: it answers assertively when a concept is known, hedges when it is partially familiar, and refuses to identify the object and asks for an explanation when it is novel, learning the concept from a single user utterance. The external detector separates known from novel concepts at an AUROC of 0.966 (95% CI +/-0.024), far above the model's own verbalised confidence (0.618), while its token-level confidence sits below chance under greedy decoding; after a sleep phase that empties the fast store, the system recalls 99.2% of fifty taught facts from the consolidated store while a base model recovers none. We report both systems as proof-of-concept, with explicit limitations, and position the second against recent episodic-memory and personalised-VLM work.
- Abstract(参考訳): 凍結エンコーダの潜伏空間上の小さな予測器によって計算される予測エラー信号は,塑性のゲートとして,メタ認知のための基板としても機能する。
第1のシステムでは、非パラメトリックエピソードメモリは、このサプライズが高い場合にのみ新しい概念を書き、周期的なオフライン再生フェーズは、最近のトレースを遅い線形読み出しに集約する。
凍結したDINOv2またはI-JEPAバックボーンを持つ1000のImageNetクラスの連続ストリームでは、統合フェーズは、DINOv2の古いクラスの17.7ポイント、I-JEPAの51.3ポイントの保持を回復する。
数ショット評価では、同じメモリがタスク固有のベースラインよりも上の5ウェイの1ショットのミニイメージネットで91.6%まで達する一方、より難しい500ウェイのレジームは真の難しさを露呈する。
第2のシステムでは、同じサプライズ信号が共有テキストイメージ空間で計算され、視覚言語モデルの振る舞いを変調し、ある概念が知られているときに肯定的に答え、ある概念が部分的に親しみのあるときにヘッジし、そのオブジェクトを識別することを拒み、それが新規であるときに説明を求め、単一のユーザ発話から概念を学習する。
外部検出器は、AUROC 0.966 (95% CI +/-0.024) という新しい概念と区別されるが、そのトークンレベルの信頼度は、強欲な復号の下では低い確率にあり、ファストストアを空にする睡眠段階の後、ベースモデルが回復しない間に50の教えた事実の99.2%を統合ストアからリコールする。
本稿では,両システムを概念実証として明示的な制約で報告し,近年のエピソード・メモリとパーソナライズド・VLMの作業に対して第2位と位置づける。
関連論文リスト
- Interpreting Object-Dependent Concept Brittleness in Text-to-Image Diffusion Models [105.53190946111586]
我々はこの現象をオブジェクト依存概念の脆さと呼ぶ。
これらの障害を監査し、最小限に修正する、解釈可能性指向のフレームワークを提案する。
複数の拡散バックボーンにまたがるスタイルと属性の故障事例について,提案手法の評価を行った。
論文 参考訳(メタデータ) (2026-09-09T09:07:40Z) - LeVJEPA: Efficient & Scalable Video Pretraining without the Heuristics [50.45297537821907]
我々はLeJEPAの崩壊のない目的の下で訓練された最初のビデオエンコーダLeVJEPAを紹介する。
単一のエンコーダは、クリップのグローバルおよびローカルビューよりも分散損失で訓練される。
LeVJEPAはV-JEPA 2とVT-S/B/Lの5.6から20.8倍の速さで一致または超える。
論文 参考訳(メタデータ) (2026-08-27T17:26:24Z) - eMEM: A Hybrid Spatio-Temporal Memory System For Embodied Agents [1.8047694351309203]
物理環境で動作するエンボディエージェントのためのハイブリッドグラフベースメモリシステムeMEMを提案する。
eMEMはこのギャップをマルチインデックスアーキテクチャ(構造化ストレージ用ITE、近傍セマンティックサーチ用hlib、空間クエリ用Rツリー)で埋める。
また,eMEM-Bench v1は,メモリ評価のためのProcTHOR-10Kシーン上で構築したベンチマークである。
論文 参考訳(メタデータ) (2026-06-02T09:22:12Z) - Does Engram Do Memory Retrieval in Autoregressive Image Generation? [50.31813662801864]
本研究では,Engramモジュールを2次元空間的$n$-gramハッシュ,ゲート融合,KV-cache互換インクリメンタル推論で視覚に適応させる。
ゲート・クランプ・スイープは、エングラムの経路を完全に無効にすることは破滅的であることを示している。
ドナープローブ実験により、一致した、逆数的な、あるいはランダムな同一クラスの例にハッシュ入力を交換すると、統計的に区別不能な次トーケン分布が生じることが示された。
論文 参考訳(メタデータ) (2026-05-13T08:40:46Z) - ZenBrain: A Neuroscience-Inspired 7-Layer Memory Architecture for Autonomous AI Systems [51.56484100374058]
LongMemEval-500では、ZenBrainは長いコンテキストのオラクルのバイナリ・ジャッジの精度を4.5pp以内と一致させる。
ZenBrainは7層の神経科学にインスパイアされたメモリアーキテクチャである。
論文 参考訳(メタデータ) (2026-04-26T20:39:19Z) - SCM: Sleep-Consolidated Memory with Algorithmic Forgetting for Large Language Models [0.0]
本稿では, 永続的で構造化された, 生物学的に妥当な記憶の欠如に対処するために, 神経科学的原理に基づく大規模言語モデルのためのメモリアーキテクチャを提案する。
SCMは、人間のメモリにインスパイアされた5つのコアコンポーネントを実装している: 限られた容量のワーキングメモリ、多次元の重要タグ付け、異なるNREMとREMフェーズによるオフライン睡眠ステージの統合、意図的な値ベースの忘れ、イントロスペクションを可能にする計算自己モデル。
8つのテストからなる標準化されたベンチマークスイートの中で、プロトタイプは10ターンの会話に対して完全なリコール精度を達成し、適応的な忘れ込みによってメモリノイズを90.9%削減した。
論文 参考訳(メタデータ) (2026-04-22T15:47:27Z) - Self-Aware Vector Embeddings for Retrieval-Augmented Generation: A Neuroscience-Inspired Framework for Temporal, Confidence-Weighted, and Relational Knowledge [0.0]
現代の検索拡張生成(RAG)システムは、ベクトル埋め込みを静的で文脈に依存しないアーティファクトとして扱う。
このフレームワークは,3つの明示的な特性 – 時間的認識,信頼の低下,関係的認識 – で密着な埋め込みを強化するものだ。
論文 参考訳(メタデータ) (2026-04-22T14:13:50Z) - Learn by Surprise, Commit by Proof [0.0]
本稿では,自律的知識獲得のための自己学習後フレームワークを提案する。
通路が異常に高いパートーケン損失を発生させると、L SCPはそれをフラグ化し、モデルに自身の知識を明確にさせるQ&A連鎖を生成する。
学習強度は1つのパラメータ$r$で管理される。
論文 参考訳(メタデータ) (2026-04-02T12:17:10Z) - Mind the Gap: Why Neural Memory Fails Under Semantic Density [0.0]
現在のAIシステムは、この分離を欠き、ニューラルウェイトだけで両方の機能を試みている。
オンラインニューラルメモリの'安定性ギャップ'を識別する。
崩壊はN=5の事実を高密度で示している。
また、本運用システムでは、スキーマドリフトとバージョンあいまいさを主要な障害モードとみなしています。
論文 参考訳(メタデータ) (2026-01-14T18:55:23Z) - Semantic-Drive: Democratizing Long-Tail Data Curation via Open-Vocabulary Grounding and Neuro-Symbolic VLM Consensus [0.0]
セマンティックドライブ(Semantic-Drive)は、セマンティックなデータマイニングのための、ローカルファーストで、ニューロシンボリックなフレームワークである。
提案手法は,(1)リアルタイムオープン語彙検出装置(YOLOE)によるグラウンドニングと,(2)推論VLMによる認知分析の2つの段階に分離する。
論文 参考訳(メタデータ) (2025-12-12T20:07:04Z) - Simple linear attention language models balance the recall-throughput tradeoff [60.06020449520365]
線形およびすべり窓の注意を結合したシンプルなアーキテクチャであるBASEDを提案する。
我々は、最大1.3bパラメータの言語モデルをトレーニングし、BASEDがパープレキシティにおいて最強のサブクワッドラティックモデルと一致し、実世界のリコール集約タスクにおいて6.22の精度ポイントでそれらのモデルを上回っていることを示す。
論文 参考訳(メタデータ) (2024-02-28T19:28:27Z) - Learning Prompt with Distribution-Based Feature Replay for Few-Shot Class-Incremental Learning [56.29097276129473]
分散型特徴再現(LP-DiF)を用いた学習プロンプト(Learning Prompt)という,シンプルで効果的なフレームワークを提案する。
新しいセッションでは,学習可能なプロンプトが古い知識を忘れないようにするため,擬似機能的リプレイ手法を提案する。
新しいセッションに進むと、古いクラスのディストリビューションと現在のセッションのトレーニングイメージを組み合わせて擬似フィーチャーをサンプリングして、プロンプトを最適化する。
論文 参考訳(メタデータ) (2024-01-03T07:59:17Z) - Probing Model Signal-Awareness via Prediction-Preserving Input
Minimization [67.62847721118142]
モデルが正しい脆弱性信号を捕捉して予測する能力を評価する。
SAR(Signal-Aware Recall)と呼ばれる新しい指標を用いて,モデルの信号認識を計測する。
その結果,90年代以降のリコールから60年代以降のリコールは,新たな指標で大幅に減少した。
論文 参考訳(メタデータ) (2020-11-25T20:05:23Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。