論文の概要: DeepThink: A Conceptual Model for Knowledge-Addressable Recurrent Language Modeling
- arxiv url: http://arxiv.org/abs/2610.16171v1
- Date: Mon, 12 Oct 2026 04:45:53 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-19 07:14:04.420487
- Title: DeepThink: A Conceptual Model for Knowledge-Addressable Recurrent Language Modeling
- Title(参考訳): DeepThink: 知識適応型リカレント言語モデリングの概念モデル
- Abstract要約: DeepThinkは、リカレント言語モデリングのための知識順応可能なフレームワークである。
我々は,状態に依存した選択,パラメータ空間の組立,思考など,インターフェースとその実行セマンティクスを形式化する。
条件計算、リカレントモデル、モジュールパラメータ、知識インターフェースの合成は、DeepThinkを研究ランドスケープ内に配置する。
- 参考スコア(独自算出の注目度): 1.7074495233052536
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: This manuscript presents DeepThink, a knowledge-addressable framework for recurrent language modeling. A Knowledge Bank stores typed Knowledge Units, a Knowledge Activator selects units from the current execution state, Knowledge Assembly produces an executable configuration, and a Shared Thinking Operator updates that state. An output stage then organizes generation. This organization exposes knowledge capacity, activation width, and recurrent depth as separate design variables, supporting both complete parameter packages and fine-grained expert or low-rank modules. We formalize the interfaces and their execution semantics, including state-dependent selection, parameter-space assembly, and thinking followed by generation. For compatible templates and complete runtime-state configurations, we establish an exact Fixed-Schedule Realization of an existing fixed-depth model. Exact shared-base reparameterization and pretrained output-tail reuse provide complementary initialization constructions. Together, these results define a route from pretrained models to dynamically selected and assembled recurrent computation. A synthesis of conditional computation, recurrent models, modular parameters, and knowledge interfaces positions DeepThink within the research landscape and identifies the design questions arising from their integration.
- Abstract(参考訳): この原稿は、リカレント言語モデリングのための知識順応可能なフレームワークであるDeepThinkを紹介している。
知識銀行は型付き知識単位を格納し、知識アクティベーターは現在の実行状態から単位を選択し、知識アセンブリは実行可能な構成を生成し、共有思考オペレータはその状態を更新する。
その後、出力ステージが生成を整理する。
この組織は、知識容量、アクティベーション幅、再帰深さを別々の設計変数として公開し、完全なパラメータパッケージと、きめ細かい専門家または低ランクのモジュールの両方をサポートする。
我々は,状態に依存した選択,パラメータ空間の組立,思考など,インターフェースとその実行セマンティクスを形式化する。
互換性のあるテンプレートと完全なランタイム状態設定のために、我々は既存の固定深度モデルの正確な固定スケジュール実現を確立する。
厳密な共有ベース再パラメータ化と事前訓練されたアウトプットテール再利用は相補的な初期化構造を提供する。
これらの結果は、事前訓練されたモデルから動的に選択され、組み立てられた繰り返し計算へのルートを定義する。
条件計算、リカレントモデル、モジュールパラメータ、知識インターフェースの合成は、DeepThinkを研究ランドスケープ内に配置し、それらの統合から生じる設計上の問題を特定する。
関連論文リスト
- Improving the Understandability of Conceptual Models via Abstract Notation Engineering [1.513674779059522]
低レベルで意味論的に透過的な構成を置き換える言語に依存しない手法として,抽象表記工学を提案する。
一般的なワークフローパターンが精巧な低レベル設定を必要とする場合、動的条件応答(DCR)グラフのためにインスタンス化します。
実証検証の結果,DeCleaRは標準的なDCRグラフよりも経験的品質,実用的品質,ユーザの嗜好を向上することがわかった。
論文 参考訳(メタデータ) (2026-07-31T15:43:34Z) - Knowledge-Centric Agents for Workflow Generation [73.4340391112949]
複数の抽象化レベルにわたる知識を逆転させ、注入し、推論することを学ぶ知識中心のフレームワークを提案する。
提案手法は,ノードの多様性,コヒーレントな構造,既存システムよりも高い実行成功率で生成する。
論文 参考訳(メタデータ) (2026-07-17T11:03:01Z) - Consistency-Aware Editing for Entity-level Unlearning in Language Models [53.522931419965424]
本稿では,エンティティレベルのアンラーニングのための新しい一貫性対応編集(CAE)フレームワークを提案する。
CAEは、その属性、関係、および敵のパラフレーズを含む、ターゲットエンティティに関連する多様なプロンプトの集合を集約する。
次に、一貫性レギュレータによってガイドされる低ランクの更新を共同で学習し、プロンプトをまたいだ編集方向を調整する。
論文 参考訳(メタデータ) (2025-12-19T15:18:07Z) - CountFormer: A Transformer Framework for Learning Visual Repetition and Structure in Class-Agnostic Object Counting [0.0]
人間は、クラスアイデンティティに頼るのではなく、視覚的反復と構造的関係を知覚することで、多種多様な物体を努力せずに数えることができる。
本研究では,クラスに依存しないオブジェクトカウントのための繰り返しと構造的コヒーレンスを認識することを学ぶトランスフォーマーベースのフレームワークであるCountFormerを紹介する。
論文 参考訳(メタデータ) (2025-10-27T19:16:02Z) - Unitxt: Flexible, Shareable and Reusable Data Preparation and Evaluation
for Generative AI [15.220987187105607]
Unitxtは、生成言語モデルに適した、カスタマイズ可能なテキストデータ準備と評価のための革新的なライブラリである。
UnitxtはHFaceやLM-eval-harnessといった一般的なライブラリと統合されており、実践者間のカスタマイズや共有が容易である。
Unitxtは、ツール以外にも、コミュニティ主導のプラットフォームで、ユーザがパイプラインを構築し、共有し、前進することを可能にする。
論文 参考訳(メタデータ) (2024-01-25T08:57:33Z) - Modular Deep Learning [120.36599591042908]
トランスファーラーニングは近年、機械学習の主要なパラダイムとなっている。
負の干渉を伴わずに複数のタスクを専門とするモデルを開発する方法はまだ不明である。
これらの課題に対する有望な解決策として、モジュール型ディープラーニングが登場した。
論文 参考訳(メタデータ) (2023-02-22T18:11:25Z) - Model LEGO: Creating Models Like Disassembling and Assembling Building Blocks [53.09649785009528]
本稿では,新しいモデルを得るためのトレーニングを必要としないパラダイムについて検討する。
生体視覚系における受容野にインスパイアされたCNNの誕生と同様、モデル分解と組み立てを提案する。
モデル組立には、特定のタスクに適した新しいモデルを構築するために、アライメントパディング戦略とパラメータスケーリング戦略を提案する。
論文 参考訳(メタデータ) (2022-03-25T05:27:28Z) - Text Modular Networks: Learning to Decompose Tasks in the Language of
Existing Models [61.480085460269514]
本稿では,既存のモデルで解けるより単純なモデルに分解することで,複雑なタスクを解くための解釈可能なシステムを構築するためのフレームワークを提案する。
我々はこのフレームワークを用いて、ニューラルネットワークのファクトイド単一スパンQAモデルとシンボリック電卓で答えられるサブクエストに分解することで、マルチホップ推論問題に答えられるシステムであるModularQAを構築する。
論文 参考訳(メタデータ) (2020-09-01T23:45:42Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。