論文の概要: Extracting Algorithms in Pre-trained LLMs: A Case on Hidden Markov Models
- arxiv url: http://arxiv.org/abs/2607.22646v1
- Date: Wed, 24 Jun 2026 17:42:19 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-02 22:55:39.005106
- Title: Extracting Algorithms in Pre-trained LLMs: A Case on Hidden Markov Models
- Title（参考訳）: 事前学習LLMにおける抽出アルゴリズム:隠れマルコフモデルの場合
- Abstract要約: 大規模言語モデル(LLM)は、コンテキスト内学習(ICL)を介して隠れマルコフモデル(HMM)から次の観測を予測できる印象的な能力を示す。
我々はこのギャップを3段階のパイプラインで埋める。まず、LLMの振る舞いを一連の候補アルゴリズムと比較し、空間を3つのクラスに絞り込む。
第2に、3つのクラス間の理論的接続を導出し、トランスフォーマーによって各クラスがどのようにインコンテキストで実装できるかを示す。
第3に,モデルアクティベーションにおけるアルゴリズム信号の分離を行うレイヤワイド探索・介入法であるPrincipal Activations Probe(PAP)を導入する。
- 参考スコア（独自算出の注目度）: 12.294879009851476
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Large language models (LLMs) display a striking ability to predict next observations from Hidden Markov Models (HMMs) via in-context learning (ICL), but the algorithm underlying this capability remains undetermined: prior work has proposed several candidates without consensus, and none has been grounded in the model's internal activations. We close this gap with a three-stage pipeline. First, we empirically compare LLM behavior against a suite of candidate algorithms and narrow the space to three classes -- though no single class explains LLM behavior across all HMM settings and sequence lengths. Second, we derive theoretical connections between the three classes and show how each can be implemented in-context by a Transformer, validating the construction in a small trained Transformer. Third, returning to pre-trained LLMs, we introduce the Principal Activations Probe (PAP), a layer-wise probing and intervention method that isolates algorithmic signals in model activations. PAP reveals low-dimensional linear representations that causally drive model predictions and track empirical ICL performance. PAP further reveals how these representations shift with properties of the underlying HMM regime; distinct computational stages are localized to different layers. Together, our results connect the in-context behavior of pre-trained LLMs to the underlying internal mechanisms and advance our understanding of how LLMs perform ICL on HMMs.
- Abstract（参考訳）: 大規模言語モデル(LLM)は、コンテキスト内学習(ICL)を通じて隠れマルコフモデル(HMM)から次の観測を予測できる印象的な能力を示すが、この能力の基盤となるアルゴリズムは未決定のままである。
このギャップを3段階のパイプラインで埋めます。
まず、LLMの振る舞いを候補アルゴリズムのスイートと比較し、そのスペースを3つのクラスに絞ります。
第二に、3つのクラス間の理論的接続を導出し、それぞれが Transformer によってコンテキスト内でどのように実装できるかを示し、小さなトレーニングされた Transformer の構成を検証する。
第3に,プリミティブ・アクティベーション・プローブ (PAP) を導入し,モデルアクティベーションにおけるアルゴリズム信号の分離を行う。
PAPは、モデル予測を因果的に駆動し、経験的ICL性能を追跡する低次元線形表現を明らかにする。
PAPはさらに、これらの表現が基盤となるHMM構造の性質とどのように変化するかを明らかにし、異なる計算段階は異なる層に局所化される。
本研究の結果は,事前学習したLLMの文脈内動作と内部機構を結びつけるとともに,LLMがHMM上でICLを実行する方法の理解を深めるものである。
関連論文リスト
- Large Language Models Develop Belief State Geometry In-Context [1.6972273159174482]
大規模言語モデル (LLM) は、文脈内学習能力に優れる。
我々はこのような表現を制御された設定で考慮し、隠れマルコフモデルから出力されたデータでLLMを誘導する。
我々は、信念状態が残留ストリームの活性化から線形にデオード可能であることを発見した。
論文 参考訳（メタデータ） (2026-09-15T16:17:59Z) - Modularized Reinforcement Learning on LLMs: From MDP Creation to Exploration and Learning [65.72189367176186]
この調査はアルゴリズム構築の3段階の検証を整理する。
まず, 報酬関数, 状態空間, 行動空間, 終了条件, 割引係数をどのように定義するか, あるいは, LLMトレーニングで定義することができる。
次に、探索、温度サンプリング、エントロピー正規化、本質的な動機づけ、木探索、カリキュラム学習に目を向けます。
論文 参考訳（メタデータ） (2026-06-20T08:20:41Z) - Modular Representation Compression: Adapting LLMs for Efficient and Effective Recommendations [53.53864188270018]
大規模言語モデル(LLM)には高度なレコメンデーションシステム(RS)がある。
LLMのモジュラリティを明示的に制御するための MARC を提案する。
MARCは大規模な商用検索広告シナリオにおけるオンラインA/Bテストで2.82%のeCPMリフトを達成した。
論文 参考訳（メタデータ） (2026-04-20T12:08:58Z) - Fine-Tuning Causal LLMs for Text Classification: Embedding-Based vs. Instruction-Based Approaches [0.0]
我々は、リソース制約下での下流テキスト分類のためのLLM(Large Language Models)を微調整する戦略について検討する。
1)事前訓練した因果LLMに分類ヘッドをアタッチしてタスクを微調整し,(2)分類のためのプロンプト>応答形式でLSMを指導する,という2つの手法を検討した。
論文 参考訳（メタデータ） (2025-12-14T13:02:06Z) - Principled and Tractable RL for Reasoning with Diffusion Language Models [0.0]
拡散大言語モデル(dLLM)は、複数のトークンを並列に予測し、反復的アンマスキングによってテキストを生成するように訓練されている。
最近の研究は、DLLMを8Bスケールでの自己回帰LDMと同等に事前訓練することに成功しているが、現代のポストトレーニング技術の恩恵を受けていない。
本稿では,dLLMに特化して設計されたオンラインRLアルゴリズムであるAGRPO(Amortized Group Relative Policy Optimization)を提案する。
論文 参考訳（メタデータ） (2025-10-05T03:53:16Z) - Satori: Reinforcement Learning with Chain-of-Action-Thought Enhances LLM Reasoning via Autoregressive Search [57.28671084993782]
大規模言語モデル(LLM)は、様々な領域にまたがる顕著な推論能力を示している。
近年の研究では、テスト時間計算の増加はLLMの推論能力を高めることが示されている。
そこで我々は,1)COAT推論形式を内部化するための小規模な形式調整段階,2)強化学習を活用した大規模自己改善段階を提案する。
論文 参考訳（メタデータ） (2025-02-04T17:26:58Z) - Scaling Laws for Predicting Downstream Performance in LLMs [75.28559015477137]
この研究は、性能推定のためのより計算効率のよい指標として、事前学習損失に焦点を当てている。
FLP-Mは、事前トレーニング中に複数のソースからのデータセットを統合する実践的なニーズに対処する、パフォーマンス予測の基本的なアプローチである。
論文 参考訳（メタデータ） (2024-10-11T04:57:48Z) - An Effective Approach to Embedding Source Code by Combining Large Language and Sentence Embedding Models [6.976968804436321]
本稿では,大言語と文埋め込みモデルを組み合わせた新しいソースコード埋め込み手法を提案する。
提案手法の性能を評価するため,異なるプログラミング言語を用いた3つのデータセットについて一連の実験を行った。
論文 参考訳（メタデータ） (2024-09-23T01:03:15Z) - On the Relation between Internal Language Model and Sequence Discriminative Training for Neural Transducers [52.88268942796418]
内部言語モデル(ILM)のサブトラクションは、RNN-Transducerの性能向上に広く応用されている。
列識別訓練は, 理論的, 経験的両面からILMサブトラクションと強く相関していることを示す。
論文 参考訳（メタデータ） (2023-09-25T13:35:28Z) - Response Length Perception and Sequence Scheduling: An LLM-Empowered LLM
Inference Pipeline [22.08897444328099]
大規模言語モデル(LLM)はAIの分野に革命をもたらし、様々なタスクで前例のない能力を示している。
本稿では,LLMのパワーを利用する効率的なLLM推論パイプラインを提案する。
論文 参考訳（メタデータ） (2023-05-22T15:36:06Z) - Understanding Emergent In-Context Learning from a Kernel Regression Perspective [55.95455089638838]
大規模言語モデル(LLM)は、伝達学習のパラダイムシフトを開始した。
本稿では,LLMのICLバハビエータの理解におけるカーネル-回帰的視点を提案する。
ICL中、LLMの注意と隠れた特徴は、カーネル回帰の挙動と一致していることがわかった。
論文 参考訳（メタデータ） (2023-05-22T06:45:02Z) - LLM-Pruner: On the Structural Pruning of Large Language Models [65.02607075556742]
大規模言語モデル(LLM)は、言語理解と生成において顕著な能力を示している。
タスク非依存であり、元のトレーニングデータセットへの依存を最小限に抑えるという2つの制約の範囲内でLLMの圧縮に取り組む。
LLM-Prunerという名前のこの手法は、非臨界結合構造を選択的に除去する構造プルーニングを採用する。
論文 参考訳（メタデータ） (2023-05-19T12:10:53Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。