論文の概要: Locating Information in Large Language Models via Random Matrix Theory

• arxiv url: http://arxiv.org/abs/2410.17770v1
• Date: Wed, 23 Oct 2024 11:19:08 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-10-24 13:54:40.601503
• Title: Locating Information in Large Language Models via Random Matrix Theory
• Title（参考訳）: ランダム行列理論による大規模言語モデルにおける位置情報
• Authors: Max Staats, Matthias Thamm, Bernd Rosenow,
• Abstract要約: 我々は,事前学習した変換器モデルBERTとLlamaの重量行列を解析した。 訓練後に偏差が出現し モデル内の学習された構造が特定できます その結果、微調整後、小さな特異値がモデルの能力に重要な役割を果たすことが明らかとなった。
• 参考スコア（独自算出の注目度）: 0.0
• License:
• Abstract: As large language models (LLMs) become central to AI applications, gaining a deeper understanding of their inner workings is increasingly important. In this work, we analyze the weight matrices of pretrained transformer models -- specifically BERT and Llama -- using random matrix theory (RMT) as a zero-information hypothesis. While randomly initialized weights perfectly agree with RMT predictions, deviations emerge after training, allowing us to locate learned structures within the models. We identify layer-type specific behaviors that are consistent across all blocks and architectures considered. By pinpointing regions that deviate from RMT predictions, we highlight areas of feature learning and confirm this through comparisons with the activation covariance matrices of the corresponding layers. Our method provides a diagnostic tool for identifying relevant regions in transformer weights using only the trained matrices. Additionally, we address the ongoing debate regarding the significance of small singular values in the context of fine-tuning and alignment in LLMs. Our findings reveal that, after fine-tuning, small singular values play a crucial role in the models' capabilities, suggesting that removing them in an already aligned transformer can be detrimental, as it may compromise model alignment.
• Abstract（参考訳）: 大規模言語モデル(LLM)がAIアプリケーションの中心となるにつれ、内部の動作をより深く理解することがますます重要である。 本研究では、ゼロ情報仮説としてランダム行列理論(RMT)を用いて、事前学習された変圧器モデル(特にBERTとLlama)の重量行列を解析する。 ランダムに初期化された重みはRTT予測に完全に一致するが、トレーニング後に偏差が生じ、モデル内で学習された構造を見つけることができる。 考慮されたすべてのブロックやアーキテクチャで一貫した層タイプ固有の振る舞いを特定します。 RMT予測から逸脱する領域をピンポイントすることで、特徴学習の領域を強調し、対応する層の活性化共分散行列との比較によりこれを確認する。 本手法は, トレーニングした行列のみを用いて, 変圧器重量の関連領域を同定する診断ツールを提供する。 さらに,LLMにおける微調整やアライメントの文脈において,小さな特異値の重要性に関する議論が続いている。 我々の研究結果は、微調整後、モデルの能力において小さな特異値が重要な役割を果たすことを示し、モデルアライメントを損なう可能性があるため、既に整列したトランスフォーマーでそれらを除去することは有害であることを示した。

関連論文リスト

• Unveiling Induction Heads: Provable Training Dynamics and Feature Learning in Transformers [54.20763128054692]
  我々は,2層変換器が$n$-gramのマルコフ連鎖データ上でICLを実行するためにどのように訓練されているかを検討する。 クロスエントロピー ICL 損失に対する勾配流が極限モデルに収束することを証明する。
  論文  参考訳（メタデータ） (2024-09-09T18:10:26Z)
• Transformers are Minimax Optimal Nonparametric In-Context Learners [36.291980654891496]
  大規模言語モデルのコンテキスト内学習は、いくつかの実証的な例から新しいタスクを学ぶのに驚くほど効果的な方法であることが証明されている。 我々は,ディープニューラルネットワークと1つの線形アテンション層からなる変圧器の近似および一般化誤差境界を開発する。 十分に訓練されたトランスフォーマーは、文脈における最小推定リスクを達成し、改善できることを示す。
  論文  参考訳（メタデータ） (2024-08-22T08:02:10Z)
• Weakly supervised covariance matrices alignment through Stiefel matrices estimation for MEG applications [64.20396555814513]
  本稿では,Mixing Model Stiefel Adaptation (MSA)と呼ばれる時系列データに対する新しいドメイン適応手法を提案する。 我々は、ドメイン間の等価な信号分散とペアの対応を確立することにより、ターゲット領域における豊富なラベルのないデータを利用して効果的な予測を行う。 MSAは、Cam-CANデータセットのMEG信号を用いて、タスクの変動を伴う脳年齢回帰の最近の手法より優れている。
  論文  参考訳（メタデータ） (2024-01-24T19:04:49Z)
• Unleashing the Power of Pre-trained Language Models for Offline Reinforcement Learning [54.682106515794864]
  オフライン強化学習(RL)は、事前コンパイルされたデータセットを使用して、ほぼ最適ポリシーを見つけることを目的としている。 本稿では、オフラインRLに事前学習言語モデル(LM)を使用するための決定変換器に基づく一般的なフレームワークである、$textbfMo$tion Control用の$textbfLanguage Models(textbfLaMo$)を紹介する。 経験的な結果から、$textbfLaMo$はスパース・リワードタスクで最先端のパフォーマンスを達成する。
  論文  参考訳（メタデータ） (2023-10-31T16:24:17Z)
• Large-scale gradient-based training of Mixtures of Factor Analyzers [67.21722742907981]
  本稿では,勾配降下による高次元学習を効果的に行うための理論解析と新しい手法の両立に寄与する。 MFAトレーニングと推論/サンプリングは,学習終了後の行列逆変換を必要としない精度行列に基づいて行うことができることを示す。 理論解析と行列の他に,SVHNやMNISTなどの画像データセットにMFAを適用し,サンプル生成と外乱検出を行う能力を示す。
  論文  参考訳（メタデータ） (2023-08-26T06:12:33Z)
• Disentanglement via Latent Quantization [60.37109712033694]
  本研究では,組織化された潜在空間からの符号化と復号化に向けた帰納的バイアスを構築する。 本稿では,基本データレコーダ (vanilla autoencoder) と潜時再構成 (InfoGAN) 生成モデルの両方に追加することで,このアプローチの広範な適用性を実証する。
  論文  参考訳（メタデータ） (2023-05-28T06:30:29Z)
• Fitting a Directional Microstructure Model to Diffusion-Relaxation MRI Data with Self-Supervised Machine Learning [2.8167227950959206]
  教師付き学習の魅力的な代替手段として、自己教師型機械学習が登場している。 本稿では,指向性マイクロ構造モデルに適用可能な自己教師型機械学習モデルを実証する。 提案手法は, パラメータ推定と計算時間において, 通常の非線形最小二乗整合と比較して明らかに改善されている。
  論文  参考訳（メタデータ） (2022-10-05T15:51:39Z)
• CNN-based Realized Covariance Matrix Forecasting [0.0]
  本稿では,CNN と Conal LSTM (ConvLSTM) を用いたエンドツーエンドトレーニングモデルを提案する。 局所構造と相関に焦点をあて、歴史的に実現された共分散行列と将来の行列を結びつける非線形写像を学ぶ。 人工的および実世界のデータセットに関する実証研究は、いくつかの高度なボラティリティモデルと比較して優れた予測能力を示している。
  論文  参考訳（メタデータ） (2021-07-22T12:02:24Z)
• FLAMBE: Structural Complexity and Representation Learning of Low Rank MDPs [53.710405006523274]
  この研究は、表現学習の問題に焦点を当てている。 基礎となる(未知の)力学が低階遷移行列に対応するという仮定の下で、表現学習問題と特定の非線形行列分解問題との関連性を示す。 低階遷移モデルにおけるRLの探索と表現学習を行うFLAMBEを開発した。
  論文  参考訳（メタデータ） (2020-06-18T19:11:18Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。