論文の概要: Locating Information in Large Language Models via Random Matrix Theory

• arxiv url: http://arxiv.org/abs/2410.17770v1
• Date: Wed, 23 Oct 2024 11:19:08 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-10-24 13:54:40.601503
• Title: Locating Information in Large Language Models via Random Matrix Theory
• Title（参考訳）: ランダム行列理論による大規模言語モデルにおける位置情報
• Authors: Max Staats, Matthias Thamm, Bernd Rosenow,
• Abstract要約: 我々は,事前学習した変換器モデルBERTとLlamaの重量行列を解析した。 訓練後に偏差が出現し モデル内の学習された構造が特定できます その結果、微調整後、小さな特異値がモデルの能力に重要な役割を果たすことが明らかとなった。
• 参考スコア（独自算出の注目度）: 0.0
• License:
• Abstract: As large language models (LLMs) become central to AI applications, gaining a deeper understanding of their inner workings is increasingly important. In this work, we analyze the weight matrices of pretrained transformer models -- specifically BERT and Llama -- using random matrix theory (RMT) as a zero-information hypothesis. While randomly initialized weights perfectly agree with RMT predictions, deviations emerge after training, allowing us to locate learned structures within the models. We identify layer-type specific behaviors that are consistent across all blocks and architectures considered. By pinpointing regions that deviate from RMT predictions, we highlight areas of feature learning and confirm this through comparisons with the activation covariance matrices of the corresponding layers. Our method provides a diagnostic tool for identifying relevant regions in transformer weights using only the trained matrices. Additionally, we address the ongoing debate regarding the significance of small singular values in the context of fine-tuning and alignment in LLMs. Our findings reveal that, after fine-tuning, small singular values play a crucial role in the models' capabilities, suggesting that removing them in an already aligned transformer can be detrimental, as it may compromise model alignment.
• Abstract（参考訳）: 大規模言語モデル(LLM)がAIアプリケーションの中心となるにつれ、内部の動作をより深く理解することがますます重要である。 本研究では、ゼロ情報仮説としてランダム行列理論(RMT)を用いて、事前学習された変圧器モデル(特にBERTとLlama)の重量行列を解析する。 ランダムに初期化された重みはRTT予測に完全に一致するが、トレーニング後に偏差が生じ、モデル内で学習された構造を見つけることができる。 考慮されたすべてのブロックやアーキテクチャで一貫した層タイプ固有の振る舞いを特定します。 RMT予測から逸脱する領域をピンポイントすることで、特徴学習の領域を強調し、対応する層の活性化共分散行列との比較によりこれを確認する。 本手法は, トレーニングした行列のみを用いて, 変圧器重量の関連領域を同定する診断ツールを提供する。 さらに,LLMにおける微調整やアライメントの文脈において,小さな特異値の重要性に関する議論が続いている。 我々の研究結果は、微調整後、モデルの能力において小さな特異値が重要な役割を果たすことを示し、モデルアライメントを損なう可能性があるため、既に整列したトランスフォーマーでそれらを除去することは有害であることを示した。

関連論文リスト

• Demystifying Singular Defects in Large Language Models [61.98878352956125]
  大規模言語モデル(LLM)では、ハイノームトークンの根本原因は未解明のままである。 理論的な洞察と経験的検証の両方を、近年のモデルで提供します。 量子化方式の改良とLCMシグネチャの設計の2つの実用的応用について述べる。
  論文  参考訳（メタデータ） (2025-02-10T20:09:16Z)
• Low-Rank Matrix Factorizations with Volume-based Constraints and Regularizations [2.6687460222685226]
  この論文は、解釈可能性と特異性を高めるために設計されたボリュームベースの制約と正規化に焦点を当てている。 ブラインドソース分離やデータ計算の欠如といったアプリケーションによって動機付けられたこの論文は、効率的なアルゴリズムも提案している。
  論文  参考訳（メタデータ） (2024-12-09T10:58:23Z)
• Reducing the Transformer Architecture to a Minimum [5.352839075466439]
  トランスフォーマーは、特に自然言語処理(NLP)とコンピュータビジョン(CV)において、広く成功しているモデルアーキテクチャである。 注意機構自体は、その内部的な類似度測定によって非線形である。 MNISTとCIFAR-10という,広範なCVベンチマークを試験して,その基盤を築き上げた。
  論文  参考訳（メタデータ） (2024-10-17T16:36:14Z)
• Entrywise error bounds for low-rank approximations of kernel matrices [55.524284152242096]
  切り抜き固有分解を用いて得られたカーネル行列の低ランク近似に対するエントリーワイド誤差境界を導出する。 重要な技術的革新は、小さな固有値に対応するカーネル行列の固有ベクトルの非局在化結果である。 我々は、合成および実世界のデータセットの集合に関する実証的研究により、我々の理論を検証した。
  論文  参考訳（メタデータ） (2024-05-23T12:26:25Z)
• Implicit Regularization of Gradient Flow on One-Layer Softmax Attention [10.060496091806694]
  一層ソフトマックスアテンションモデルを用いた分類問題に対する指数損失の勾配流について検討した。 データ上の分離性仮定では、勾配流が最小損失値を達成すると、鍵とクエリの重み行列の積の核ノルムを暗黙的に最小化する。
  論文  参考訳（メタデータ） (2024-03-13T17:02:27Z)
• Large-scale gradient-based training of Mixtures of Factor Analyzers [67.21722742907981]
  本稿では,勾配降下による高次元学習を効果的に行うための理論解析と新しい手法の両立に寄与する。 MFAトレーニングと推論/サンプリングは,学習終了後の行列逆変換を必要としない精度行列に基づいて行うことができることを示す。 理論解析と行列の他に,SVHNやMNISTなどの画像データセットにMFAを適用し,サンプル生成と外乱検出を行う能力を示す。
  論文  参考訳（メタデータ） (2023-08-26T06:12:33Z)
• Disentanglement via Latent Quantization [60.37109712033694]
  本研究では,組織化された潜在空間からの符号化と復号化に向けた帰納的バイアスを構築する。 本稿では,基本データレコーダ (vanilla autoencoder) と潜時再構成 (InfoGAN) 生成モデルの両方に追加することで,このアプローチの広範な適用性を実証する。
  論文  参考訳（メタデータ） (2023-05-28T06:30:29Z)
• Random matrix analysis of deep neural network weight matrices [0.0]
  ランダム行列理論(RMT)を用いた訓練深層ニューラルネットワークの重み行列について検討する。 特異値の大半の統計は普遍的なRTT予測に従うことを示す。 これは、それらはランダムであり、システム固有の情報を含んでいないことを示唆している。
  論文  参考訳（メタデータ） (2022-03-28T11:22:12Z)
• SparseBERT: Rethinking the Importance Analysis in Self-attention [107.68072039537311]
  トランスフォーマーベースのモデルは、その強力な能力のために自然言語処理(NLP)タスクに人気がある。 事前学習モデルの注意マップの可視化は,自己着脱機構を理解するための直接的な方法の一つである。 本研究では,sparsebert設計の指導にも適用可能な微分可能アテンションマスク(dam)アルゴリズムを提案する。
  論文  参考訳（メタデータ） (2021-02-25T14:13:44Z)
• Sparse Quantized Spectral Clustering [85.77233010209368]
  このような非線形変換の下で行列の固有スペクトルがどのように変化するのかを、ランダム行列理論のツールを用いて正確に述べる。 急激なスペーシング/量子化の下でも,情報的固有構造にはほとんど変化は見られなかった。
  論文  参考訳（メタデータ） (2020-10-03T15:58:07Z)
• Efficient MCMC Sampling for Bayesian Matrix Factorization by Breaking Posterior Symmetries [1.3858051019755282]
  本稿では、これらの対称性を確実に破り、精度を維持/改善する事前選択に対する簡単な修正を提案する。 非ゼロ線形独立先行手段を用いることで,MCMC試料の自己相関が著しく低下し,再建誤差の低減につながる可能性が示唆された。
  論文  参考訳（メタデータ） (2020-06-08T00:25:48Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。