論文の概要: Analysis and Explainability of LLMs Via Evolutionary Methods

• arxiv url: http://arxiv.org/abs/2605.02930v1
• Date: Mon, 27 Apr 2026 18:07:58 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-06 19:35:43.50465
• Title: Analysis and Explainability of LLMs Via Evolutionary Methods
• Title（参考訳）: 進化的手法によるLLMの解析と説明可能性
• Authors: Shannon K. Gallagher, Swati Rallapalli, Tyler Brooks, Chuck Loughin, Michele Sezgin, Ronald Yurko,
• Abstract要約: 表現型に重みを関連付け,表現型にテキストを出力することにより,モデル系統の理解が向上することを示す。 ブラックボックス基礎モデルの教師なし進化木を生成する。
• 参考スコア（独自算出の注目度）: 0.5387709967970504
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: Evolutionary methods have long been useful for analysis and explanation in genetics, biology, ecology, and related fields. In this work, we extend these methods to neural networks, specifically large language models (LLMs), to better analyze and explain relationships among models. We show how relating weights to genotypes and output text to phenotypes can improve our understanding of model lineage, important datasets, the roles of different model layers, and visualization of model relationships. We demonstrate this in a controlled experiment, where our estimated evolutionary trees reliably recover the topology of the ground-truth training tree. We further identify the most important weight layers according to weight differences and show through phenotypic experiments that one training dataset appears to contribute more useful information than the others. Finally, we generate an unsupervised evolutionary tree of black-box foundation models. Throughout, we provide visualizations that support a clearer understanding of evolutionary relationships among LLMs.
• Abstract（参考訳）: 進化的手法は、遺伝学、生物学、生態学、および関連する分野の分析と説明に長い間有用であった。 本研究では、これらの手法をニューラルネットワーク、特に大規模言語モデル(LLM)に拡張し、モデル間の関係をよりよく分析し、説明する。 表現型に重みを関連付けることで,モデル階層,重要なデータセット,異なるモデル層の役割,モデル関係の可視化といった理解が向上することを示す。 我々はこれを制御された実験で示し、我々の推定した進化的木は、地上構造訓練木のトポロジーを確実に回復する。 さらに、重みの差によって最も重要な重みの層を同定し、あるトレーニングデータセットが他のものよりも有用な情報に寄与していることを示す表現型実験を通して示す。 最後に、ブラックボックス基礎モデルの教師なし進化木を生成する。 LLM間の進化的関係のより明確な理解を支援する可視化を提供する。

関連論文リスト

• Deep-learning-based pan-phenomic data reveals the explosive evolution of avian visual disparity [8.871465190908003]
  本研究では、深層学習技術を用いて鳥類の形態進化を探索する。 高次元埋め込み空間は表現型収束を符号化することを示す。 また, 平坦なラベルで訓練されているにもかかわらず, 高次元埋め込み空間に階層的意味構造が出現することを示した。
  論文  参考訳（メタデータ） (2026-02-03T18:32:15Z)
• I Predict Therefore I Am: Is Next Token Prediction Enough to Learn Human-Interpretable Concepts from Data? [76.15163242945813]
  大規模言語モデル (LLM) は、多くの人が知能の形式を示すと結論づけている。 本稿では,潜在離散変数として表現される人間解釈可能な概念に基づいてトークンを生成する新しい生成モデルを提案する。
  論文  参考訳（メタデータ） (2025-03-12T01:21:17Z)
• PhyloVAE: Unsupervised Learning of Phylogenetic Trees via Variational Autoencoders [5.505257238864315]
  PhyloVAEは、木トポロジーの表現学習と生成モデリングのために設計された教師なし学習フレームワークである。 我々は,高速で並列化されたトポロジ生成を容易にする潜伏変数生成モデルを開発した。 実験では、PhyloVAEの堅牢な表現学習能力と系統樹のトポロジーの高速生成が示されている。
  論文  参考訳（メタデータ） (2025-02-07T07:58:47Z)
• Cross-Entropy Is All You Need To Invert the Data Generating Process [29.94396019742267]
  経験的現象は、教師付きモデルが線形な方法で変化の解釈可能な要因を学習できることを示唆している。 近年の自己教師型学習の進歩により,データ生成過程を反転させることで潜在構造を復元できることが示されている。 標準分類タスクにおいても,モデルが線形変換までの変動の基底構造因子の表現を学習することが証明された。
  論文  参考訳（メタデータ） (2024-10-29T09:03:57Z)
• Learning Discrete Concepts in Latent Hierarchical Models [73.01229236386148]
  自然の高次元データから学習する概念は、ヒューマンアライメントと解釈可能な機械学習モデルの構築の可能性を秘めている。 我々は概念を階層的因果モデルを通して関連付けられた離散潜在因果変数として定式化する。 我々は、理論的な主張を合成データ実験で裏付ける。
  論文  参考訳（メタデータ） (2024-06-01T18:01:03Z)
• Neural Echos: Depthwise Convolutional Filters Replicate Biological Receptive Fields [56.69755544814834]
  哺乳類網膜で観察される生体受容野を,深部核が効果的に複製していることを示す証拠を提示する。 生体受容の分野からインスピレーションを得る手法を提案する。
  論文  参考訳（メタデータ） (2024-01-18T18:06:22Z)
• Tertiary Lymphoid Structures Generation through Graph-based Diffusion [54.37503714313661]
  本研究では,最先端のグラフベース拡散モデルを用いて生物学的に意味のある細胞グラフを生成する。 本研究では, グラフ拡散モデルを用いて, 3次リンパ構造(TLS)の分布を正確に学習できることを示す。
  論文  参考訳（メタデータ） (2023-10-10T14:37:17Z)
• Unsupervised ensemble-based phenotyping helps enhance the discoverability of genes related to heart morphology [57.25098075813054]
  我々はUn Phenotype Ensemblesという名の遺伝子発見のための新しいフレームワークを提案する。 教師なしの方法で学習された表現型のセットをプールすることで、冗長だが非常に表現性の高い表現を構築する。 これらの表現型は、(GWAS)を介して分析され、高い自信と安定した関連のみを保持する。
  論文  参考訳（メタデータ） (2023-01-07T18:36:44Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。