論文の概要: Automated Attention Pattern Discovery at Scale in Large Language Models

• arxiv url: http://arxiv.org/abs/2604.03764v1
• Date: Sat, 04 Apr 2026 15:32:25 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-07 15:49:18.757839
• Title: Automated Attention Pattern Discovery at Scale in Large Language Models
• Title（参考訳）: 大規模言語モデルにおける大規模注意パターンの自動発見
• Authors: Jonathan Katzy, Razvan-Mihai Popescu, Erik Mekkes, Arie van Deursen, Maliheh Izadi,
• Abstract要約: Javaコードデータセットの完了シナリオをマイニングすることで,大規模言語モデルにおける繰り返し動作について検討する。 マスクされた注意パターンを効率的に再構成する視覚変換器を用いたモデルであるAP-MAE(Attention Pattern - Masked Autoencoder)を紹介する。
• 参考スコア（独自算出の注目度）: 13.589024367220198
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Large language models have found success by scaling up capabilities to work in general settings. The same can unfortunately not be said for interpretability methods. The current trend in mechanistic interpretability is to provide precise explanations of specific behaviors in controlled settings. These often do not generalize, or are too resource intensive for larger studies. In this work we propose to study repeated behaviors in large language models by mining completion scenarios in Java code datasets, through exploiting the structured nature of code. We collect the attention patterns generated in the attention heads to demonstrate that they are scalable signals for global interpretability of model components. We show that vision models offer a promising direction for analyzing attention patterns at scale. To demonstrate this, we introduce the Attention Pattern - Masked Autoencoder(AP-MAE), a vision transformer-based model that efficiently reconstructs masked attention patterns. Experiments on StarCoder2 show that AP-MAE (i) reconstructs masked attention patterns with high accuracy, (ii) generalizes across unseen models with minimal degradation, (iii) reveals recurring patterns across inferences, (iv) predicts whether a generation will be correct without access to ground truth, with accuracies ranging from 55% to 70% depending on the task, and (v) enables targeted interventions that increase accuracy by 13.6% when applied selectively, but cause collapse when applied excessively. These results establish attention patterns as a scalable signal for interpretability and demonstrate that AP-MAE provides a transferable foundation for both analysis and intervention in large language models. Beyond its standalone value, AP-MAE also serves as a selection procedure to guide fine-grained mechanistic approaches. We release code and models to support future work in large-scale interpretability.
• Abstract（参考訳）: 大規模な言語モデルでは、一般的な設定で機能する能力のスケールアップが成功している。 残念ながら、解釈可能性の方法については、同じことは言えない。 機械的解釈可能性の現在の傾向は、制御された設定における特定の振る舞いの正確な説明を提供することである。 これらはしばしば一般化されないか、より大規模な研究には資源が集中的すぎる。 本研究では,Java コードデータセットの補完シナリオをマイニングし,構造化されたコードの性質を活用することで,大規模言語モデルにおける繰り返し動作を研究することを提案する。 我々は、注目ヘッドで生成された注意パターンを収集し、それらがモデルコンポーネントのグローバルな解釈可能性のためのスケーラブルな信号であることを実証する。 視覚モデルは、大規模に注意パターンを解析するための有望な方向を提供することを示す。 これを示すために,マスクされた注意パターンを効率的に再構築する視覚トランスフォーマーモデルであるAttention Pattern - Masked Autoencoder (AP-MAE)を紹介した。 StarCoder2の実験で、AP-MAEが証明された 一 隠された注意図柄を高精度に復元すること。 (ii)最小劣化の未確認モデルにまたがって一般化する。 (三)推測にまたがる繰り返しのパターンを明らかにすること。 (四)課題に応じて55%から70%の精度で、真理によらずに世代が正しいかどうかを予測し、 (v)により、選択的に適用すると精度が13.6%向上するが、過度に適用すると崩壊する。 これらの結果は,解釈可能性のスケーラブルな信号として注目パターンを確立し,AP-MAEが大規模言語モデルにおける解析と介入の両面において,伝達可能な基盤を提供することを示す。 スタンドアロンの値以外にも、AP-MAEはきめ細かい機械的アプローチを導くための選択手順としても機能する。 大規模な解釈可能性で将来の作業をサポートするためのコードとモデルをリリースします。

関連論文リスト

• Diagnosing Generalization Failures from Representational Geometry Markers [8.403001493770427]
  医用バイオマーカーにインスパイアされた一般化失敗について検討する。 我々は,ネットワークマーカーを設計,テストし,構造や機能リンクの探索,予後指標の同定,実環境における予測の検証を行う。 この研究は、表現幾何学が隠れた脆弱性を隠蔽し、モデル選択とAI解釈可能性に関するより堅牢なガイダンスを提供することを示した。
  論文  参考訳（メタデータ） (2026-03-02T13:59:19Z)
• Every Step Counts: Decoding Trajectories as Authorship Fingerprints of dLLMs [63.82840470917859]
  本稿では,dLLMの復号化機構をモデル属性の強力なツールとして利用できることを示す。 本稿では、デコードステップ間の構造的関係を捉え、モデル固有の振る舞いをよりよく明らかにする、DDM(Directed Decoding Map)と呼ばれる新しい情報抽出手法を提案する。
  論文  参考訳（メタデータ） (2025-10-02T06:25:10Z)
• Predicting the Performance of Black-box LLMs through Self-Queries [60.87193950962585]
  大規模言語モデル(LLM)は、AIシステムにおいてますます頼りになってきている。 本稿では、フォローアッププロンプトを使用し、異なる応答の確率を表現として捉え、ブラックボックス方式でLCMの特徴を抽出する。 これらの低次元表現上で線形モデルをトレーニングすると、インスタンスレベルでのモデル性能の信頼性を予測できることを示す。
  論文  参考訳（メタデータ） (2025-01-02T22:26:54Z)
• Unsupervised Model Diagnosis [49.36194740479798]
  本稿では,ユーザガイドを使わずに,意味論的対実的説明を生成するために,Unsupervised Model Diagnosis (UMO)を提案する。 提案手法は意味論における変化を特定し可視化し,その変化を広範囲なテキストソースの属性と照合する。
  論文  参考訳（メタデータ） (2024-10-08T17:59:03Z)
• Data-efficient Large Vision Models through Sequential Autoregression [58.26179273091461]
  限られたデータセットに基づいて,効率的な自己回帰に基づく視覚モデルを構築する。 このモデルは,高レベル・低レベルのセマンティック理解の両方にまたがる視覚的タスクにおいて,その習熟度をいかに達成するかを実証する。 我々の経験的評価は、モデルが様々なタスクに適応する際の機敏さを強調し、パラメータフットプリントの大幅な削減を図った。
  論文  参考訳（メタデータ） (2024-02-07T13:41:53Z)
• Copilot4D: Learning Unsupervised World Models for Autonomous Driving via Discrete Diffusion [36.321494200830244]
  Copilot4Dは、まずVQVAEでセンサ観測をトークン化し、次に離散拡散によって未来を予測する新しい世界モデリング手法である。 本研究は,ロボット工学におけるGPTのような非教師なし学習のパワーを,トークン化エージェント体験における離散拡散によって解き放つことを示す。
  論文  参考訳（メタデータ） (2023-11-02T06:21:56Z)
• SparseBERT: Rethinking the Importance Analysis in Self-attention [107.68072039537311]
  トランスフォーマーベースのモデルは、その強力な能力のために自然言語処理(NLP)タスクに人気がある。 事前学習モデルの注意マップの可視化は,自己着脱機構を理解するための直接的な方法の一つである。 本研究では,sparsebert設計の指導にも適用可能な微分可能アテンションマスク(dam)アルゴリズムを提案する。
  論文  参考訳（メタデータ） (2021-02-25T14:13:44Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。