Parts-of-Speech as Emergent Categories in SAE Latent Space
Abstractの概要
本論文は、LLaMA-3-8Bから抽出されたSparse AutoEncoder（SAE）の潜在活性化において品詞（PoS）情報がどのように表現されているかを調査しています。著者らは英語のGUMツリーバンクと制御された評価セットを用い、トークンレベルのSAE活性化からPoSの区別が復元可能か、またそれが単一の潜在変数または潜在変数のグループに対応するかを検証しました。その結果、線形プローブによりPoSカテゴリは強力に復元可能であるものの、「1カテゴリにつき1つの潜在変数」という解釈は支持されないことが判明しました。むしろPoS情報は、カテゴリによってサイズや選択性が異なるコンパクトかつ分散した潜在グループに局在しており、オープンクラスのタグよりも多くのクローズドクラスのタグにおいてより明確なコンパクト性が確認されます。
新規性
本論文の主な新規性は、上位の活性化例や一般的なプローブ精度にとどまらず、PoSを制御された形態統語的テストベッドとして用いてSAE潜在空間をカテゴリレベルで分析した点にあります。言語カテゴリが単一の潜在特徴として出現するのか、それとも構造化されたグループとして出現するのかを特徴づけるため、復元可能性、顕著性、網羅性/コンパクト性、およびホールドアウト検証を組み合わせたパイプラインを導入しています。
成果
One-vs-restプローブにより、SAE活性化からPoSの区別が一貫して復元可能であることが示され、網羅性分析からは個々の潜在変数への1対1の対応ではなく、高い網羅率の達成にはカテゴリごとに異なる数の顕著な潜在変数が必要であることが示されました。選定された498個の潜在変数のコンパクトな結合により、SAEの完全な特徴セットに近いマルチクラスPoS分類性能が維持され、これらの潜在グループはカテゴリ間の重複が目立つもののホールドアウトデータでも高い活性を保ちます。さらに対照実験により、この効果が語彙の単なる記憶のみに還元できるものではないことが示されています。
論文の注目点
- PoS情報はSAEの活性化から高度に復元可能であるが、単一の潜在変数とカテゴリの1対1の対応ではなく、構造化された潜在変数のグループによって表現されている。
- クローズドクラスのPoSはよりコンパクトで選択的な潜在グループを持つ傾向があるのに対し、オープンクラスのPoSは語彙や文脈の多様性に関連した、より広範で重複の多い活性化パターンを示す。
- 顕著な潜在変数の小さなサブセットが強力なマルチクラスPoS予測を支えホールドアウトデータにも汎化するが、学習されたグループのカテゴリ特異性は部分的である。
参考リンク
- arXiv: https://arxiv.org/abs/2609.29362v1
- Fugu-MT: https://fugumt.com/fugumt/paper_check/2609.29362v1
- Hugging Face Papers: https://huggingface.co/papers/2609.29362
- GitHub: https://github.com/colinglab/pos-sae-latents