論文の概要: Qwen-Scope: Turning Sparse Features into Development Tools for Large Language Models

• arxiv url: http://arxiv.org/abs/2605.11887v1
• Date: Tue, 12 May 2026 10:01:06 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-13 21:48:56.783689
• Title: Qwen-Scope: Turning Sparse Features into Development Tools for Large Language Models
• Title（参考訳）: Qwen-Scope: スパース機能を大規模言語モデルの開発ツールに変える
• Authors: Boyi Deng, Xu Wang, Yaoning Wang, Yu Wan, Yubo Ma, Baosong Yang, Haoran Wei, Jialong Tang, Huan Lin, Ruize Gao, Tianhao Li, Qian Cao, Xuancheng Ren, Xiaodong Deng, An Yang, Fei Huang, Dayiheng Liu, Jingren Zhou,
• Abstract要約: 我々はQwenモデルファミリ上に構築されたスパースオートエンコーダ(SAE)のオープンソーススイートであるQwen-Scopeを紹介する。 SAEはポストホック解析を超越して,4方向のモデル開発のための実用的なインターフェースとして機能することを示す。
• 参考スコア（独自算出の注目度）: 80.45129499188461
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Large language models have achieved remarkable capabilities across diverse tasks, yet their internal decision-making processes remain largely opaque, limiting our ability to inspect, control, and systematically improve them. This opacity motivates a growing body of research in mechanistic interpretability, with sparse autoencoders (SAEs) emerging as one of the most promising tools for decomposing model activations into sparse, interpretable feature representations. We introduce Qwen-Scope, an open-source suite of SAEs built on the Qwen model family, comprising 14 groups of SAEs across 7 model variants from the Qwen3 and Qwen3.5 series, covering both dense and mixture-of-expert architectures. Built on top of these SAEs, we show that SAEs can go beyond post-hoc analysis to serve as practical interfaces for model development along four directions: (i) inference-time steering, where SAE feature directions control language, concepts, and preferences without modifying model weights; (ii) evaluation analysis, where activated SAE features provide a representation-level proxy for benchmark redundancy and capability coverage; (iii) data-centric workflows, where SAE features support multilingual toxicity classification and safety-oriented data synthesis; and (iv) post-training optimization, where SAE-derived signals are incorporated into supervised fine-tuning and reinforcement learning objectives to mitigate undesirable behaviors such as code-switching and repetition. Together, these results demonstrate that SAEs can serve not only as post-hoc analysis tools, but also as reusable representation-level interfaces for diagnosing, controlling, evaluating, and improving large language models. By open-sourcing Qwen-Scope, we aim to support mechanistic research and accelerate practical workflows that connect model internals to downstream behavior.
• Abstract（参考訳）: 大規模な言語モデルは様々なタスクにまたがって目覚ましい機能を達成したが、その内部決定プロセスはほとんど不透明であり、検査、制御、体系的に改善する能力を制限する。 この不透明さは、スパースオートエンコーダ(SAE)がモデルアクティベーションをスパースで解釈可能な特徴表現に分解する最も有望なツールの1つとして登場し、機械論的解釈可能性に関する研究の活発化を動機付けている。 Qwen 3 と Qwen3.5 シリーズの 7 つのモデル変種にまたがる SAE の14 グループからなる,Qwen モデルファミリ上に構築されたオープンソースの SAE スイート Qwen-Scope を紹介する。 これらのSAEの上に構築されたSAEは、ポストホック分析を超越して、4方向のモデル開発のための実践的なインターフェースとして機能することを示します。 一 モデル重みを変更することなく、言語、概念、嗜好を指示する推論時ステアリング (ii)SAE機能がベンチマーク冗長性と機能カバレッジを表現レベルプロキシとして提供する評価分析。 三)多言語毒性分類と安全指向データ合成をサポートするデータ中心ワークフロー (4) 学習後最適化において,SAE由来の信号が教師付き微調整および強化学習の目的に組み込まれ,コードスイッチや繰り返しなどの望ましくない行動を緩和する。 これらの結果は、SAEがポストホック解析ツールとしてだけでなく、大規模言語モデルの診断、制御、評価、改善のための再利用可能な表現レベルインターフェースとしても機能することを示した。 Qwen-Scopeをオープンソース化することで、メカニスティックな研究を支援し、モデル内部と下流動作を接続する実用的なワークフローを加速することを目指している。

関連論文リスト

• From Insight to Action: A Novel Framework for Interpretability-Guided Data Selection in Large Language Models [73.72877445629383]
  Interpretability-Guided Data Selection (IGDS) は、まず周波数リコールと干渉フィルタリングによって因果タスクの特徴を識別するフレームワークである。 我々は,数学的推論,要約,翻訳タスクに関するIGDSをGemma-2,LLaMA-3.1,Qwen3モデルで検証する。
  論文  参考訳（メタデータ） (2026-04-28T03:16:24Z)
• From Passive Metric to Active Signal: The Evolving Role of Uncertainty Quantification in Large Language Models [77.04403907729738]
  このサーベイは、受動的診断基準からリアルタイムモデル動作を導くアクティブ制御信号への不確実性の進化をグラフ化する。 3つのフロンティアにまたがるアクティブ制御信号として不確実性がいかに活用されているかを示す。 この調査は、次世代のスケーラブルで信頼性があり、信頼できるAIを構築するためには、新しい不確実性のトレンドを習得することが不可欠である、と論じている。
  論文  参考訳（メタデータ） (2026-01-22T06:21:31Z)
• Mechanistic Interpretability of Antibody Language Models Using SAEs [1.7218681244575125]
  我々は、大規模タンパク質言語モデルにおける学習概念の洞察を提供するために、パースオートエンコーダ(SAE)を採用している。 TopK SAEは生物学的に有意義な潜伏特性を明らかにすることができるが、高次概念相関は生成に対する因果制御を保証しない。 命令されたSAEは階層構造を課し、ステアブルな特徴を確実に識別するが、より複雑で解釈不能なアクティベーションパターンを犠牲にしている。
  論文  参考訳（メタデータ） (2025-12-05T15:18:50Z)
• ProtSAE: Disentangling and Interpreting Protein Language Models via Semantically-Guided Sparse Autoencoders [30.219733023958188]
  Sparse Autoencoder (SAE) は、大規模言語モデルの機械的解釈可能性のための強力なツールとして登場した。 ProtSAEと呼ばれる意味誘導型SAEを提案する。 ProtSAEは,従来の方法と比較して,生物学的に関連性があり,隠れた特徴を解釈できることがわかった。
  論文  参考訳（メタデータ） (2025-08-26T11:20:31Z)
• Probing the Representational Power of Sparse Autoencoders in Vision Models [16.82204018033778]
  スパースオートエンコーダ(SAE)は,大規模言語モデル(LLM)の隠蔽状態を解釈するための一般的なツールとして登場した。 言語モデルに人気があるにもかかわらず、SAEは依然として視覚領域で研究されている。 我々は、幅広い画像ベースタスクを用いて、視覚モデルに対するSAEの表現力を広範囲に評価する。
  論文  参考訳（メタデータ） (2025-08-15T07:29:42Z)
• Feedback-Driven Tool-Use Improvements in Large Language Models via Automated Build Environments [70.42705564227548]
  大規模言語モデル(LLM)のための環境自動構築パイプラインを提案する。 これにより、外部ツールに頼ることなく、詳細な測定可能なフィードバックを提供する高品質なトレーニング環境の作成が可能になる。 また、ツール使用の精度とタスク実行の完全性の両方を評価する検証可能な報酬機構も導入する。
  論文  参考訳（メタデータ） (2025-08-12T09:45:19Z)
• Sparse Autoencoders Learn Monosemantic Features in Vision-Language Models [50.587868616659826]
  視覚表現におけるニューロンレベルでの単意味性を評価するための包括的枠組みを提案する。 実験の結果,視覚言語モデルで訓練したSAEは個々のニューロンの単意味性を大幅に向上させることがわかった。
  論文  参考訳（メタデータ） (2025-04-03T17:58:35Z)
• Sparse Autoencoder Features for Classifications and Transferability [11.2185030332009]
  大規模言語モデル(LLM)からの特徴抽出のためのスパースオートエンコーダ(SAE)の解析 本フレームワークは,(1)モデル層選択とスケーリング特性,(2)幅とプール戦略を含むSAEアーキテクチャ構成,(3)連続SAE活性化のバイナライズ効果を評価する。
  論文  参考訳（メタデータ） (2025-02-17T02:30:45Z)
• Llama Scope: Extracting Millions of Features from Llama-3.1-8B with Sparse Autoencoders [115.34050914216665]
  スパースオートエンコーダ(SAE)は、言語モデルからスパース表現を抽出する強力な教師なし手法として登場した。 我々は、Llama-3.1-8B-Baseモデルの各層とサブ層で訓練された256個のSAEスイートを紹介し、32Kと128Kの特徴を持つ。 基礎モデルに基づいて訓練されたSAEのより長い文脈と微調整モデルへの一般化性を評価する。
  論文  参考訳（メタデータ） (2024-10-27T17:33:49Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。