論文の概要: The Quantum Sieve Tracer: A Hybrid Framework for Layer-Wise Activation Tracing in Large Language Models
- arxiv url: http://arxiv.org/abs/2602.06852v1
- Date: Fri, 06 Feb 2026 16:40:09 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-02-09 22:18:26.489203
- Title: The Quantum Sieve Tracer: A Hybrid Framework for Layer-Wise Activation Tracing in Large Language Models
- Title(参考訳): 量子シーブトレーサ:大規模言語モデルにおけるレイヤワイズアクティベーショントレースのためのハイブリッドフレームワーク
- Authors: Jonathan Pan,
- Abstract要約: 本稿では,ファクトリコール回路を特徴付けるために設計されたハイブリッド量子古典的フレームワークであるQuantum Sieve Tracerを紹介する。
まず、古典的な因果トレースを用いて臨界層をローカライズし、次に特定の注意ヘッドの活性化を指数関数的に大きなヒルベルト空間にマッピングする。
その結果、量子カーネルは、これらの構成的(リコール)と還元的(圧縮)メカニズムを区別することができ、注意の微細なトポロジを解析するための高分解能ツールを提供することを示した。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by-sa/4.0/
- Abstract: Mechanistic interpretability aims to reverse-engineer the internal computations of Large Language Models (LLMs), yet separating sparse semantic signals from high-dimensional polysemantic noise remains a significant challenge. This paper introduces the Quantum Sieve Tracer, a hybrid quantum-classical framework designed to characterize factual recall circuits. We implement a modular pipeline that first localizes critical layers using classical causal tracing, then maps specific attention head activations into an exponentially large quantum Hilbert space. Using open-weight models (Meta Llama-3.2-1B and Alibaba Qwen2.5-1.5B-Instruct), we perform a two-stage analysis that reveals a fundamental architectural divergence. While Qwen's layer 7 circuit functions as a classic Recall Hub, we discover that Llama's layer 9 acts as an Interference Suppression circuit, where ablating the identified heads paradoxically improves factual recall. Our results demonstrate that quantum kernels can distinguish between these constructive (recall) and reductive (suppression) mechanisms, offering a high-resolution tool for analyzing the fine-grained topology of attention.
- Abstract(参考訳): 機械的解釈可能性(Mechanistic Interpretability)は、Large Language Models (LLM)の内部計算をリバースエンジニアリングすることを目的としている。
本稿では,ファクトリコール回路を特徴付けるために設計されたハイブリッド量子古典的フレームワークであるQuantum Sieve Tracerを紹介する。
まず、古典的な因果トレースを用いて臨界層をローカライズし、次に特定の注意ヘッドの活性化を指数関数的に大きなヒルベルト空間にマッピングする。
オープンウェイトモデル(Meta Llama-3.2-1B と Alibaba Qwen2.5-1.5B-Instruct)を用いて、2段階解析を行い、基本的なアーキテクチャのばらつきを明らかにする。
Qwenの7層回路は、古典的なリコールハブとして機能する一方、Llamaの9層は干渉抑制回路として機能し、識別された頭部をパラドックス的に非難することで、ファクトリコールを改善する。
その結果、量子カーネルは、これらの構成的(リコール)と還元的(圧縮)メカニズムを区別することができ、注意の微細なトポロジを解析するための高分解能ツールを提供することを示した。
関連論文リスト
- A non-linear quantum neural network framework for entanglement engineering [0.0]
マルチパーティの絡み合いは量子技術の鍵となるリソースであるが、ノイズの多い量子デバイスにおけるスケーラブルな生成は依然として困難である。
本稿では,メモリ対応フォトニックコンポーネントにインスパイアされた線形スケーリングを応用した低深さ量子ニューラルネットワークアーキテクチャを提案する。
論文 参考訳(メタデータ) (2025-12-16T00:16:51Z) - Quantum Visual Fields with Neural Amplitude Encoding [70.86293548779774]
本稿では2次元画像と3次元幾何場学習のための新しいタイプの量子入射ニューラル表現(QINR)を提案する。
QVFは古典的なデータを学習可能エネルギー多様体に接地したニューラル振幅符号化を用いて量子状態ベクトルに符号化する。
我々のアンサッツは、学習可能なパラメトリド量子回路の完全に絡み合った設計に従い、実際のヒルベルト空間で量子(単位)演算を行う。
論文 参考訳(メタデータ) (2025-08-14T17:59:52Z) - Resource-Efficient Hadamard Test Circuits for Nonlinear Dynamics on a Trapped-Ion Quantum Computer [1.2063443893298391]
本稿では,Adamardテスト回路の低深さ実装を提案する。
我々は変分アルゴリズムに特化してパラメータ化量子アンサッツを開発した。
以上の結果より,シングルビットゲート数と2ビットゲート数が有意に減少した。
論文 参考訳(メタデータ) (2025-07-25T13:16:54Z) - QAMA: Scalable Quantum Annealing Multi-Head Attention Operator for Deep Learning [48.12231190677108]
QAMA(Quantum Annealing Multi-Head Attention)は、エネルギーベースのハミルトン最適化問題として注目を集める新しいドロップイン演算子である。
この枠組みでは、トークン相互作用を二項二項項に符号化し、低エネルギー構成の探索に量子アニールを用いる。
経験的に、自然言語と視覚のベンチマークによる評価は、タスク全体にわたって、標準的なマルチヘッドの注意から少なくとも2.7ポイントの精度が低下していることを示している。
論文 参考訳(メタデータ) (2025-04-15T11:29:09Z) - Realizing Quantum Adversarial Defense on a Trapped-ion Quantum Processor [3.1858340237924776]
我々は、イオントラップ量子プロセッサ上に、データ再ロードに基づく量子分類器を実装した。
MNISTデータセットに優れたロバスト性を示す。
論文 参考訳(メタデータ) (2025-03-04T09:22:59Z) - A scalable 2-local architecture for quantum annealing of Ising models with arbitrary dimensions [0.0]
任意の接続性を持つ有効Ising Hamiltonianを実現するために,量子異性体のためのスケーラブルなアーキテクチャを提案する。
提案手法は,物理量子ビットを他の3つに接続し,ローカルな2つの相互作用のみを含むハードウェアグラフに基づく資源効率の高い構成から成り立っている。
論文 参考訳(メタデータ) (2024-04-10T09:38:13Z) - The Quantum Path Kernel: a Generalized Quantum Neural Tangent Kernel for
Deep Quantum Machine Learning [52.77024349608834]
古典的なディープニューラルネットワークの量子アナログを構築することは、量子コンピューティングにおける根本的な課題である。
鍵となる問題は、古典的なディープラーニングの本質的な非線形性にどのように対処するかである。
我々は、深層機械学習のこれらの側面を複製できる量子機械学習の定式化であるQuantum Path Kernelを紹介する。
論文 参考訳(メタデータ) (2022-12-22T16:06:24Z) - Interactive Protocols for Classically-Verifiable Quantum Advantage [46.093185827838035]
証明者と検証者の間の「相互作用」は、検証可能性と実装のギャップを埋めることができる。
イオントラップ量子コンピュータを用いた対話型量子アドバンストプロトコルの最初の実装を実演する。
論文 参考訳(メタデータ) (2021-12-09T19:00:00Z) - Realization of arbitrary doubly-controlled quantum phase gates [62.997667081978825]
本稿では,最適化問題における短期量子優位性の提案に着想を得た高忠実度ゲートセットを提案する。
3つのトランペット四重項のコヒーレントな多レベル制御を編成することにより、自然な3量子ビット計算ベースで作用する決定論的連続角量子位相ゲートの族を合成する。
論文 参考訳(メタデータ) (2021-08-03T17:49:09Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。