論文の概要: Do LMs Know What Variables Do? Interpreting Code Representations via Variable Roles

• arxiv url: http://arxiv.org/abs/2610.24118v1
• Date: Fri, 16 Oct 2026 18:46:34 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-26 10:59:25.020765
• Title: Do LMs Know What Variables Do? Interpreting Code Representations via Variable Roles
• Title（参考訳）: LMは変数が何を行うかを知っているか? 可変ロールによるコード表現の解釈
• Abstract要約: 我々は、サジャニエミの独立に定義された分類学を用いて、大きな言語モデルからどの役割の区別を取り戻せるかを研究する。 我々は,11のロールと5つの言語にまたがる116,926の自然言語ファイルのコーパスに対して,静的なアノテーションルールを導入する。
• 参考スコア（独自算出の注目度）: 24.124572604919802
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Variable roles describe recurring behaviors such as accumulation, traversal, and retaining the best candidate encountered. We use Sajaniemi's independently defined taxonomy to study which role distinctions can be recovered from large language models, how sparse autoencoders (SAEs) retain those distinctions, and whether associated directions support control of generation. We introduce static annotation rules for all eleven roles and a corpus of 126,926 natural-code files across five languages. Across five model-SAE systems, residual probes outperform individual SAE features and tested lexical baselines, with modest losses after neutral target renaming. Combining SAE features closes much of the single-feature gap, but probes on SAE reconstructions are less sensitive to role-changing edits reviewed by LLMs. High paired ranking accuracy coexists with frequent false positives at fixed thresholds. During generation, interventions often change role annotations at the cost of correctness; changes accompanied by passing tests show no clear aggregate advantage over random controls. The benchmark separates role-related recoverability, SAE fidelity, and correctness-preserving control through matched prediction, source edits, and generation interventions.
• Abstract（参考訳）: 様々な役割は、蓄積、トラバーサル、そして遭遇した最良の候補を保持するような反復的な行動を記述する。 サジャニエミの独立に定義された分類法を用いて、どの役割の区別が大きな言語モデルから回復できるか、スパースオートエンコーダ(SAE)がそれらの区別をいかに保持するか、そして関連する方向が生成の制御をサポートするかを研究する。 我々は,11のロールと5つの言語にまたがる116,926の自然言語ファイルのコーパスに対して,静的なアノテーションルールを導入する。 5つのモデルSAEシステムにおいて、残留プローブは個々のSAE特性より優れ、試験された語彙ベースラインは中性ターゲットリネーム後にわずかに失われる。 SAE機能の組み合わせは、単一機能ギャップの大部分を埋めるが、SAE再構成のプローブは、LSMsがレビューしたロール変更編集にはあまり敏感ではない。 高ペアのランク精度は、固定閾値で頻繁に偽陽性を示す共存である。 ジェネレーションの間、介入はロールアノテーションを正しさの犠牲で変更することが多く、テストに付随する変更はランダムコントロールよりも明確な集合的優位性を示す。 このベンチマークは、一致する予測、ソース編集、生成介入を通じて、役割関連リカバリ可能性、SAE忠実度、正当性保存制御を分離する。

関連論文リスト

• VALCON: Benchmarking and Enhancing Value Consistency in Large Language Models via Dual-Role Variation [50.26484893435373]
  大規模言語モデル(LLM)の現在の値アライメント評価は、出力コンプライアンスに大きく依存している。 本稿では,価値の一貫性を3つのベンチマークスイートにまとめる役割駆動型データ構築フレームワークであるVALCONを提案する。 我々の研究は、価値の一貫性を異なるアライメントの次元として確立し、完全な評価・分析・軽減パイプラインを提供する。
  論文  参考訳（メタデータ） (2026-10-15T05:52:52Z)
• Faithfulness to Refusal: A Causal Audit of Neuron Selectors [3.3598755777055374]
  属性スコアは、プルーニング、解釈可能性、安全のための編集など、言語モデルのどのニューロン行が重要かを、ますます特定する。 1ショットのニューロンローゼロリングをベースとした2つのペア監査でこの問題に対処する。
  論文  参考訳（メタデータ） (2026-07-06T17:33:36Z)
• Demystifying Variance in Circuit Discovery of LLMs [51.97489679448601]
  我々は,再サンプリングのばらつきを大幅に軽減する新しい回路探索法を開発した。 テンプレートの異なるプロンプトは、モデル内の異なる回路を活性化する傾向があるため、リフレージングのばらつきが生じることを示す。 我々は、よりコンパクトで解釈可能なタスク回路を形成すると主張されている空間性は、この問題の解決に失敗すると主張している。
  論文  参考訳（メタデータ） (2026-06-15T16:25:07Z)
• Preference Instability in Reward Models: Detection and Mitigation via Sparse Autoencoders [20.13794189010598]
  大規模言語モデルにおける優先学習は、人間の判断のためのプロキシとして報酬モデルに依存している。 この不安定性を3つの意味保存摂動型を用いて表現レベルで解析する。 我々は2つのSAEベースの不安定緩和戦略を提案する。
  論文  参考訳（メタデータ） (2026-05-07T16:48:48Z)
• TabSHAP [5.3259362673757735]
  大規模な言語モデルは、伝統的なツリーベースのモデルに代わる強力な選択肢として現れています。 既存の手法は、しばしば大域的な線形プロキシやスカラー確率シフトに頼り、モデルの完全な確率的不確実性を捉えるのに失敗する。 本稿では,ローカルクエリ決定ロジックを直接属性として設計したモデルに依存しない解釈可能性フレームワークであるTabSHAPを紹介する。
  論文  参考訳（メタデータ） (2026-04-22T22:04:45Z)
• Analysis of Variational Sparse Autoencoders [1.675385127117872]
  SAEアーキテクチャに変分手法を組み込むことで,特徴構造や解釈可能性が改善されるかどうかを検討する。 本稿では,変分スパースオートエンコーダ(vSAE)を導入し,決定論的ReLUゲーティングを学習したガウス後部からのサンプリングに置き換える。 以上の結果から,SAEに対する変分法の適用は,機能的構造や解釈可能性の向上には至らないことが示唆された。
  論文  参考訳（メタデータ） (2025-09-26T23:09:56Z)
• SelfAug: Mitigating Catastrophic Forgetting in Retrieval-Augmented Generation via Distribution Self-Alignment [49.86376148975563]
  大規模言語モデル(LLM)は、様々なタスクを理解し実行する能力を通じて自然言語処理に革命をもたらした。 教師付き微調整、特にRetrieval-Augmented Generation (RAG)のシナリオでは、しばしば破滅的な忘れが生じる。 本稿では,モデルのセマンティック分布を保存するために,入力シーケンスロジットをアライメントする自己分布アライメント手法であるSelfAugを提案する。
  論文  参考訳（メタデータ） (2025-09-04T06:50:47Z)
• CompassVerifier: A Unified and Robust Verifier for LLMs Evaluation and Outcome Reward [50.97588334916863]
  評価と結果報酬のための正確で堅牢な軽量検証モデルであるCompassVerifierを開発した。 数学、知識、多種多様な推論タスクにまたがる多分野の能力を示し、様々な答えの型を処理する能力を示す。 我々は,複数のデータソースから収集したモデル出力からなるVerifierBenchベンチマークを導入し,メタエラーパターンを手動で解析してCompassVerifierを強化する。
  論文  参考訳（メタデータ） (2025-08-05T17:55:24Z)
• Factual Self-Awareness in Language Models: Representation, Robustness, and Scaling [56.26834106704781]
  大規模言語モデル(LLM)のユビキタス展開における主要な関心事の一つは、生成されたコンテンツの事実的誤りである。 我々は, LLMの内部コンパスの存在を裏付ける証拠を提供し, 生成時の事実的リコールの正しさを規定する。 モデルサイズにわたる実験のスケールとトレーニングのダイナミクスは、トレーニング中に自己認識が急速に出現し、中間層でピークとなることを浮き彫りにしている。
  論文  参考訳（メタデータ） (2025-05-27T16:24:02Z)
• Self-RAG: Learning to Retrieve, Generate, and Critique through Self-Reflection [74.51523859064802]
  我々は、自己回帰検索拡張生成(Self-RAG)と呼ばれる新しいフレームワークを導入する。 自己RAGは、検索と自己回帰によってLMの品質と事実性を高める。 様々なタスクセットにおいて、最先端のLCMや検索強化モデルよりも大幅に優れています。
  論文  参考訳（メタデータ） (2023-10-17T18:18:32Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。