論文の概要: Reference Feature Atlases for Mechanistic Auditing of Language Models

• arxiv url: http://arxiv.org/abs/2607.22570v1
• Date: Mon, 01 Jun 2026 17:20:16 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-02 22:55:38.970706
• Title: Reference Feature Atlases for Mechanistic Auditing of Language Models
• Title（参考訳）: 言語モデルの機械的監査のための参照特徴アトラス
• Abstract要約: 本稿では,参照パネル上で一度トレーニングし,新たなターゲットに再利用したスパース機能ライブラリを提案する。 atlasチャネルは、既に解釈済みのパネル機能に基づいてターゲットを読み出し、モデル間で安定した座標システムを提供する。 残留チャネルは、アトラスが再構成に失敗したものからのみ特徴を学習し、「参照パネルの外」を明示的な監査信号とする。
• 参考スコア（独自算出の注目度）: 7.4804012268124085
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Auditing a new language model usually means relearning and reinterpreting its internal features from scratch. We propose a reference feature atlas: a sparse feature library trained once on a reference panel and reused for new targets, which attach by fitting only a linear decoder. This yields two complementary views. The atlas channel reads the target on already interpreted panel features, providing a stable coordinate system across models. The residual channel learns features only from what the atlas fails to reconstruct, making "outside the reference panel" an explicit audit signal. We train leave-one-out atlases over five 7-9B instruction-tuned models and audit held-out Mistral and Qwen targets. On three controlled LoRA hidden objectives injected into both targets, the residual channel makes the planted mechanism perfectly controllable at runtime while matched controls stay unaffected and recovers the planted objective as the top-ranked latent across both targets; on Mistral, where the per-target SAE and pairwise crosscoder baselines are retrained for a head-to-head benchmark, both baselines fail to do so. On Qwen-2.5, the same channel additionally reveals a panel-relative political-framing cluster; steering it shifts the audited framing metrics while out-of-domain controls remain unchanged.
• Abstract（参考訳）: 新しい言語モデルを監査することは、通常、内部機能をスクラッチから再学習し、再解釈することを意味する。 本稿では,リニアデコーダのみを取り付けることで,参照パネル上で一度トレーニングし,新たなターゲットに再利用したスパース機能ライブラリである,参照機能アトラスを提案する。 これは2つの相補的な見方をもたらす。 atlasチャネルは、既に解釈済みのパネル機能に基づいてターゲットを読み出し、モデル間で安定した座標システムを提供する。 残留チャネルは、アトラスが再構成に失敗したものからのみ特徴を学習し、「参照パネルの外」を明示的な監査信号とする。 我々は、7-9Bの訓練を受けた5つのモデルに1回限りのアラスを訓練し、MistralとQwenの目標を監査する。 両方の目標に注入された3つの制御されたLoRA隠蔽目標に対して、残留チャネルは、マッチした制御が影響を受けないままに、実行時に完全に制御可能にし、両方の目標にまたがる最上位の遅延として、植込みされた目的を回復させる。 Qwen-2.5では、同じチャネルがパネルリレーショナルな政治的フレーミングクラスタを新たに公開している。

関連論文リスト

• PointRL: Learning Point-Level Vision-Language Grounding from Verifiable Annotation Evidence [4.87376023514389]
  この研究は、ポイントレベルの接地を学習する検証可能な強化学習フレームワークであるPointRLを提示する。 PointRLは、バウンディングボックス、マスク、インスタンスラベルをポインティング命令に変換し、ターゲットサポート、インスタンスメンバシップ、セット制約を保持する。 提案した報酬は、解析可能性、ポイント妥当性、インスタンスカバレッジ、濃度一貫性、冗長または欠落予測を評価する。
  論文  参考訳（メタデータ） (2026-08-26T02:10:29Z)
• REAL-OW: Rehearsal-free Open World Object Detection with Low-Rank Adaptation and Dual-Stage Objectness Modeling [56.888597798431704]
  Open-World Object Detection (OWOD) では、未確認のオブジェクトを未知のものとして識別し、それを既知のカテゴリのセットにインクリメンタルに組み込む必要がある。 既存のフレームワークは、破滅的な忘れを緩和するために、模範的なリプレイに大きく依存しているが、実際のアプリケーションでは、データアクセス制限との生データ競合を保存し、データ露出のリスクをもたらす。 協調的なアダプタアーキテクチャを通じて段階的な知識を分離する新しいリハーサルフリーフレームワークであるREAL-OWを提案する。
  論文  参考訳（メタデータ） (2026-07-03T06:38:54Z)
• CIAware-Bench: Benchmarking Control Intervention Awareness Across Frontier LLMs [100.38986535324284]
  我々は、フロンティアモデル全体でのtextbfcontrol textbfintervention (CI) の認識を測定するベンチマークである textbfCIAware-Bench を紹介する。 CIAware-Benchは、モデルが自身の軌跡を制御介入によって修正されたものと区別できるかどうかをテストする。
  論文  参考訳（メタデータ） (2026-06-09T16:24:16Z)
• DetRefiner: Model-Agnostic Detection Refinement with Feature Fusion Transformer [4.40960504549418]
  DetRefinerは,グローバルな特徴とローカルな特徴を融合してオープンな語彙検出を改良する,プラグイン・アンド・プレイのフレームワークである。 この結果から,グローバルおよびローカルな表現を融合する学習は,オープンワールドのオブジェクト検出を促進するための強力で汎用的なメカニズムを提供することがわかった。
  論文  参考訳（メタデータ） (2026-05-11T08:40:25Z)
• Dissecting Jet-Tagger Through Mechanistic Interpretability [0.0]
  我々はTop Quark Tagging参照データセットに基づいてトレーニングされたParticle Transformerアーキテクチャの機械論的解釈可能性解析を行う。 ジェットの分類と内部表現の物理的内容の特徴付けに責任がある計算回路を同定する。
  論文  参考訳（メタデータ） (2026-05-11T02:11:47Z)
• Weight Patching: Toward Source-Level Mechanistic Localization in LLMs [12.558998651017374]
  重み付き同一アーキテクチャモデルにおけるソース指向解析のためのパラメータ空間介入手法であるWeight Patchingを提案する。 本稿では,タスク関連制御状態が形成されたかどうかの共通内部規準を提供する,ベクトル・アンカー・ビヘイビア・インタフェースを中心にしたフレームワークを提案する。
  論文  参考訳（メタデータ） (2026-04-15T10:21:38Z)
• Recurrent Cross-View Object Geo-Localization [23.685973292321574]
  クロスビューオブジェクトジオローカライゼーション (CVOGL) は、問合せ画像と点プロンプトが与えられた場合の高解像度衛星画像における特定のオブジェクトの位置を決定することを目的としている。 本稿では,CVOGLをリカレント・ローカライゼーションタスクとして再構成したリカレント・クロスビュー・オブジェクトのジオローカライゼーション・トランスフォーマであるReCOTを提案する。 ReCOTは、クエリイメージからタスク固有の意図をエンコードし、埋め込みを促す一連の学習可能なトークンを導入し、予測された位置を洗練するための参照機能に反復的に参加する。
  論文  参考訳（メタデータ） (2025-09-16T07:18:23Z)
• CAPE: A CLIP-Aware Pointing Ensemble of Complementary Heatmap Cues for Embodied Reference Understanding [56.30142869506262]
  身体的参照理解(Embodied Reference Understanding)は、シーンの人物が指し示すジェスチャーと言語の両方を通して参照しているオブジェクトを予測する。 本稿では,2重モデルフレームワークを提案し,一方のモデルが頭指先方向から学習し,他方のモデルが手指先方向から学習する。 我々は、ベンチマークYouRefItデータセットの広範な実験と分析を通じてアプローチを検証し、0.25IoU閾値で約4mAPの改善を実現した。
  論文  参考訳（メタデータ） (2025-07-29T15:00:21Z)
• Just Functioning as a Hook for Two-Stage Referring Multi-Object Tracking [22.669740476582835]
  Referring Multi-Object Trackingは、自然言語表現で指定されたビデオに対象の軌跡をローカライズすることを目的としている。 本稿では,RMOTにおけるトラッキングと参照の2つのサブタスクの内在的関係を系統的に解析する。 サブタスク間のリンクを再定義するためにHookモジュールを最初に設計した新しい2段階RTTフレームワークであるJustHookを提案する。
  論文  参考訳（メタデータ） (2025-03-10T16:38:42Z)
• Weakly-supervised Contrastive Learning for Unsupervised Object Discovery [52.696041556640516]
  ジェネリックな方法でオブジェクトを発見できるため、教師なしのオブジェクト発見は有望である。 画像から高レベルな意味的特徴を抽出する意味誘導型自己教師学習モデルを設計する。 オブジェクト領域のローカライズのための主成分分析(PCA)を導入する。
  論文  参考訳（メタデータ） (2023-07-07T04:03:48Z)
• Learning to Learn Better for Video Object Segmentation [94.5753973590207]
  本稿では,SVOS の学習目標機能 (LLB) を強調する新しいフレームワークを提案する。 識別ラベル生成モジュール(DLGM)と適応融合モジュールを設計し,これらの課題に対処する。 提案手法は最先端性能を実現する。
  論文  参考訳（メタデータ） (2022-12-05T09:10:34Z)
• Learning Target-aware Representation for Visual Tracking via Informative Interactions [49.552877881662475]
  トラッキングのための特徴表現のターゲット認識能力を改善するために,新しいバックボーンアーキテクチャを提案する。 提案したGIMモジュールとInBN機構は、CNNやTransformerなど、さまざまなバックボーンタイプに適用可能である。
  論文  参考訳（メタデータ） (2022-01-07T16:22:27Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。