論文の概要: Transcoders for Investigating Deception in Language Models

• arxiv url: http://arxiv.org/abs/2607.14791v1
• Date: Thu, 16 Jul 2026 10:10:10 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-17 17:01:33.05967
• Title: Transcoders for Investigating Deception in Language Models
• Title（参考訳）: 言語モデルにおける誤り調査用トランスコーダ
• Abstract要約: 本稿では,言語モデルにおける誤認行動の分析にトランスコーダを用いた場合について検討する。 本研究は, 着目関係の特徴の辞書を同定し, 着目出力に強い影響を及ぼす。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Transcoders have recently emerged as a promising approach for mechanistic interpretability (MI), enabling circuit-level analysis of model behaviour. In this paper, we investigate the use of transcoders to analyse deceptive behaviour in language models, a behaviour that poses a safety and security risk. Using a Qwen3-4B model with pre-trained transcoders, specifically per-layer transcoders (PLTs), we construct attribution graphs that capture feature activations and inter-feature dependencies, allowing circuit-level analysis of deception. Through feature steering and circuit analysis, we identified a dictionary of deception-related features and show that these features exert a stronger influence on deceptive outputs, as they produce predictable shifts between deceptive and non-deceptive responses. These findings suggest that deception emerges from internal model mechanisms and highlight the potential of transcoders for behavioural monitoring and early detection of security vulnerabilities related to malicious behaviours in language models.
• Abstract（参考訳）: トランスコーダは最近、機械的解釈可能性(MI)のための有望なアプローチとして登場し、モデル動作の回路レベル解析を可能にした。 本稿では,言語モデルにおける誤認行動の分析にトランスコーダを用い,安全性とセキュリティのリスクを生じさせる振る舞いについて検討する。 プレトレーニングトランスコーダを用いたQwen3-4Bモデル,特に層間トランスコーダ(PLT)を用いて,機能アクティベーションと機能間依存関係をキャプチャする属性グラフを構築し,回路レベルでの偽造を解析する。 機能ステアリングと回路解析により, 認識関連特徴の辞書を同定し, これらの特徴が知覚的応答と非知覚的応答の予測可能なシフトを生成することにより, 知覚的出力に強い影響を及ぼすことを示す。 これらの結果から,言語モデルにおける悪意的行動に関連する脆弱性の早期発見と行動監視のためのトランスコーダの可能性が示唆された。

関連論文リスト

• AI Slop and Hallucinations in Vulnerability Assessment: A Survey on Reasoning Failures and Trustworthy Mitigation [48.55515767840701]
  AIスロープ(AI slop)は、アーティファクト、幻覚的脆弱性、可視だが正しくないパッチ、セマンティックに再パッケージされたバグレポートである。 本稿では,実証的証拠を調査し,統一メカニズムを特定し,信頼に値するトリアージへの道筋をたどる。
  論文  参考訳（メタデータ） (2026-08-26T11:48:38Z)
• Mechanistic Interpretability for Neural Networks: Circuits, Sparse Features and Symbolic Reasoning [0.0]
  機械的解釈可能性(Mechanistic Interpretability)は、現代のニューラルネットワークの内部アルゴリズムをリバースエンジニアリングしようとする新興分野である。 本稿では、Transformer回路解析の詳細な検討を行い、内部コンポーネントが複雑なタスクやコンテキスト内学習をどのように駆動するかを考察する。 Sparse Autoencoders(SAE)やTranscoderといったツールが、絡み合ったネットワークアクティベーションを、別個の人間解釈可能な機能に分解する方法を実証する。
  論文  参考訳（メタデータ） (2026-07-08T12:04:38Z)
• Explainability-Guided Adversarial Attacks on Transformer-Based Malware Detectors Using Control Flow Graphs [0.19116784879310025]
  本稿では,制御フローグラフを関数呼び出しのシーケンスに線形化するRoBERTaベースのマルウェア検出器の脆弱性について検討する。 このグラフ・ツー・シーケンス・フレームワーク内での回避戦略を評価することにより、トランスフォーマー・ベースのマルウェア検知器の実用的堅牢性について、集約的検出精度以上の知見を提供する。
  論文  参考訳（メタデータ） (2026-04-04T19:50:04Z)
• Dynamic analysis enhances issue resolution [53.50448142467294]
  DAIRA(Dynamic Analysis-enhanced Issue Resolution Agent)は、エージェントの推論サイクルに動的解析を組み込む自動修復フレームワークである。 テストトレース駆動の方法論によって駆動されるDAIRAは、軽量モニタを使用して重要なランタイムデータを抽出する。 Gemini 3 Flash Previewを使用すると、DAIRAは新たな最先端(SOTA)パフォーマンスを確立し、SWE-bench Verifiedデータセットで79.4%の解像度を達成する。
  論文  参考訳（メタデータ） (2026-03-23T14:48:54Z)
• Decoding the Critique Mechanism in Large Reasoning Models [50.821607345799386]
  大規模推論モデル(LRM)は、バックトラックと自己検証メカニズムを示し、中間ステップを修正して正しい解に到達できるようにする。 中間推論ステップに算術ミスを挿入することにより,現在のLEMがエラーからどのように回復するかを検討する。 チェーン・オブ・シークレットを伝播する誤りにもかかわらず、モデルは依然として正しい最終解に達している。
  論文  参考訳（メタデータ） (2026-03-17T10:03:30Z)
• Backdoor Directions in Vision Transformers [56.382912038371046]
  本稿では,視覚変換器(ViT)におけるバックドアアタックの表現方法について検討する。 我々は、トリガーの内部表現に対応するモデルのアクティベーションにおいて、特定のトリガー方向'を識別する。 この方向を診断ツールとして使用して、バックドア機能が層間でどのように処理されるかを追跡する。
  論文  参考訳（メタデータ） (2026-03-11T14:13:48Z)
• From Passive Metric to Active Signal: The Evolving Role of Uncertainty Quantification in Large Language Models [77.04403907729738]
  このサーベイは、受動的診断基準からリアルタイムモデル動作を導くアクティブ制御信号への不確実性の進化をグラフ化する。 3つのフロンティアにまたがるアクティブ制御信号として不確実性がいかに活用されているかを示す。 この調査は、次世代のスケーラブルで信頼性があり、信頼できるAIを構築するためには、新しい不確実性のトレンドを習得することが不可欠である、と論じている。
  論文  参考訳（メタデータ） (2026-01-22T06:21:31Z)
• Feature-Aware Test Generation for Deep Learning Models [0.5368630420272898]
  本研究では,視覚に基づくディープラーニング(DL)モデルのための機能認識型テスト生成フレームワークであるTectを紹介する。 潜在空間内で非絡み合ったセマンティック属性を摂動することで入力を生成する。 行動シフトにつながる特徴を特定し、セマンティック属性に視覚言語モデルを使用する。
  論文  参考訳（メタデータ） (2026-01-20T15:41:06Z)
• Fantastic Reasoning Behaviors and Where to Find Them: Unsupervised Discovery of the Reasoning Process [66.38541693477181]
  本稿では, アクティベーション空間の方向として, 異なる推論挙動を符号化する, 推論ベクトルの発見のための教師なしフレームワークを提案する。 思考の連鎖トレースを文レベルの「ステップ」にセグメント化することで、リフレクションやバックトラックのような解釈可能な振る舞いに対応する歪んだ特徴を明らかにする。 本研究では,SAEデコーダ空間における信頼性関連ベクトルを同定し,応答信頼性を制御する能力を示す。
  論文  参考訳（メタデータ） (2025-12-30T05:09:11Z)
• Interpretable Anomaly Detection in Encrypted Traffic Using SHAP with Machine Learning Models [0.0]
  本研究の目的は,暗号化されたネットワークトラフィックにおける異常検出のための解釈可能な機械学習ベースのフレームワークを開発することである。 モデルはトレーニングされ、3つのベンチマークで暗号化されたトラフィックデータセットで評価される。 SHAPビジュアライゼーションは、異常予測に寄与する最も影響力のあるトラフィック特徴を明らかにした。
  論文  参考訳（メタデータ） (2025-05-22T05:50:39Z)
• Automated Static Warning Identification via Path-based Semantic Representation [37.70518599085676]
  本稿では、深層ニューラルネットワークの強力な特徴抽出と表現能力を用いて、警告識別のための制御フローグラフパスからコードセマンティクスを生成する。 事前訓練された言語モデルを微調整し、パスシーケンスを符号化し、モデル構築のための意味表現をキャプチャする。
  論文  参考訳（メタデータ） (2023-06-27T15:46:45Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。