論文の概要: Inherited Circuits, Learned Semantics: How Fine-Tuning Creates Evasion Vulnerabilities Invisible to Standard Evaluation

• arxiv url: http://arxiv.org/abs/2606.27091v1
• Date: Thu, 25 Jun 2026 14:29:03 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-26 18:46:32.321669
• Title: Inherited Circuits, Learned Semantics: How Fine-Tuning Creates Evasion Vulnerabilities Invisible to Standard Evaluation
• Title（参考訳）: セマンティックスを学習する継承回路: 標準的な評価に見えないエクスポーテーション脆弱性をいかに作り出すか
• Abstract要約: セキュリティ分類のために微調整されたLLMは、通常、トレーニングデータと同じ分布から保持された例で評価される。 これは、微調整自体によって導入された脆弱性を見逃す可能性があることを示す。 セキュリティの微調整により,回避面を拡大しながらタスクの精度が向上することを示す。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: LLMs fine-tuned for security classification are usually evaluated on held-out examples from the same distribution as their training data. We show that this can miss vulnerabilities introduced by fine-tuning itself: models can learn token-level indicator semantics that preserve canonical accuracy while failing under behavior-preserving transformations such as PowerShell alias substitution, command reconstruction, string construction, execution indirection, and case mutation. We study Foundation-Sec-8B-Instruct and its base model, Llama-3.1-8B-Instruct, on matched PowerShell classification cohorts. Causal interventions localize the classification circuit to a late-attention route inherited from Llama rather than created by fine-tuning. Fine-tuning concentrates and semantically specializes this inherited structure, improving baseline behavior while creating transformation-sensitive attack surfaces. A three-tier evasion benchmark finds Foundation-Sec misses on iwr substitution, Invoke-Expression reconstruction, and case-mutated Invoke-Expression/IEX variants that Llama does not share. We also derive a pre-deployment monitoring method: a linear probe at the classification boundary and an indicator-token sign test identify command families where canonical indicators change role after fine-tuning. These signals prioritize red-team variant generation using only canonical inputs, showing that security fine-tuning can improve task accuracy while expanding the evasion surface. These results caution against treating small task-specific fine-tunes as straightforwardly safer security classifiers: specialization can convert inherited model structure into brittle indicator rules that preserve held-out accuracy while expanding the evasion surface. Robust AI-enabled security will require specifying the full transformation space of the task and monitoring semantic drift through fine-tuning.
• Abstract（参考訳）: セキュリティ分類のために微調整されたLLMは、通常、トレーニングデータと同じ分布から保持された例で評価される。 モデルは、PowerShellエイリアス置換、コマンド再構成、文字列構築、実行間接性、ケース突然変異のような行動保存変換の下で失敗しながら、標準的精度を維持するトークンレベルのインジケータセマンティクスを学習することができる。 我々は,Foundation-Sec-8B-InstructとそのベースモデルであるLlama-3.1-8B-Instructを一致したPowerShell分類コホート上で研究した。 因果的介入は、微調整によって生成されるのではなく、Llamaから受け継いだ遅延注意経路に分類回路をローカライズする。 微調整は、この継承された構造をセマンティックに専門化し、変換に敏感な攻撃面を作成しながらベースラインの振る舞いを改善する。 3階層の回避ベンチマークでは、iwr置換、Invoke-Expression再構成、Llamaが共有していないケース変異Invoke-Expression/IEX変異に関するFoundation-Secミスが見つかった。 また, 分類境界における線形プローブと, 標準指標が微調整後に役割を変化させるコマンドファミリを識別するインジケータ・トケン・サインテストという, 事前デプロイ監視手法を導出する。 これらの信号は、標準入力のみを使用してレッドチーム変種生成を優先し、セキュリティの微調整により、回避面を拡張しながらタスクの精度が向上することを示した。 これらの結果は,小タスク固有の細管を,より安全なセキュリティ分類器として扱うことへの注意を喚起する。 堅牢なAI対応セキュリティでは、タスクの完全な変換スペースの指定と、微調整によるセマンティックドリフトの監視が求められる。

関連論文リスト

• ScrambleToolBench: Agents Search Exhaustively Even When Their Own Map Points to the Next Step [74.83535434786145]
  ScrambleToolBenchは,行動推論の分離を目的とした対話型端末ベンチマークである。 このベンチマークでは、エージェントがテストとエラーのインタラクションを通じて、隠されたツールの振る舞いを明らかにする必要がある。 現状の言語モデルに対する我々の評価は、初期発見が成功しても頑健な適応にはならないことを示している。
  論文  参考訳（メタデータ） (2026-08-03T15:07:46Z)
• When Attribution Patching Lies: Diagnosis and a Second-Order Correction [9.338965648455238]
  本研究は, 下流ネットワークの非直線性に起因する誤差が, パッチ成分の局所曲率よりも大きいことを示す。 この洞察は、(i)信頼できない見積もりを検出するための信頼性スコア、(ii)エラー境界がポテンシャル属性の誤特定を定量化すること、(iii)Hessian-vector-product correctが1つの後進パスで先行エラーを除去すること、の3つの実用的なツールをもたらす。
  論文  参考訳（メタデータ） (2026-06-05T05:20:32Z)
• Weakly Supervised Incremental Segmentation via Semantic Anchors and Spatial Arbitration [8.498917049783191]
  SASAはセマンティックアンカーと空間配置によるセマンティック学習を安定化させるように設計されている。 表現レベルでは、学習可能なトークンのセマンティックアンカーを、長期的なセマンティックアイデンティティを保持するための厳密なクラスレベルの参照として導入する。 本研究では,信頼できない信号を直接フィルタリングし,厳密な「1つの対象,1つのクラス」制約を強制する空間ラベルアロケーション機構を開発する。
  論文  参考訳（メタデータ） (2026-06-02T12:10:46Z)
• AIFIND: Artifact-Aware Interpreting Fine-Grained Alignment for Incremental Face Forgery Detection [23.80607349547519]
  AIFIND, Artifact-Aware Interpreting Fine-Grained Alignment for Incremental Face Forgery Detectionを提案する。 セマンティックアンカーを使用して、漸進的な学習を安定化します。
  論文  参考訳（メタデータ） (2026-04-17T16:17:12Z)
• Compiling Activation Steering into Weights via Null-Space Constraints for Stealthy Backdoors [48.881343993730844]
  安全性に整合した大規模言語モデル(LLM)は、現実世界のパイプラインにますますデプロイされている。 敵は通常の評価では動作しないバックドアのチェックポイントを配布することができる。 最近のポストホック重み付け法は、そのようなバックドアを注入するための効率的なアプローチを提供する。
  論文  参考訳（メタデータ） (2026-04-14T06:48:33Z)
• Improving Search Agent with One Line of Code [68.58667107354253]
  ツールベースのエージェント強化学習(TARL)は,検索エージェントが外部ツールと対話できるようにトレーニングするための,有望なパラダイムとして登場した。 textbfSearch textbfAgent textbfPolicy textbfOptimization (textbfSAPO)を提案する。
  論文  参考訳（メタデータ） (2026-03-10T04:07:39Z)
• CORE: Context-Robust Remasking for Diffusion Language Models [51.59514489363897]
  我々は、推論時リビジョンのためのトレーニング不要フレームワークであるContext-Robust Remasking (CORE)を提案する。 静的トークンの確率を信頼するのではなく、COREは、ターゲットとなるマスク付きコンテキストの摂動に対する感受性を示すことによって、コンテキスト不安定なトークンを識別する。 LLaDA-8B-Baseでは、COREは推論とコードベンチマークの間で一貫した改善を行い、計算に適合したベースラインを上回り、MBPPを最大9.2%改善した。
  論文  参考訳（メタデータ） (2026-02-04T00:12:30Z)
• SelfAug: Mitigating Catastrophic Forgetting in Retrieval-Augmented Generation via Distribution Self-Alignment [49.86376148975563]
  大規模言語モデル(LLM)は、様々なタスクを理解し実行する能力を通じて自然言語処理に革命をもたらした。 教師付き微調整、特にRetrieval-Augmented Generation (RAG)のシナリオでは、しばしば破滅的な忘れが生じる。 本稿では,モデルのセマンティック分布を保存するために,入力シーケンスロジットをアライメントする自己分布アライメント手法であるSelfAugを提案する。
  論文  参考訳（メタデータ） (2025-09-04T06:50:47Z)
• Probing the Robustness of Large Language Models Safety to Latent Perturbations [30.16804362984161]
  安全アライメントは、信頼できる人工知能を構築する上で重要な要件である。 我々は、小さな潜伏シフトが、整列モデルにおける安全でない応答を引き起こすことを観察する。 学習中に隠された表現に制御された摂動を注入する微調整戦略であるLayer-wise Adversarial Patch Training (LAPT)を導入する。
  論文  参考訳（メタデータ） (2025-06-19T07:03:05Z)
• Spectral regularization for adversarially-robust representation learning [32.84188052937496]
  下流の分類タスクにおけるブラックボックスの対角ロバスト性を促進する表現学習のための新しいスペクトル正規化器を提案する。 本手法は, ネットワークのすべての層を正規化する手法よりも, テスト精度とロバスト性の向上に有効であることを示す。
  論文  参考訳（メタデータ） (2024-05-27T14:01:42Z)
• Certified Robustness to Label-Flipping Attacks via Randomized Smoothing [105.91827623768724]
  機械学習アルゴリズムは、データ中毒攻撃の影響を受けやすい。 任意の関数に対するランダム化スムージングの統一的なビューを示す。 本稿では,一般的なデータ中毒攻撃に対して,ポイントワイズで確実に堅牢な分類器を構築するための新しい戦略を提案する。
  論文  参考訳（メタデータ） (2020-02-07T21:28:30Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。