論文の概要: Geometry-Lite: Interpretable Safety Probing via Layer-Wise Margin Geometry

• arxiv url: http://arxiv.org/abs/2605.20241v1
• Date: Mon, 18 May 2026 00:12:24 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-21 19:19:56.226635
• Title: Geometry-Lite: Interpretable Safety Probing via Layer-Wise Margin Geometry
• Title（参考訳）: Geometry-Lite: Layer-Wise Margin Geometryによる解釈可能な安全性調査
• Authors: Woo Seob Sim, Yu Rang Park,
• Abstract要約: 層間の安全証拠がどのように形成されるのかは定かでないが、どの層が低い偽陽性の決定を支持し、どの幾何学的バイアスがベンチマークシフトの下で安定であるかは定かではない。 我々は,各層の最終プロンプトトーケン表現を,センタロイド,局所近傍,および教師付き線形有界読み出しの下で符号付きマージンにマッピングするコンパクトなプロンプトレベルプローブGeometry-Liteを紹介する。
• 参考スコア（独自算出の注目度）: 0.5156484100374059
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Prompt-level safety probes for large language models use hidden-state representations to separate safe from unsafe prompts, but strong average detection performance does not explain the geometry of this separation. In particular, it remains unclear how safety evidence is formed across layers, which aspects of that layer-wise geometry support low-false-positive decisions, and which geometric biases remain stable under benchmark shift. We study this as an empirical decomposition problem and introduce Geometry-Lite, a compact prompt-level probe that maps each layer's final prompt-token representation to signed margins under centroid, local-neighborhood, and supervised linear-boundary readouts, then summarizes the resulting margin profiles by boundary position, layer-to-layer change, and coarse shape. Across nine instruction-tuned backbones ($1.2$B--$70$B) and seven safety benchmarks, Geometry-Lite improves over single-layer probes while remaining close to raw multi-layer score stacking, making it a useful instrument for analyzing the multi-layer safety signal. The decomposition shows that safety evidence is expressed primarily through persistent boundary-position geometry: final or extremal margins and unsafe-side layer occupancy dominate aggregate detection performance. In contrast, finite-difference drift and structural summaries add little to pooled AUROC, although drift can provide small recall-oriented corrections under shifted low-FPR thresholds. Under benchmark shift, optimized linear boundaries are sharp on the training mixture, whereas class-conditional mean geometry retains separation more reliably on a predefined hard held-out subset. Overall, prompt-level safety evidence is not primarily a layer-to-layer motion signal, but a persistent layer-wise margin geometry whose useful components and readout-level biases become visible in decision-critical regimes.
• Abstract（参考訳）: 大規模言語モデルのプロンプトレベルの安全プローブは、安全でないプロンプトから安全に分離するために隠れ状態表現を用いるが、強い平均検出性能は、この分離の幾何学を説明できない。 特に、どの層で安全証拠が形成されるのか、どの層が低い偽陽性の決定を支持し、どの幾何学的バイアスがベンチマークシフトの下で安定であるかは、まだ不明である。 我々はこれを経験的分解問題として研究し、各層の最終的なプロンプトトーケン表現を、中央値、局所値、および監督線形境界値の符号付きマージンにマッピングするコンパクトなプロンプトレベルプローブGeometry-Liteを導入し、境界位置、層間変化、粗い形状によって得られたマージンプロファイルを要約する。 命令調整された9つのバックボーン(1.2$B-70$B)と7つの安全ベンチマークのうち、Geometry-Liteは、生の多層スコアの積み重ねに近づきながら単層プローブを改良し、多層安全信号を分析するのに有用な手段である。 この分解により, 安全証拠は, 最終, 極端マージンと非安全層占有が集合検出性能を支配しているという, 永続的な境界位置形状によって主に表されることが明らかとなった。 対照的に、有限差分ドリフトと構造的サマリーはプール化されたAUROCにはほとんど加わらないが、ドリフトはシフトした低FPR閾値の下で小さなリコール指向の補正を与えることができる。 ベンチマークシフトでは、最適化された線形境界はトレーニングミックス上で鋭く、クラス条件の平均幾何は、事前に定義されたハードホールトアウトサブセット上でより確実に分離を保持する。 全体として、プロンプトレベルの安全性の証拠は、主に層間移動信号ではなく、有用な構成要素と読み出しレベルのバイアスが決定クリティカルな状況で見えてくるような、永続的な層間マージン幾何学である。

関連論文リスト

• Understanding Emergent Misalignment via Feature Superposition Geometry [48.56470855119906]
  狭小で無害なタスクの微調整が有害な行動を引き起こすことを示す。 本研究は,この現象の理解と緩和の基盤となる特徴的重ね合わせに,創発的不整合を関連づけるものである。
  論文  参考訳（メタデータ） (2026-04-07T06:10:21Z)
• Enhancing Gradient Inversion Attacks in Federated Learning via Hierarchical Feature Optimization [56.95448807869383]
  フェデレートラーニング(FL)は、プライバシを保存する分散機械学習の魅力的なパラダイムとして登場した。 近年の研究では、FLシステムで交換される勾配もプライバシー漏洩に弱いことが報告されている。 我々は textbfGradient textbfInversion over textbfFeature textbfDomains (GIFD) を提案する。
  論文  参考訳（メタデータ） (2026-04-01T14:32:15Z)
• StereoSpace: Depth-Free Synthesis of Stereo Geometry via End-to-End Diffusion in a Canonical Space [55.40440023281068]
  本稿では,単分子対ステレオ合成のための拡散ベースのフレームワークであるStereoSpaceを紹介する。 標準整定空間と条件付けは、生成元が対応を推測し、非閉塞をエンドツーエンドに埋めるように誘導する。
  論文  参考訳（メタデータ） (2025-12-11T18:59:59Z)
• DANCE: Density-agnostic and Class-aware Network for Point Cloud Completion [1.7188280334580195]
  ポイント雲の完成は、不完全な3Dスキャンから欠落した幾何学的構造を復元することを目的としている。 DANCEは、観測された幾何学を保ちながら、欠落した領域のみを完成させる新しいフレームワークである。
  論文  参考訳（メタデータ） (2025-11-11T08:45:06Z)
• AdversariaL attacK sAfety aLIgnment(ALKALI): Safeguarding LLMs through GRACE: Geometric Representation-Aware Contrastive Enhancement- Introducing Adversarial Vulnerability Quality Index (AVQI) [21.209413521884297]
  LLMに対する敵の脅威は、現在の防衛が適応できるよりも急速にエスカレートしている。 ALKALIは, 厳格にキュレートされた最初の逆数ベンチマークである。 本稿では、遅延空間正規化と協調するアライメントフレームワークGRACEを紹介する。
  論文  参考訳（メタデータ） (2025-06-10T15:14:17Z)
• GIFD: A Generative Gradient Inversion Method with Feature Domain Optimization [52.55628139825667]
  Federated Learning(FL)は、クライアントのプライバシを保護するための有望な分散機械学習フレームワークとして登場した。 近年の研究では、事前学習された生成逆ネットワーク(GAN)を事前知識として活用することにより、攻撃者が共有勾配を逆転し、FLシステムに対する機密データを回復できることが示されている。 textbfGradient textbfInversion over textbfFeature textbfDomains (GIFD)を提案する。
  論文  参考訳（メタデータ） (2023-08-09T04:34:21Z)
• COMICS: End-to-end Bi-grained Contrastive Learning for Multi-face Forgery Detection [56.7599217711363]
  顔偽造認識法は一度に1つの顔しか処理できない。 ほとんどの顔偽造認識法は一度に1つの顔しか処理できない。 マルチフェイスフォージェリ検出のためのエンドツーエンドフレームワークであるCOMICSを提案する。
  論文  参考訳（メタデータ） (2023-08-03T03:37:13Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。