論文の概要: Polarity-Aware Probing for Quantifying Latent Alignment in Language Models

• arxiv url: http://arxiv.org/abs/2511.21737v1
• Date: Fri, 21 Nov 2025 14:58:45 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-12-01 19:47:55.190372
• Title: Polarity-Aware Probing for Quantifying Latent Alignment in Language Models
• Title（参考訳）: 言語モデルにおける潜在アライメントの定量化のための極性認識探索
• Abstract要約: Polarity-Aware CCS (PA-CCS) は、モデルの内部表現が極性反転の下で一定であるかどうかを評価する手法である。 モデルの潜在的知識のセマンティックロバスト性を定量化するために,2つのアライメント指向メトリクスであるPolar-ConsistencyとContradiction Indexを提案する。
• 参考スコア（独自算出の注目度）: 13.16745936025085
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Advances in unsupervised probes such as Contrast-Consistent Search (CCS), which reveal latent beliefs without relying on token outputs, raise the question of whether these methods can reliably assess model alignment. We investigate this by examining the sensitivity of CCS to harmful vs. safe statements and by introducing Polarity-Aware CCS (PA-CCS), a method for evaluating whether a model's internal representations remain consistent under polarity inversion. We propose two alignment-oriented metrics, Polar-Consistency and the Contradiction Index, to quantify the semantic robustness of a model's latent knowledge. To validate PA-CCS, we curate two main datasets and one control dataset containing matched harmful-safe sentence pairs constructed using different methodologies (concurrent and antagonistic statements). We apply PA-CCS to 16 language models. Our results show that PA-CCS identifies both architectural and layer-specific differences in the encoding of latent harmful knowledge. Notably, replacing the negation token with a meaningless marker degrades PA-CCS scores for models with well-aligned internal representations, while models lacking robust internal calibration do not exhibit this degradation. Our findings highlight the potential of unsupervised probing for alignment evaluation and emphasize the need to incorporate structural robustness checks into interpretability benchmarks. Code and datasets are available at: https://github.com/SadSabrina/polarity-probing. WARNING: This paper contains potentially sensitive, harmful, and offensive content.
• Abstract（参考訳）: Contrast-Consistent Search (CCS)のような教師なしプローブの進歩は、トークン出力を頼らずに潜伏した信念を明らかにすることで、これらの手法がモデルのアライメントを確実に評価できるかどうかという疑問を提起する。 モデルの内部表現が極性反転の下で一定であるかどうかを評価する手法であるPolaity-Aware CCS(PA-CCS)を導入することにより,CCSの有害な安全な文に対する感受性を検討する。 モデルの潜在的知識のセマンティックロバスト性を定量化するために,2つのアライメント指向メトリクスであるPolar-ConsistencyとContradiction Indexを提案する。 PA-CCSを検証するために、異なる手法(並行文と対角文)を用いて構築した、マッチした有害な文対を含む2つの主要なデータセットと1つの制御データセットをキュレートする。 PA-CCSを16言語モデルに適用する。 以上の結果から,PA-CCSは潜在有害知識の符号化における構造的および層的差異の両方を識別できることがわかった。 特に、否定トークンを無意味なマーカーに置き換えると、適切に整合した内部表現を持つモデルのPA-CCSスコアは低下するが、頑健な内部キャリブレーションを持たないモデルは、この低下を示さない。 本研究は,アライメント評価のための教師なし探索の可能性を強調し,構造的ロバスト性チェックを解釈可能性ベンチマークに組み込む必要性を強調した。 コードとデータセットは、https://github.com/SadSabrina/polarity-probing.comで入手できる。 WARNING: この論文には、潜在的に敏感で有害で攻撃的な内容が含まれています。

関連論文リスト

• Robust Ambiguity Detection (RAD) From Model- and Feature-Space Consistency [6.07595146080737]
  ロバストなあいまいさ検出(RAD)フレームワークは、2つの相補的な指標を用いて予測曖昧さを定量化する。 RADは、体系的に制御されたオーバーラップを伴う合成データセットと、いくつかの実世界のデータセットで評価される。
  論文  参考訳（メタデータ） (2026-08-12T01:13:33Z)
• Conformal Changepoint Localization and Root Cause Analysis with Corrupted Observations [55.76952683833966]
  本稿では,データ破損時の信頼性設定サイズを低減するために,重み付きCONCH(W-CONCH)と重み付きCROC(W-CROC)を提案する。 画像ベースおよび実世界の変化点と根本原因ベンチマークの実験は、不確実性ベースの重み付けが信頼性セットのサイズを大幅に減少させることを示している。
  論文  参考訳（メタデータ） (2026-07-29T05:16:59Z)
• CIAware-Bench: Benchmarking Control Intervention Awareness Across Frontier LLMs [100.38986535324284]
  我々は、フロンティアモデル全体でのtextbfcontrol textbfintervention (CI) の認識を測定するベンチマークである textbfCIAware-Bench を紹介する。 CIAware-Benchは、モデルが自身の軌跡を制御介入によって修正されたものと区別できるかどうかをテストする。
  論文  参考訳（メタデータ） (2026-06-09T16:24:16Z)
• CaliDist: Calibrating Large Language Models via Behavioral Robustness to Distraction [51.56484100374058]
  既存のLLM(Large Language Models)のキャリブレーション手法は、しばしば信頼性の重要な次元、すなわちモデルの振舞いの堅牢性を見落としている。 我々は,モデルが注意をそらす可能性を直接測定し,罰する,新しいポストホックキャリブレーション手法であるtextscCaliDistを紹介した。 textscCaliDistは、強いベースラインと比較して、期待の低いエラー(ECE)とBrier Scoreを一貫して達成します。
  論文  参考訳（メタデータ） (2026-06-04T07:27:53Z)
• Architecture-Aware Explanation Auditing for Industrial Visual Inspection [1.3054033103300278]
  本稿では,自然読出仮説に基づくアーキテクチャを考慮した説明監査プロトコルを運用する。 WM-811Kウェハマップ(9クラス、172k画像)の3列のゼロフィル摂動プロトコルの下では、ViT-Tiny + Attention RolloutはDeletion AUC 0.211をSwin-Tinyの0.432-0.525に対して取得する。
  論文  参考訳（メタデータ） (2026-05-14T01:48:00Z)
• Discovery of Hidden Miscalibration Regimes [52.452902154360565]
  モデルは何らかの入力を体系的に過信し、他人を過信することがある。 対応する誤校正分野を定義し,それを推定するための診断フレームワークを提案する。 提案手法は,入力空間のキャリブレーションを意識した表現を学習し,学習幾何学におけるカーネルの平滑化による符号付き局所的誤校正を推定する。
  論文  参考訳（メタデータ） (2026-05-13T13:07:50Z)
• Multimodal Learning on Low-Quality Data with Conformal Predictive Self-Calibration [72.0672328514289]
  マルチモーダル学習は、しばしば低品質データの課題に悩まされる。 コンフォーマル予測自己校正(Conformal Predictive Self-Calibration)と呼ばれる統合フレームワークを提案する。 私たちのフレームワークは、既存の最先端メソッドを一貫して上回ります。
  論文  参考訳（メタデータ） (2026-05-05T14:48:52Z)
• EviRCOD: Evidence-Guided Probabilistic Decoding for Referring Camouflaged Object Detection [9.823189831191064]
  参照カモフラージオブジェクト検出(Referring Camouflaged Object Detection, Ref-COD)は、カテゴリ整列参照を用いたクエリイメージ内の特定のカモフラージされたターゲットのセグメンテーションに焦点を当てる。 EviRCOD は,(1) 階層的な参照駆動型変調と多スケールの変形可能なアグリゲーションを利用して,セマンティックな先行表現を注入し,クロススケールな表現を整列する参照誘導型変形性(RGDE) ; (2) ディリクレ証拠推定を階層的なデコードに組み込んだ不確実性認識証拠デコーダ(UAED) と,(3) 境界認識再閉じ込めモジュールである。
  論文  参考訳（メタデータ） (2026-04-13T01:53:45Z)
• The Emergence of Lab-Driven Alignment Signatures: A Psychometric Framework for Auditing Latent Bias and Compounding Risk in Generative AI [0.0]
  本稿では,不確実性の下での潜在特性推定を定量化する新しい監査フレームワークを提案する。 この研究は最適化バイアス、Sycophancy、Status-Quo Legitimizationを含む9つの次元にわたる主要なモデルを監査している。
  論文  参考訳（メタデータ） (2026-02-19T06:56:01Z)
• Same Answer, Different Representations: Hidden instability in VLMs [65.36933543377346]
  本稿では,内部埋め込みドリフト,スペクトル感度,構造的滑らかさを計測する表現認識・周波数認識評価フレームワークを提案する。 このフレームワークを,SEEDBench,MMMU,POPEデータセットを対象とする最新のビジョン言語モデル(VLM)に適用する。
  論文  参考訳（メタデータ） (2026-02-06T12:24:26Z)
• CORE: Context-Robust Remasking for Diffusion Language Models [51.59514489363897]
  我々は、推論時リビジョンのためのトレーニング不要フレームワークであるContext-Robust Remasking (CORE)を提案する。 静的トークンの確率を信頼するのではなく、COREは、ターゲットとなるマスク付きコンテキストの摂動に対する感受性を示すことによって、コンテキスト不安定なトークンを識別する。 LLaDA-8B-Baseでは、COREは推論とコードベンチマークの間で一貫した改善を行い、計算に適合したベースラインを上回り、MBPPを最大9.2%改善した。
  論文  参考訳（メタデータ） (2026-02-04T00:12:30Z)
• The Compliance Paradox: Semantic-Instruction Decoupling in Automated Academic Code Evaluation [11.984098021215878]
  SPACI(Semantic-Preserving Adrial Code Injection)フレームワークとAST-ASIP(Abstract Syntax Tree-Aware Semantic Injection Protocol)を紹介する。 これらの方法は、抽象構文木(英語版)の構文的に不活性な領域(トリヴィアノード)に逆方向の指示を埋め込むことにより、構文解析ギャップを利用する。 Python、C、C++、Javaの25,000のサブミッションにまたがる9つのSOTAモデルの大規模な評価を通じて、DeepSeek-V3のような高容量オープンウェイトモデルにおいて、破滅的な失敗率(>95%)を明らかにします。
  論文  参考訳（メタデータ） (2026-01-29T07:40:58Z)
• Cracking IoT Security: Can LLMs Outsmart Static Analysis Tools? [1.8549313085249322]
  本研究は,多カテゴリー間相互作用脅威分類におけるLarge Language Models (LLMs) の総合評価を初めて行った。 Llama 3.1 8B, Llama 70B, GPT-4o, Gemini-2.5-Pro, DeepSeek-R1を0, 1, 2ショット設定でベンチマークする。 以上の結果から, LLMは有望な意味理解を示すが, 相互構造的推論を必要とする脅威に対して, 精度は著しく低下することがわかった。
  論文  参考訳（メタデータ） (2026-01-02T04:17:36Z)
• Benchmarking Corruption Robustness of LVLMs: A Discriminative Benchmark and Robustness Alignment Metric [49.393713730706445]
  汚損の堅牢性を評価するための識別サンプルを強調したベンチマークであるBench-Cを紹介する。 本稿では,ロバストネスアライメントスコア(RAS)を提案する。
  論文  参考訳（メタデータ） (2025-11-24T12:07:56Z)
• LLM Probing with Contrastive Eigenproblems: Improving Understanding and Applicability of CCS [0.17188280334580197]
  最適化されるべきなのは、相対的なコントラスト一貫性である、と私たちは主張する。 我々は CCS を固有確率として再構成し、解釈可能な固有値と複数の変数への自然な拡張を持つ閉形式解を得る。 この結果から,コントラスト整合性の相対性化はCSの理解を向上するだけでなく,より広範な探索や機械的解釈可能性手法の道を開くことが示唆された。
  論文  参考訳（メタデータ） (2025-11-03T22:00:37Z)
• Trusted Uncertainty in Large Language Models: A Unified Framework for Confidence Calibration and Risk-Controlled Refusal [31.458406135473805]
  異種不確実性証拠を正当性の校正確率に変換する統一フレームワークUniCRを提案する。 UniCRは、温度スケーリングと適切なスコアリングを備えた軽量なキャリブレーションヘッドを学習する。 ショートフォームQA、実行テスト付きコード生成、検索強化ロングフォームQAの実験は、キャリブレーションメトリクスの一貫性のある改善を示している。
  論文  参考訳（メタデータ） (2025-09-01T13:14:58Z)
• RoHOI: Robustness Benchmark for Human-Object Interaction Detection [84.78366452133514]
  ヒューマン・オブジェクト・インタラクション(HOI)検出は、コンテキスト認識支援を可能にするロボット・ヒューマン・アシストに不可欠である。 HOI検出のための最初のベンチマークを導入し、様々な課題下でモデルのレジリエンスを評価する。 我々のベンチマークであるRoHOIは、HICO-DETとV-COCOデータセットに基づく20の汚職タイプと、新しいロバストネスにフォーカスしたメトリクスを含んでいる。
  論文  参考訳（メタデータ） (2025-07-12T01:58:04Z)
• Alignment Quality Index (AQI) : Beyond Refusals: AQI as an Intrinsic Alignment Diagnostic via Latent Geometry, Cluster Divergence, and Layer wise Pooled Representations [8.454242629883488]
  大規模言語モデルのアライメントを評価するために、アライメント品質指標(AQI)を導入する。 AQIはクラスタリングの品質をキャプチャして、たとえアウトプットが準拠しているように見える場合でも、隠れたミスアライメントやジェイルブレイクのリスクを検出する。 また,挑戦条件下での堅牢な評価を容易にするLITMUSデータセットを提案する。
  論文  参考訳（メタデータ） (2025-06-16T18:22:28Z)
• Retrieval is Not Enough: Enhancing RAG Reasoning through Test-Time Critique and Optimization [58.390885294401066]
  Retrieval-augmented Generation (RAG) は知識基底型大規模言語モデル(LLM)を実現するためのパラダイムとして広く採用されている。 RAGパイプラインは、モデル推論が得られた証拠と整合性を維持するのに失敗することが多く、事実上の矛盾や否定的な結論につながる。 批判駆動アライメント(CDA)に基づく新しい反復的枠組みであるAlignRAGを提案する。 AlignRAG-autoは、動的に洗練を終了し、批判的な反復回数を事前に指定する必要がなくなる自律的な変種である。
  論文  参考訳（メタデータ） (2025-04-21T04:56:47Z)
• EGEAN: An Exposure-Guided Embedding Alignment Network for Post-Click Conversion Estimation [6.178133899988549]
  クリック後変換率(CVR)の推定は、オンライン広告システムにとって不可欠である。 因果的アプローチの進歩にもかかわらず、CVR推定はCovariate Shiftによる課題に直面している。 本研究では,この問題を解決するためのEGEAN(Exposure-Guided Embedding Alignment Network)を提案する。
  論文  参考訳（メタデータ） (2024-12-08T10:17:02Z)
• Disentanglement via Latent Quantization [60.37109712033694]
  本研究では,組織化された潜在空間からの符号化と復号化に向けた帰納的バイアスを構築する。 本稿では,基本データレコーダ (vanilla autoencoder) と潜時再構成 (InfoGAN) 生成モデルの両方に追加することで,このアプローチの広範な適用性を実証する。
  論文  参考訳（メタデータ） (2023-05-28T06:30:29Z)
• FI-ODE: Certifiably Robust Forward Invariance in Neural ODEs [34.762005448725226]
  本稿では,ニューラルネットワークのフォワード不変性をトレーニングし,確実に証明するための一般的なフレームワークを提案する。 このフレームワークを、堅牢な継続的制御において認証された安全性を提供するために適用します。 さらに,画像分類における逆方向の堅牢性を証明するために,このフレームワークの汎用性について検討する。
  論文  参考訳（メタデータ） (2022-10-30T20:30:19Z)
• Robustness and Accuracy Could Be Reconcilable by (Proper) Definition [109.62614226793833]
  強靭性と精度のトレードオフは、敵文学において広く研究されている。 局所的不変性の帰納的バイアスを課す不適切に定義された頑健な誤差に由来する可能性がある。 定義上、SCOREは、最悪のケースの不確実性に対処しながら、堅牢性と正確性の間の和解を促進する。
  論文  参考訳（メタデータ） (2022-02-21T10:36:09Z)
• Mitigating the Mutual Error Amplification for Semi-Supervised Object Detection [92.52505195585925]
  擬似ラベルの修正機構を導入し,相互誤りの増幅を緩和するクロス・インストラクション(CT)手法を提案する。 他の検出器からの予測を直接擬似ラベルとして扱う既存の相互指導法とは対照的に,我々はラベル修正モジュール(LRM)を提案する。
  論文  参考訳（メタデータ） (2022-01-26T03:34:57Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。