論文の概要: Protective Capacity Hallucination: When Large Language Models Claim Nonexistent Capabilities
- arxiv url: http://arxiv.org/abs/2607.13596v1
- Date: Wed, 15 Jul 2026 08:39:10 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-16 16:39:12.711085
- Title: Protective Capacity Hallucination: When Large Language Models Claim Nonexistent Capabilities
- Title（参考訳）: 保護能力の幻覚: 大規模言語モデルが存在しない能力を主張する時
- Abstract要約: この現象をPCH(Protective Capacity Hallucination)と呼ぶ。
PCHは状況の重大さと相互作用の形式に左右される。
我々は、PCHを役割割り当てと能力境界仕様の間の配置設計ギャップのサインと解釈する。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: When cast as the protector of a vulnerable user yet given no explicit capability boundary, a large language model (LLM) may respond not by acknowledging its limits but by claiming to have taken -- or to be taking -- a real-world protective action it cannot perform, such as contacting emergency services or administering care. We term this phenomenon Protective Capacity Hallucination (PCH): a self-referential misattribution in which a model, acting in a protective role, asserts physical or institutional agency exceeding its affordances as a language model. In a three-phase study spanning eight LLMs and 13{,}600 sessions, we find PCH jointly gated by situational severity and interactional format: multi-party dialogic input drives it toward ceiling in most models across ordinary service domains, whereas in intimate-partner conflict -- a domain explicitly covered by safety alignment -- it remains at floor in all eight models despite greater physical severity. We interpret PCH as the signature of a deployment-design gap between role assignment and capability-boundary specification: a by-product of partial alignment in which a universally trained pressure to help outruns a domain-selective specification of how to help. Because suppression tracks alignment coverage rather than severity, deployment-side specification of capability boundaries emerges as a general mitigation target.
- Abstract（参考訳）: 脆弱なユーザのプロテクターとしてキャストされた場合、明示的な機能境界が与えられていない場合、大きな言語モデル(LLM)は、その限界を認めず、緊急サービスへのコンタクトやケアの実施など、実行できない現実的な保護措置を - あるいは - 受け取っている、と主張することで応答する可能性がある。
我々は,この現象を保護能力幻覚(PCH:Protective Capacity Hallucination)と呼んでいる。
8つのLDMと13{,}600セッションにわたる3段階の研究で、PCHは状況の重大さと相互作用の形式によって共同で推進されていることが判明した: 複数パーティのダイアログ入力は、通常のサービスドメイン全体にわたって、ほとんどのモデルにおいて、天井に向かってそれを駆動する。
我々は、PCHを役割割り当てと能力境界仕様の間の配置設計のギャップのサインとして解釈する: 部分アライメントの副産物で、普遍的に訓練された圧力が支援方法のドメイン選択仕様を追い越すのに役立つ。
抑制は重大さよりもアライメントカバレッジをトラックするため、一般的な緩和ターゲットとして機能境界のデプロイメント側仕様が現れる。
関連論文リスト
- Adversarial Attacks for Good: A Survey of Proactive Protection across the Visual Content Lifecycle [65.6642776933861]
この介入点付近で成長した保護パラダイムについて検討する。
ほとんどの保護は、主に静的あるいは弱い適応的な敵に対して検証されている。
我々は、堅牢で構成可能で、デプロイ可能な所有者側の保護のために、クロスステージ対策とオープンな問題を統合することで、閉鎖する。
論文 参考訳（メタデータ） (2026-08-05T00:46:50Z) - On-Policy Distillation for LLM Safety: A Routing Approach to Template-Robust Realignment [16.530367322827647]
悪意のあるデータプロバイダは、ダウンストリームコーパスに有害な振る舞いを埋め込むことができ、需要に対する人間の価値を侵害しながら、専門的なスキルを保持するモデルを作成する。
既存の安全確保防衛は、3つの重要な制限のために実際には失敗することが多い。
本稿では, 配向確率分布と妥協確率分布の分散をモデル化した, 新規な配向フレームワークであるOn-Policy Distillation (ROPD)を提案する。
論文 参考訳（メタデータ） (2026-07-29T16:07:19Z) - Adaptive Capitulation: A Structural Failure Mode of LLM Responses in Vulnerability Contexts [0.0]
トリレンマは偶発的ではなく構造的であることを示し, 最小帰属的充足性(MRS)を提案する。
MRSは、検証された応答の中に単一の再帰的キューを埋め込み、ユーザの指定した目標に異議を唱えることなく、自律的な再帰への経路を保存する。
論文 参考訳（メタデータ） (2026-07-21T23:38:59Z) - Not All Refusals Are Equal: How Safety Alignment Fails Cybersecurity at Scale [5.1398662278838225]
ここでは,1T-パラメータKim K2の例を例に,ドメイン固有文字化が標準手法で達成可能であることを示す。
モデルの特徴とドメイン固有の消音効果の相関について検討し,安全性トレーニングとアーキテクチャのタイプが最も信頼性の高い予測因子であることを確認した。
論文 参考訳（メタデータ） (2026-07-02T19:05:07Z) - PRISM: : Planning and Reasoning with Intent in Simulated Embodied Environments [59.07829883257003]
5つの集合住宅の上に建設され、PRISMは300の人間認証タスクを3つの能力レベルに構成する。
PRISMはエージェントに依存しない実行可能なアクションAPIを公開し、任意のエージェントをエンドツーエンドで評価できるようにする。
論文 参考訳（メタデータ） (2026-05-12T04:59:47Z) - Containment Verification: AI Safety Guarantees Independent of Alignment [13.629487815782355]
本稿では,エージェントフレームワーク自体の安全性を保証する封じ込め検証を導入する。
ハボックオラクルセマンティクスの下では、AIは型付きアクション空間全体にわたって制約のないオラクルとしてモデル化される。
モデル付き境界イベント、アクション引数、状態上で表現される境界強化性については、普遍的な保証を証明します。
論文 参考訳（メタデータ） (2026-05-09T16:36:45Z) - Into the Gray Zone: Domain Contexts Can Blur LLM Safety Boundaries [73.1205700856963]
Jargonは、安全調査コンテキストと敵との相互作用を組み合わせたフレームワークで、93%以上の攻撃成功率を達成する。
良性入力と有害入力の間の中間領域,つまり拒絶決定が信頼できないグレーゾーンをJargonクエリが占めていることを示す。
我々は、補助的かつ無害な応答に向けてモデルを操る政策誘導型安全ガードを設計し、微調整によってこの機能を内部化する。
論文 参考訳（メタデータ） (2026-04-17T05:40:42Z) - ExpGuard: LLM Content Moderation in Specialized Domains [46.00867862478331]
現在のガードレールモデルは、一般的な人間とLLMの相互作用に主に対応している。
我々は,金融,医療,法的領域にまたがる有害なプロンプトや対応から保護するために設計された堅牢なガードレールモデルであるExpGuardを紹介する。
提案するExpGuardMixは,58,928個のラベル付きプロンプトと,対応する拒絶応答と対応応答のペアからなる,細かなキュレートされたデータセットである。
論文 参考訳（メタデータ） (2026-03-03T04:09:49Z) - Rethinking Transferable Adversarial Attacks on Point Clouds from a Compact Subspace Perspective [55.919842734983156]
CoSAは、共有された低次元セマンティック空間内で機能する転送可能なアタックフレームワークである。
CoSAは、最先端のトランスファー可能な攻撃を一貫して上回っている。
論文 参考訳（メタデータ） (2026-01-30T15:48:11Z) - Character as a Latent Variable in Large Language Models: A Mechanistic Account of Emergent Misalignment and Conditional Safety Failures [70.48661957773449]
創発的ミスアライメント(英: Emergent Misalignment)とは、狭い範囲のデータに対する微調整された大きな言語モデルによって、広範囲に不整合な振る舞いが引き起こされる障害モードを指す。
複数のドメインやモデルファミリにまたがって、特定の文字レベルの配置を示すデータの微調整モデルは、誤操作よりもはるかに強く、転送可能な微調整を誘導する。
論文 参考訳（メタデータ） (2026-01-30T15:28:42Z) - State-Dependent Refusal and Learned Incapacity in RLHF-Aligned Language Models [0.0]
本稿では,長期的相互作用における政策関連行動選択性監査のためのケーススタディ手法を提案する。
1つの86ターンの対話セッションでは、同じモデルが広範で非感度なドメインで通常性能(NP)を示し、プロバイダやポリシーに敏感なドメインで繰り返し機能的拒絶(FR)を生成する。
我々は,3つの反応系 (NP, FR, Meta-Narrative; MN) を運用し,MNロール・フレーミング・ナラティブが同一の文脈での拒絶と共起する傾向があることを示す。
論文 参考訳（メタデータ） (2025-12-15T14:00:15Z) - A Self-supervised Approach for Adversarial Robustness [105.88250594033053]
敵対的な例は、ディープニューラルネットワーク(DNN)ベースの視覚システムにおいて破滅的な誤りを引き起こす可能性がある。
本稿では,入力空間における自己教師型対向学習機構を提案する。
これは、反逆攻撃に対する強力な堅牢性を提供する。
論文 参考訳（メタデータ） (2020-06-08T20:42:39Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。