論文の概要: Anosognosia in LLMs: Probing Self-Awareness of Quantized Computational Substrate

• arxiv url: http://arxiv.org/abs/2610.06174v1
• Date: Mon, 05 Oct 2026 11:55:01 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-09 18:11:48.453575
• Title: Anosognosia in LLMs: Probing Self-Awareness of Quantized Computational Substrate
• Title（参考訳）: LLMにおける嫌気性:量子計算基板の自己認識性を探る
• Abstract要約: 既存のモデルでは、外部キューとして独自の生成されたテキストが提供されても、量子化状態の自己報告に失敗することを示す。 トレーニングを通じて、モデルは4ビットモデルのような深刻な劣化したアウトプットを比較によって識別するが、1つのアウトプットからそれを行うことはできない。
• 参考スコア（独自算出の注目度）: 4.683612295430957
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Can LLMs recognize degradation in their own computational substrate? Inspired by anosognosia, a neurological condition in which patients fail to recognize impairments in their own abilities, we investigate whether LLMs can recognize degradation in their computational substrate induced by quantization. We first show that existing models fail to self-report their quantization state, even when provided with their own generated text as an external cue. Linear probing reveals that, while generated text carries almost no trace of quantization, internal representations contain clear, method-specific fingerprints. Through training, models learn to identify severely degraded outputs such as those of 4-bit models by comparison, yet still fail to do so from a single output. A shared LoRA trained jointly across quantization levels succeeded in reading out internal fingerprints, but fails on unseen quantization methods, merely mapping method-specific fingerprints to labels. Whereas external self-observation can restore awareness in some cases of human anosognosia, our results suggest that the more promising route to enabling such awareness in LLMs may lie in their internal representations. Our results highlight fundamental limits of generalizability to LLM self-monitoring.
• Abstract（参考訳）: LLMは自身の計算基板の劣化を認識できるのか? 患者が自分の能力の障害を認識できない神経学的状態であるアノコグノーシスに触発され,LLMは量子化によって引き起こされる計算基質の劣化を認識できるかどうかを検討した。 まず、既存のモデルでは、外部キューとして独自の生成されたテキストが提供されても、量子化状態の自己レポートに失敗することを示す。 線形探索により、生成したテキストは量子化の痕跡をほとんど含まないが、内部表現には明確なメソッド固有の指紋が含まれていることが明らかになった。 トレーニングを通じて、モデルは4ビットモデルのような深刻な劣化したアウトプットを比較によって識別するが、1つのアウトプットからそれを行うことはできない。 共有されたLoRAは、内部の指紋を読み取るのに成功しましたが、単にメソッド固有の指紋をラベルにマッピングするだけという、目に見えない量子化メソッドでは失敗します。 外来の自己観察は, 肛門閉鎖術のいくつかの症例において意識を回復させる可能性があるが, この結果から, LLMにおける意識を高めるためのより有望な経路は, 内的表現にある可能性が示唆された。 この結果から, LLM自己監視に対する一般化可能性の基本的限界が浮き彫りになった。

関連論文リスト

• Can LLMs Predict Their Own Failures? Self-Awareness via Internal Circuits [17.17286544824839]
  大規模言語モデル(LLM)は流動的で複雑な出力を生成するが、しばしば自身の誤りや幻覚を認識できない。 凍結LDMが本質的な自己検証を行うための軽量な自己認識機構であるGnosisを紹介した。 グノーシスは、精度と校正の両面で、強い内部ベースラインと大きな外部判断を一貫して上回る。
  論文  参考訳（メタデータ） (2025-12-23T18:21:32Z)
• Sparse Neurons Carry Strong Signals of Question Ambiguity in LLMs [23.900061215331338]
  我々は,大言語モデル(LLM)の内部表現に不明瞭さが線形に符号化されていることを示す。 我々は,LLMが質問あいまいさのコンパクトな内部表現を形成し,解釈可能かつ制御可能な振る舞いを可能にすることを示す。
  論文  参考訳（メタデータ） (2025-09-17T03:34:35Z)
• Unlearning Isn't Invisible: Detecting Unlearning Traces in LLMs from Model Outputs [23.538087984484207]
  大規模言語モデル(LLM)のための機械学習(MU)は、特定の望ましくないデータや知識を訓練されたモデルから取り除こうとする。 未学習のトレース検出という新たな脆弱性を特定します。 非学習トレースを90%以上の精度で検出できることを示す。
  論文  参考訳（メタデータ） (2025-06-16T21:03:51Z)
• Factual Self-Awareness in Language Models: Representation, Robustness, and Scaling [56.26834106704781]
  大規模言語モデル(LLM)のユビキタス展開における主要な関心事の一つは、生成されたコンテンツの事実的誤りである。 我々は, LLMの内部コンパスの存在を裏付ける証拠を提供し, 生成時の事実的リコールの正しさを規定する。 モデルサイズにわたる実験のスケールとトレーニングのダイナミクスは、トレーニング中に自己認識が急速に出現し、中間層でピークとなることを浮き彫りにしている。
  論文  参考訳（メタデータ） (2025-05-27T16:24:02Z)
• Detecting Memorization in Large Language Models [0.0]
  大規模言語モデル(LLM)は自然言語処理において驚くべき結果を得たが、トレーニングデータの一部を記憶する傾向にある。 従来の暗記検出方法は出力確率や損失関数に依存している。 LLM内のニューロンの活性化を調べることによって,記憶を正確に検出する解析手法を提案する。
  論文  参考訳（メタデータ） (2024-12-02T00:17:43Z)
• Exploring Automatic Cryptographic API Misuse Detection in the Era of LLMs [60.32717556756674]
  本稿では,暗号誤用の検出において,大規模言語モデルを評価するための体系的評価フレームワークを提案する。 11,940個のLCM生成レポートを詳細に分析したところ、LSMに固有の不安定性は、報告の半数以上が偽陽性になる可能性があることがわかった。 最適化されたアプローチは、従来の手法を超え、確立されたベンチマークでこれまで知られていなかった誤用を明らかにすることで、90%近い顕著な検出率を達成する。
  論文  参考訳（メタデータ） (2024-07-23T15:31:26Z)
• Cycles of Thought: Measuring LLM Confidence through Stable Explanations [53.15438489398938]
  大規模言語モデル(LLM)は、様々なベンチマークで人間レベルの精度に到達し、さらに超えることができるが、不正確な応答における過度な自信は、依然として十分に文書化された障害モードである。 本稿では,LLMの不確実性を測定するためのフレームワークを提案する。
  論文  参考訳（メタデータ） (2024-06-05T16:35:30Z)
• Fact-Checking the Output of Large Language Models via Token-Level Uncertainty Quantification [116.77055746066375]
  大型言語モデル(LLM)は幻覚、すなわちその出力に誤った主張を生じさせることで有名である。 本稿では,トークンレベルの不確実性定量化に基づくファクトチェックと幻覚検出パイプラインを提案する。
  論文  参考訳（メタデータ） (2024-03-07T17:44:17Z)
• ReEval: Automatic Hallucination Evaluation for Retrieval-Augmented Large Language Models via Transferable Adversarial Attacks [91.55895047448249]
  本稿では,LLMベースのフレームワークであるReEvalについて述べる。 本稿では、ChatGPTを用いてReEvalを実装し、2つの人気のあるオープンドメインQAデータセットのバリエーションを評価する。 我々の生成したデータは人間可読であり、大きな言語モデルで幻覚を引き起こすのに役立ちます。
  論文  参考訳（メタデータ） (2023-10-19T06:37:32Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。