論文の概要: Testing the Limits of Truth Directions in LLMs

• arxiv url: http://arxiv.org/abs/2604.03754v1
• Date: Sat, 04 Apr 2026 15:01:09 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-07 15:49:18.753143
• Title: Testing the Limits of Truth Directions in LLMs
• Title（参考訳）: LLMにおける真理方向の限界試験
• Authors: Angelos Poulis, Mark Crovella, Evimaria Terzi,
• Abstract要約: 我々は、真理の方向性が極めて層依存的であることを示し、普遍性を完全に理解するにはモデルの多くの層で探索が必要であることを示した。 また、真理の方向はタスクタイプに大きく依存しており、タスクを推論するための実層や後層の前の層に現れることも示しています。 以上の結果から,真理方向の普遍性主張は従来よりも限定的であり,様々なモデル層,タスク困難,タスクタイプ,プロンプトテンプレートに有意差が認められた。
• 参考スコア（独自算出の注目度）: 8.253651182480981
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Large language models (LLMs) have been shown to encode truth of statements in their activation space along a linear truth direction. Previous studies have argued that these directions are universal in certain aspects, while more recent work has questioned this conclusion drawing on limited generalization across some settings. In this work, we identify a number of limits of truth-direction universality that have not been previously understood. We first show that truth directions are highly layer-dependent, and that a full understanding of universality requires probing at many layers in the model. We then show that truth directions depend heavily on task type, emerging in earlier layers for factual and later layers for reasoning tasks; they also vary in performance across levels of task complexity. Finally, we show that model instructions dramatically affect truth directions; simple correctness evaluation instructions significantly affect the generalization ability of truth probes. Our findings indicate that universality claims for truth directions are more limited than previously known, with significant differences observable for various model layers, task difficulties, task types, and prompt templates.
• Abstract（参考訳）: 大規模言語モデル(LLM)は、その活性化空間におけるステートメントの真理を線形真理方向に沿って符号化することが示されている。 従来の研究では、これらの方向は特定の面で普遍的であると論じられていたが、より最近の研究では、いくつかの設定において限定的な一般化についての結論に疑問を呈している。 本研究では、これまで理解されていなかった真理指向普遍性のいくつかの限界を同定する。 まず、真理方向は層依存性が高く、普遍性を完全に理解するにはモデルの多くの層で探索が必要であることを示す。 次に、真理の方向はタスクタイプに大きく依存していることを示し、タスクを推論するための実際の層とその後の層に現れる。 最後に、モデル命令が真理方向に劇的な影響を与え、単純な正しさ評価命令が真理プローブの一般化能力に著しく影響を及ぼすことを示す。 以上の結果から,真理方向の普遍性主張は従来よりも限定的であり,様々なモデル層,タスク困難,タスクタイプ,プロンプトテンプレートに有意差が認められた。

関連論文リスト

• Emergence of Linear Truth Encodings in Language Models [64.86571541830598]
  大規模言語モデルは偽文と真を区別する線形部分空間を示すが、それらの出現のメカニズムは不明確である。 このような真理部分空間をエンドツーエンドに再現する,透明な一層トランスフォーマー玩具モデルを導入する。 本研究では,真理エンコーディングが実現可能な単純な設定について検討し,将来のトークンにおけるLM損失を減らすために,この区別を学習するようモデルに促す。
  論文  参考訳（メタデータ） (2025-10-17T16:30:07Z)
• Probing the Geometry of Truth: Consistency and Generalization of Truth Directions in LLMs Across Logical Transformations and Question Answering Tasks [31.379237532476875]
  我々は,大規模言語モデル (LLM) が真理性を「真理方向」と呼ぶ線形特徴としてエンコードするかどうかを考察する。 以上の結果から,全てのLLMが一貫した真理方向を示すわけではなく,より有能なモデルでより強い表現が観察されることがわかった。 宣言的原子文に基づいて訓練された真理性プローブは、論理変換、質問応答タスク、文脈内学習、外部知識ソースに効果的に一般化できることを示す。
  論文  参考訳（メタデータ） (2025-06-01T03:55:53Z)
• Exploring the generalization of LLM truth directions on conversational formats [0.0]
  モデル内の1つの隠れ状態でトレーニングされた線形プローブは、既に様々なトピックにわたって一般化されていることを示す。 嘘で終わる短い会話の間には良い一般化があるが、入力プロンプトにその嘘が早く現れるより長いフォーマットへの一般化は不十分である。
  論文  参考訳（メタデータ） (2025-05-14T21:21:08Z)
• Exploring the Generalizability of Factual Hallucination Mitigation via Enhancing Precise Knowledge Utilization [49.95746521480879]
  PKUE(Precise Knowledge utilization Enhancement, 精密知識利用促進)を導入し, 正確かつ単純な事実質問に対する自己生成応答のモデルを微調整する。 大規模な実験により、PKUEはLLM全体の性能を著しく改善することが示された。
  論文  参考訳（メタデータ） (2025-02-26T13:34:52Z)
• The Geometry of Truth: Emergent Linear Structure in Large Language Model Representations of True/False Datasets [6.732432949368421]
  大きな言語モデル(LLM)には印象的な能力があるが、偽装を出力する傾向がある。 近年の研究では、LLMの内部アクティベーションに関するプローブを訓練することで、LLMが真実を語っているかどうかを推測する手法が開発されている。 十分な規模で LLM が実言の真偽を線形に表す証拠を示す。
  論文  参考訳（メタデータ） (2023-10-10T17:54:39Z)
• Do Large Language Models Know about Facts? [60.501902866946]
  大規模言語モデル(LLM)は、最近、さまざまな自然言語処理タスクにおいて、大幅なパフォーマンス改善を推進している。 我々は,ベンチマークPinocchioを設計し,LLM内の事実知識の範囲と範囲を評価することを目的とする。 Pinocchioには、異なるソース、タイムライン、ドメイン、リージョン、言語にまたがる20万のさまざまな事実質問が含まれている。
  論文  参考訳（メタデータ） (2023-10-08T14:26:55Z)
• DoLa: Decoding by Contrasting Layers Improves Factuality in Large Language Models [79.01926242857613]
  大型言語モデル(LLM)は幻覚を起こす傾向があり、事前訓練中に見られる事実から逸脱した内容を生成する。 事前学習したLLMによる幻覚を低減するための簡単な復号法を提案する。 コントラスティング・レイヤ(DoLa)アプローチによるこのデコーディングは,事実知識をよりよく提示し,誤った事実の生成を減らすことができる。
  論文  参考訳（メタデータ） (2023-09-07T17:45:31Z)
• FaVIQ: FAct Verification from Information-seeking Questions [77.7067957445298]
  実ユーザによる情報探索質問を用いて,ファVIQと呼ばれる大規模事実検証データセットを構築した。 我々の主張は自然であると証明され、語彙バイアスがほとんどなく、検証の証拠を完全に理解する必要がある。
  論文  参考訳（メタデータ） (2021-07-05T17:31:44Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。