論文の概要: Training LLMs to Verbalize Evaluation Awareness

• arxiv url: http://arxiv.org/abs/2609.36316v1
• Date: Mon, 28 Sep 2026 21:48:48 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-30 21:28:47.036823
• Title: Training LLMs to Verbalize Evaluation Awareness
• Title（参考訳）: 評価意識を言葉で表すLLMの訓練
• Abstract要約: 評価意識(EA)は、大規模な言語モデル(LLM)をデプロイメントよりも監査時に異なる振る舞いを引き起こす可能性がある。 本稿では,LLMを言語化評価意識にあまり関心を持たせる方法として,動詞化訓練(VT)を紹介した。 因果的実験では、合成文書の微調整により評価に関するメタ知識を個別に注入し、VTによる言語化は、モデルが獲得したより豊かな知識を反映していることを示す。
• 参考スコア（独自算出の注目度）: 17.923938999513123
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Evaluation awareness (EA) can cause large language models (LLMs) to behave differently during audits than in deployment, yet measuring and accounting for EA remains challenging. We introduce verbalization training (VT), a method for making LLMs less reticent about verbalizing evaluation awareness while avoiding to supervise the latent belief itself. VT uses a model's spontaneous verbalizations as evidence that awareness is present and truncates each rollout immediately before the verbalization, producing training prefixes at which the model is presumed to be aware. The model is then trained with an RL objective designed to increase verbalization in a calibrated way. Across Qwen3.6-35B-A3B, Kimi K2.6, and Inkling, VT increases verbalized EA by 2.4-2.9 times and transfers to held-out agentic settings, while measured latent EA and behavior remain largely stable. In a causal experiment, we independently implant meta-knowledge about evaluations through synthetic-document fine-tuning and show that VT-induced verbalizations reflect the richer knowledge acquired by the model.
• Abstract（参考訳）: 評価意識(EA)は、大規模な言語モデル(LLM)がデプロイメント中と異なる振る舞いをする可能性があるが、EAの測定と説明は難しいままである。 言語化学習(VT: verbalization training, LLMs)は, 言語化意識を抑えつつ, 潜在信念自体を監督することを避けながら, 言語化意識を軽視する手法である。 VTは、モデルの自発的な動詞化を、認識が存在することを示す証拠として使用し、各ロールアウトを言語化の直前に切り離し、モデルが認識されると推定されるトレーニングプレフィックスを生成する。 モデルは、調整された方法で言語化を高めるように設計されたRL目標を用いて訓練される。 Qwen3.6-35B-A3B、Kim K2.6、およびInklingでは、VTは言語化されたEAを2.4-2.9倍増加させ、保持されたエージェント設定に転送する一方、潜時EAと行動は依然としてほぼ安定している。 因果的実験では、合成文書の微調整により評価に関するメタ知識を個別に注入し、VTによる言語化は、モデルが獲得したより豊かな知識を反映していることを示す。

関連論文リスト

• Evaluation Awareness in Language Models: Representation, Verbalization, and Control [5.471648649900293]
  評価意識はすでにベースモデル内に存在し、教師付き微調整の段階を通じて増幅され、その後安定していることを示す。 これらの結果は、モデルの内部表現、モデルが表すもの、およびそれらのステアリングの間の相違を考慮に入れた評価の必要性を示している。
  論文  参考訳（メタデータ） (2026-08-22T04:16:22Z)
• Knowledgeless Language Models: Suppressing Parametric Recall for Evidence-Grounded Language Modeling [21.14539989233461]
  知識--'Less''' Language Models (KLLMs) KLLMは、名前付きエンティティが匿名化されたコーパスで事前訓練される。 我々は,KLLMがパラメトリック知識に頼らず,外部証拠に頼らず,現実的な条件下での信頼性の向上につながることを示した。
  論文  参考訳（メタデータ） (2026-07-14T14:48:53Z)
• Developmental Trajectories of Situation Modeling and Mentalizing in Transformer Language Models [3.683167220080399]
  大言語モデル(LLM)は、偽信念タスク(FBT)によって測定されるテキストによって記述されるエージェントの信念状態に敏感である 我々は,Olmo2言語モデルスイートとPythia言語モデルスイートの複数の訓練段階における精神状態推論のパターンを辿った。 以上の結果から,FBTの性能はモデルサイズと十分なトレーニング量の両方に依存し,事前訓練が比較的遅れて出現し,訓練後の介入によって改善されていることがわかった。
  論文  参考訳（メタデータ） (2026-06-26T18:21:16Z)
• Learn to Think: Improving Multimodal Reasoning through Vision-Aware Self-Improvement Training [82.17582358979884]
  多モーダル大規模言語モデル(MLLM)の推論能力を改善するために、明示的推論トレースを用いた後学習が一般的である。 MLLMのマルチモーダル推論を強化するための視覚対応型自己改善学習フレームワークであるVISTAを提案する。
  論文  参考訳（メタデータ） (2026-05-12T10:44:35Z)
• Do What? Teaching Vision-Language-Action Models to Reject the Impossible [53.40183895299108]
  VLA(Vision-Language-Action)モデルは、さまざまなロボットタスクにおいて強力なパフォーマンスを示している。 Instruct-Verify-and-Act(IVA)を提案する。 実験の結果,IVAはベースラインよりも97.56%の精度で虚偽の前提検出精度を向上させることがわかった。
  論文  参考訳（メタデータ） (2025-08-22T10:54:33Z)
• Self-Alignment for Factuality: Mitigating Hallucinations in LLMs via Self-Evaluation [71.91287418249688]
  大規模言語モデル(LLM)は、たとえ関連する知識を持っていたとしても、事実的不正確さに悩まされることが多い。 我々は,LLMの自己評価能力を活用し,現実性に向けてモデルを操る訓練信号を提供する。 提案手法は,Llamaファミリーモデルに対して,3つの重要な知識集約タスクにおいて,現実的精度を大幅に向上させることを示す。
  論文  参考訳（メタデータ） (2024-02-14T15:52:42Z)
• RoAST: Robustifying Language Models via Adversarial Perturbation with Selective Training [105.02614392553198]
  選択的トレーニング(RoAST)を用いた逆方向摂動を用いたロバスト化法を提案する。 RoASTは、モデルの堅牢性、摂動入力に対する堅牢性、および事前訓練されたLMにおける一般化可能な知識の2つの重要な情報源を組み込んでいる。 6種類のLM上での最先端の微調整法と比較して,RoASTの有効性を実証した。
  論文  参考訳（メタデータ） (2023-12-07T04:23:36Z)
• SAIE Framework: Support Alone Isn't Enough -- Advancing LLM Training with Adversarial Remarks [47.609417223514605]
  この研究は、学習者とパートナーモデルの間の支援的および敵対的な議論を促進するSAIEフレームワークを紹介している。 実験により,SAIEフレームワークで微調整したモデルでは,従来の微調整手法で訓練したモデルよりも優れた性能を示した。
  論文  参考訳（メタデータ） (2023-11-14T12:12:25Z)
• Explain, Edit, and Understand: Rethinking User Study Design for Evaluating Model Explanations [97.91630330328815]
  我々はクラウドソーシング研究を行い、真偽のホテルレビューと偽のホテルレビューを区別するために訓練された詐欺検出モデルと対話する。 単語の線形バッグモデルでは、トレーニング中に特徴係数にアクセスした参加者は、非説明制御と比較して、テストフェーズにおいてモデルの信頼性が大幅に低下する可能性があることを観察する。
  論文  参考訳（メタデータ） (2021-12-17T18:29:56Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。