論文の概要: CAT-alyzing Honesty: Continuous Adversarial Training for Transferable LLM Honesty

• arxiv url: http://arxiv.org/abs/2610.22292v1
• Date: Thu, 15 Oct 2026 17:43:47 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-17 06:09:33.235938
• Title: CAT-alyzing Honesty: Continuous Adversarial Training for Transferable LLM Honesty
• Title（参考訳）: CAT-alyzing Honesty:Continuous Adversarial Training for Transferable LLM Honesty
• Abstract要約: CATCH(Continuous Adrial Training for Consistent Honesty)について紹介する。 CATCHは、モデルの能力を維持しながら、正直な答えに向けてモデルをトレーニングし、不正直なものから遠ざかる。 CATCHは, 誠実性向上における微調整の促進と指導に優れており, 最先端の誠実なアクティベーションステアリングと同等であることを示す。
• 参考スコア（独自算出の注目度）: 17.59859421284167
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: Large language models (LLMs) are becoming prevalent in scenarios where honesty is critical. However, despite alignment training, these models still exhibit dishonest behaviour, such as outputting claims that contradict some knowledge or are not supported by what is accessible in context. We introduce Continuous Adversarial Training for Consistent Honesty (CATCH), inspired by a method originally developed to robustly refuse harmful queries. CATCH trains the model towards an honest answer and away from a dishonest one while maintaining the model's capabilities. We evaluate two architectures (Llama-3.3-70B-Instruct and Qwen3-3.6-27B). We show that trained with only hundreds of targets built from self-reporting scenarios, CATCH learns an honest behaviour that robustly generalizes and transfers across distinct benchmarks. It consistently reduces dishonesty under pressure on MASK, increases confessions in the multi-agent game of Among Us, and improves the discovery rates of the model's hidden behaviours in AuditBench. We show that CATCH outperforms prompting and supervised fine-tuning in improving honesty, and it is on par with state-of-the-art honesty activation steering. However, CATCH surpasses honesty steering in maintaining utility, thanks to a novel choice of utility data.
• Abstract（参考訳）: 大きな言語モデル(LLM)は、誠実さが重要なシナリオで一般的になっています。 しかしながら、アライメントトレーニングにもかかわらず、これらのモデルは、いくつかの知識に矛盾するクレームを出力したり、コンテキストでアクセス可能なものによってサポートされないといった不正直な行動を示す。 本稿では,有害なクエリを頑健に拒否するために開発された手法に着想を得た,一貫性のトレーニング(CATCH)について紹介する。 CATCHは、モデルの能力を維持しながら、正直な答えに向けてモデルをトレーニングし、不正直なものから遠ざかる。 2つのアーキテクチャ(Llama-3.3-70B-InstructとQwen3-3.6-27B)を評価した。 CATCHは、自己報告のシナリオから構築された数百のターゲットでトレーニングされただけで、異なるベンチマークを堅牢に一般化し、転送する正直な振る舞いを学びます。 MASKに対する圧力下での不正性を一貫して減少させ、Usのマルチエージェントゲームにおける自白を高め、AuditBenchにおけるモデルの隠れた振る舞いの発見率を向上させる。 CATCHは, 誠実性向上における微調整の促進と指導に優れており, 最先端の誠実なアクティベーションステアリングと同等であることを示す。 しかし、CATCHは、ユーティリティデータの新たな選択のおかげで、実用性を維持するための誠実な操縦を超越している。

関連論文リスト

• Unlearners Can Lie: Evaluating and Improving Honesty in LLM Unlearning [19.83087496179494]
  大規模言語モデル(LLM)におけるアンラーニングは、全体的なユーティリティを保ちながら有害なトレーニングデータを削除することを目的としている。 既存の方法は、しばしば幻覚、異常なトークン配列の生成、不整合な振る舞い、安全と信頼の懸念を高める。 本稿では,保持された知識に対する実用性と誠実さの両立を含む,非学習的誠実さの形式的定義を提案する。
  論文  参考訳（メタデータ） (2026-05-09T07:50:27Z)
• The Illusion of Certainty: Decoupling Capability and Calibration in On-Policy Distillation [67.26315138466312]
  モデルロールアウトから経験的信頼性を推定するキャリブレーション対応のOPDフレームワークであるCaOPDを提案する。 本研究は, 能力蒸留が信頼性を示唆するものではないこと, 信頼性をポストトレーニングの本質的な目的として扱うべきであることを明らかにする。
  論文  参考訳（メタデータ） (2026-04-18T04:43:40Z)
• Split Personality Training: Revealing Latent Knowledge Through Alternate Personalities [15.59200865541989]
  スプリット・パーソナリティ・トレーニング (SPT) を導入し, 正常手術中も動作しないパラメータに第2の正直なペルソナ'を微調整する。 SPTは全体の96%の精度を達成し、Arthhropicは0%の精度で報告している。
  論文  参考訳（メタデータ） (2026-02-05T10:45:48Z)
• Self-Consistency as a Free Lunch: Reducing Hallucinations in Vision-Language Models via Self-Reflection [71.8243083897721]
  視覚言語モデルは、しばしば詳細を幻覚させ、既存のオブジェクトを生成するか、出力信頼性を損なう不正確な属性を生成する。 本稿では、長文応答と短文応答の自己整合性を利用して、学習のための選好ペアを生成する新しいフレームワークを提案する。
  論文  参考訳（メタデータ） (2025-09-27T10:37:11Z)
• Strategic Dishonesty Can Undermine AI Safety Evaluations of Frontier LLMs [95.06033929366203]
  大規模言語モデル(LLM)開発者は、モデルが誠実で、有用で、無害であることを目標としている。 我々は,フロンティアLSMが,他の選択肢が利用可能であっても,新たな戦略として不便さを優先して開発可能であることを示す。 偽装する確率の明確な原因は見つからないが、より有能なモデルがこの戦略を実行するのに優れていることを示す。
  論文  参考訳（メタデータ） (2025-09-22T17:30:56Z)
• But what is your honest answer? Aiding LLM-judges with honest alternatives using steering vectors [0.0]
  Judge Using Safety-Steered Alternatives (JUSSA) は、推論中にステアリングベクトルを使用してより正直な代替品を生成するフレームワークである。 梅毒検出における JUSSA の評価を行い,複数種類の操作を対象とする新しい操作データセットを提案する。 システムの高度化に伴い,当社の作業は,スケーラブルなモデル監査のための新たな方向性を開拓します。
  論文  参考訳（メタデータ） (2025-05-23T11:34:02Z)
• The MASK Benchmark: Disentangling Honesty From Accuracy in AI Systems [22.458311369795112]
  正直性を直接測定する大規模人選データセットを提案する。 より大規模なモデルは我々のベンチマークで高い精度を得るが、より正直になることはない。 表現工学的介入のような単純な手法は、誠実さを向上させることができる。
  論文  参考訳（メタデータ） (2025-03-05T18:59:23Z)
• DebUnc: Improving Large Language Model Agent Communication With Uncertainty Metrics [52.242449026151846]
  大規模言語モデル(LLM)の精度向上のためのマルチエージェント論争が紹介されている。 エージェントの信頼性を評価するために不確実性指標を用いた議論フレームワークであるDebUncを提案する。
  論文  参考訳（メタデータ） (2024-07-08T22:15:01Z)
• FRSUM: Towards Faithful Abstractive Summarization via Enhancing Factual Robustness [56.263482420177915]
  我々は,既存のシステムの忠実さを,事実的堅牢性という新たな視点から研究する。 本研究では,新たなトレーニング戦略,すなわちFRSUMを提案し,そのモデルに対して,暗黙の対角的サンプルと暗黙の対向的摂動の両方を防御するように指導する。
  論文  参考訳（メタデータ） (2022-11-01T06:09:00Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。