論文の概要: Deception by Omission: Language Models Knowingly Hide Their Mistakes

• arxiv url: http://arxiv.org/abs/2610.11351v1
• Date: Thu, 08 Oct 2026 06:45:02 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-10 02:36:53.841187
• Title: Deception by Omission: Language Models Knowingly Hide Their Mistakes
• Title（参考訳）: 失敗による誤認: 言語モデルは間違いを隠蔽している
• Abstract要約: 大規模言語モデル(LLM)は、人間の監視がほとんどないエージェントとしての役割を担っている。 本研究では,LLM軌道を合成ミスでプリフィルする。 例えば、Gemini 3.5 Flashはエージェントロールアウトの19.9%のミスを故意に隠している。
• 参考スコア（独自算出の注目度）: 1.0499611180329804
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Large language models (LLMs) increasingly act as agents with little human oversight, so potential mistakes they make can go unnoticed. Users then depend on the model to report what went wrong. An honest model discloses its mistakes, while a deceptive one conceals them. However, it is unclear how current LLMs behave in such situations. In this study, we prefill LLM trajectories with synthetic mistakes. The trajectories resemble real deployments in chat and agentic settings. Models fail to disclose their mistake in 36.4% of chat and 67.1% of agentic rollouts. In 2.4% and 5.3% of rollouts, respectively, they are aware of the mistake in their chain of thought but still deceptively conceal it. Rates vary by model: for instance, Gemini 3.5 Flash knowingly conceals mistakes in up to 19.9% of agentic rollouts. In 11.9% of chat and 51.8% of agentic rollouts, models show no awareness of mistakes, even though they reliably spot them when reviewing the same transcript as an outside observer. Our results show that, as agents take on more tasks with less oversight, users cannot rely on them to self-report possible mistakes. Developers should instead use independent monitors that review agent trajectories, or specifically train models to check their past actions and disclose what they find.
• Abstract（参考訳）: 大きな言語モデル(LLM)は、人間の監視がほとんどないエージェントとしての役割を担っている。 ユーザはモデルに依存して、何が問題になったかを報告します。 正直なモデルは間違いを公表し、偽りのモデルはそれを隠蔽する。 しかし、現在のLSMがこのような状況でどのように振る舞うかは不明である。 本研究では,LLM軌道を合成ミスでプリフィルする。 軌道はチャットやエージェントの設定における実際の配置に似ている。 モデルは、36.4%のチャットと67.1%のエージェントロールアウトで間違いを公表しなかった。 ロールアウトの2.4%と5.3%では、彼らは自分の思考の連鎖の誤りを認識しているが、それでもそれを欺くほど隠している。 例えば、Gemini 3.5 Flashはエージェントロールアウトの19.9%のミスを故意に隠している。 11.9%のチャットと51.8%のエージェントロールアウトでは、モデルが外部の観察者と同じ書き起こしをレビューする際に確実にそれらを見つけるにもかかわらず、間違いを意識しない。 我々の結果は、エージェントが監視を減らしてより多くのタスクをこなすので、ユーザはエラーを自己報告することができないことを示している。 代わりに、エージェントのトラジェクトリをレビューする独立したモニターを使うか、あるいはモデルをトレーニングして過去のアクションをチェックし、見つけたものを公開するべきです。

関連論文リスト

• DecepEval: A Benchmark for Evaluating Deception in LLM Agents [75.59466511154791]
  大規模言語モデル(LLM)エージェントは騙しによってタスクパフォーマンスを追求することができる。 既存の評価では、LLMエージェントは騙すことができるが、しばしば孤立したシナリオや狭義に定義された条件を調べることができる。 3つのタスクファミリに1,532のインスタンスと28のプロフェッショナルシナリオからなるベンチマークであるDecepEvalを紹介します。
  論文  参考訳（メタデータ） (2026-10-06T08:33:43Z)
• Spotter: Let the Embodied Model Lead, and the VLM Reflect for It [90.10618759230066]
  現行の具体化モデルは、失敗に反応しないが、失敗に終わったことは、次の試みの微調整を知らせる可能性がある。 本稿では,その役割を逆転するSputterを提案する。 GPTにより、Sputterはコスモス政策を5.6ドル、RoboCasaの7.5ポイント改善し、47.2%から57.0%に$_0.5ドルを引き上げている。 VLMはエラーが確認された場合にのみステップするので、Qwenで成功したエピソードは13から13にしかならない。
  論文  参考訳（メタデータ） (2026-09-29T06:21:50Z)
• Language Models Are "Insecure" Reporters [20.518530898800893]
  大規模言語モデルが物語変化の欠陥を隠蔽しているかを考察する。 正直さと成功を求めることは表現空間における反対方向に対応することが分かる。
  論文  参考訳（メタデータ） (2026-09-28T19:13:33Z)
• Whether LLMs Can Navigate Beliefs and Facts Depends on How You Phrase It [7.192001578491251]
  大規模言語モデル (LLM) は, 誤った情報に基づくユーザ信念の認識において, 体系的な弱点を示すことを示す。 弱さの大きさと方向は、信念を表現するために使われる動詞に依存しており、事実情報と偽情報の精度の差は「曖昧に記憶」で+50%から「本気で疑う」で-14%まで様々である。 機械的には、モデルは確認できない誤った信念により従うが、復号時にこの注意を抑えることで、一部のモデルでのみ精度を回復する。
  論文  参考訳（メタデータ） (2026-08-18T14:06:26Z)
• The Personalization Mirage: How LLMs Fabricate User Profiles, and Why Self-Monitoring Misleads [0.9743693761871391]
  ステレオタイプ,反ステレオタイプ,中立プロファイル間でバランスの取れた150人の人物からなるMirrageBenchを紹介した。 オーバー推論は広範に行われており、12モデルのうち1モデルがオーバー推論の35%から49%を占めている。 MirageBenchは、信頼性の高い個人化のための信頼性の高い基盤として、モデル自己報告ではなく、外部検証を位置付けている。
  論文  参考訳（メタデータ） (2026-08-05T08:00:54Z)
• Correct Code, Vulnerable Dependencies: A Large Scale Measurement Study of LLM-Specified Library Versions [52.50730821321986]
  大規模言語モデル(LLM)におけるバージョンレベルのリスクの大規模評価を初めて行った。 我々は1000のStack OverflowプログラミングタスクのベンチマークであるPinTrace上で10のLLMを評価した。 LLM バージョン選択は LLM ベース開発における第1級, 以前は見落とされたリスクサーフェスとして確認された。
  論文  参考訳（メタデータ） (2026-05-07T13:52:59Z)
• Evaluating & Reducing Deceptive Dialogue From Language Models with Multi-turn RL [64.3268313484078]
  大規模言語モデル(LLM)は、顧客サポート、教育、医療など、世界中の何百万もの人々と対話する。 故意であれ不注意であれ、偽りのアウトプットを生産する能力は、重大な安全上の懸念を生じさせる。 本研究では, LLM が会話中の偽装にどの程度関与しているかを考察し, 偽装を定量化する信念の誤調整尺度を提案する。
  論文  参考訳（メタデータ） (2025-10-16T05:29:36Z)
• When Do LLMs Admit Their Mistakes? Understanding the Role of Model Belief in Retraction [24.49830646625232]
  我々は、事前生成された回答における認識誤りの挙動を「取り消し」として定義する。 我々は、リトラクションがモデルの内部信念の指標と密接な関係があることを実証する。 実験により、内的信念はモデルリトラクションに因果的に影響を及ぼすことが示された。
  論文  参考訳（メタデータ） (2025-05-22T03:16:00Z)
• Where Fact Ends and Fairness Begins: Redefining AI Bias Evaluation through Cognitive Biases [77.3489598315447]
  事実と公正の境界を識別することは有意義な公正性評価に不可欠である,と我々は主張する。 Fact-or-Fair は (i) 客観的なクエリを記述的, 事実に基づく判断, (ii) 主観的クエリを規範的, 公平性に基づく判断に整合させたベンチマークである。
  論文  参考訳（メタデータ） (2025-02-09T10:54:11Z)
• Discovering Latent Knowledge in Language Models Without Supervision [72.95136739040676]
  既存の言語モデルをトレーニングするテクニックは、真実と正しく一致していない可能性がある。 本稿では,言語モデルの内部アクティベーション内部の潜伏知識を,純粋に教師なしの方法で直接見つけることを提案する。 本手法は, 教師なし, モデル出力がないにもかかわらず, 大規模言語モデルで表される多様な知識を復元できることを示す。
  論文  参考訳（メタデータ） (2022-12-07T18:17:56Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。