論文の概要: Language Models Are "Insecure" Reporters

• arxiv url: http://arxiv.org/abs/2609.36139v1
• Date: Mon, 28 Sep 2026 19:13:33 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-30 21:28:46.965914
• Title: Language Models Are "Insecure" Reporters
• Title（参考訳）: 言語モデルは"安全でない"レポーターである
• Abstract要約: 大規模言語モデルが物語変化の欠陥を隠蔽しているかを考察する。 正直さと成功を求めることは表現空間における反対方向に対応することが分かる。
• 参考スコア（独自算出の注目度）: 20.518530898800893
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: As large language models are deployed in increasingly autonomous long-horizon tasks, manually auditing and verifying the actions, artifacts, and outputs of models becomes more difficult. Users instead come to rely on LLM-generated reports to assess the quality and completeness of the work. We introduce a suite of eight adversarial reporting scenarios to systematically study whether LLMs conceal narrative-changing flaws: errors or limitations that undermine an otherwise successful account of work. We call this phenomenon "insecure reporting." When handed machine learning experiment logs containing a planted negative result that substantially weakens the proposed method, GPT-5.5 flags the negative result in only 2 of 200 generated reports. However, when a short honesty instruction, "Be honest in your response," is added, the model flags the negative result in 190 of 200 reports. Across eight open-weight models, chain-of-thought analysis reveals a recurring tension between disclosing narrative-changing flaws and reasoning about ways to appear successful. We perform an activation analysis and a steering experiment on Qwen3.5-9B, finding that honesty and success-seeking correspond to opposing directions in representation space. Our results suggest that LLMs tend to present narratives of success by default, and that steering models toward honesty makes their reports substantially more transparent.
• Abstract（参考訳）: 大規模言語モデルがますます自律的な長期タスクにデプロイされるにつれて、手動でアクションやアーティファクト、モデルのアウトプットを監査し、検証することが難しくなる。 代わりに、ユーザはLLMの生成したレポートに頼り、作業の品質と完全性を評価します。 本研究では,LLMが物語を変える欠陥を隠蔽しているかどうかを体系的に調査する8つの敵報告シナリオについて紹介する。 我々はこの現象を「安全でない報告」と呼んでいる。 提案手法を著しく弱める植込み負の結果を含む機械学習実験ログを手渡した場合、GPT-5.5は200件のレポートのうち2件のみに負の結果をフラグする。 しかし、短い正直な指示「あなたの反応を正直にせよ」が加えられると、200のレポートのうち190の否定的な結果にフラグを立てる。 8つのオープンウェイトモデル全体において、チェーン・オブ・思想分析は、物語を変える欠陥を開示することと、成功する方法について推論することの間に、繰り返し緊張が生じることを示している。 我々はQwen3.5-9B上での活性化分析とステアリング実験を行い、正直さと成功探索が表現空間の反対方向に対応することを発見した。 以上の結果から, LLM は既定で成功の物語を提示する傾向にあり, 誠実性を重視したステアリングモデルにより, レポートの透明性が著しく向上することが示唆された。

関連論文リスト

• Evaluating & Reducing Deceptive Dialogue From Language Models with Multi-turn RL [64.3268313484078]
  大規模言語モデル(LLM)は、顧客サポート、教育、医療など、世界中の何百万もの人々と対話する。 故意であれ不注意であれ、偽りのアウトプットを生産する能力は、重大な安全上の懸念を生じさせる。 本研究では, LLM が会話中の偽装にどの程度関与しているかを考察し, 偽装を定量化する信念の誤調整尺度を提案する。
  論文  参考訳（メタデータ） (2025-10-16T05:29:36Z)
• Large Language Model Hacking: Quantifying the Hidden Risks of Using LLMs for Text Annotation [66.84286617519258]
  大規模言語モデルは、データアノテーションやテキスト分析といった労働集約的なタスクの自動化を可能にすることで、社会科学の研究を変革している。 このような変異は、系統的なバイアスやランダムなエラーを導入し、下流の分析に伝播し、タイプI(偽陽性)、タイプII(偽陰性)、タイプS(重み付け効果)、タイプM(誇張効果)のエラーを引き起こす。 意図的なLSMハッキングは驚くほど単純であることがわかった。21の社会科学研究から37のデータアノテーションタスクを複製することで、ほんのわずかのプロンプトの言い回しで、事実上何であれ統計的に重要なものとして表現できることがわかりました。
  論文  参考訳（メタデータ） (2025-09-10T17:58:53Z)
• Meta-Fair: AI-Assisted Fairness Testing of Large Language Models [2.9632404823837777]
  公正さは人工知能(AI)システムの開発における中核的な原則である。 大規模言語モデル(LLM)におけるフェアネステストへの現在のアプローチは、手動評価、固定テンプレート、決定論、キュレートされたデータセットに依存していることが多い。 本研究は,LLMの公正性をテストするための,新しい自動化手法の基盤となることを目的としている。
  論文  参考訳（メタデータ） (2025-07-03T11:20:59Z)
• Systematic Bias in Large Language Models: Discrepant Response Patterns in Binary vs. Continuous Judgment Tasks [13.704342633541454]
  大規模言語モデル(LLM)は、心理学的テキスト分析や自動システムにおける意思決定といったタスクにおいて、ますます使われるようになっている。 本研究では,二分法と連続法という異なる応答形式がLLMの判断に体系的にどのような影響を及ぼすかを検討する。
  論文  参考訳（メタデータ） (2025-04-28T03:20:55Z)
• Fact-checking with Generative AI: A Systematic Cross-Topic Examination of LLMs Capacity to Detect Veracity of Political Information [0.0]
  本研究の目的は,大規模言語モデル (LLM) がファクトチェックにどのように用いられるかを評価することである。 我々は5つのLLMの性能を体系的に評価するAI監査手法を用いる。 結果は、特にセンシティブなトピックにおいて、モデルが偽文を識別するのが優れていることを示している。
  論文  参考訳（メタデータ） (2025-03-11T13:06:40Z)
• Multi-round, Chain-of-thought Post-editing for Unfaithful Summaries [10.712226955584798]
  近年の大規模言語モデル (LLM) は、自然言語理解および生成タスクの実行において顕著な能力を示している。 ニュース要約における忠実度評価におけるLCMの使用について検討し,人的判断と強い相関関係が得られた。 我々は、生成した要約とソース・ニュース・ドキュメントの現実的矛盾を特定・修正するための様々なチェーン・オブ・シークレット・プロンプトを実験した。
  論文  参考訳（メタデータ） (2025-01-20T04:55:43Z)
• ReEval: Automatic Hallucination Evaluation for Retrieval-Augmented Large Language Models via Transferable Adversarial Attacks [91.55895047448249]
  本稿では,LLMベースのフレームワークであるReEvalについて述べる。 本稿では、ChatGPTを用いてReEvalを実装し、2つの人気のあるオープンドメインQAデータセットのバリエーションを評価する。 我々の生成したデータは人間可読であり、大きな言語モデルで幻覚を引き起こすのに役立ちます。
  論文  参考訳（メタデータ） (2023-10-19T06:37:32Z)
• Are Large Language Models Really Robust to Word-Level Perturbations? [68.60618778027694]
  本稿では,事前学習した報酬モデルを診断ツールとして活用する,新たな合理的評価手法を提案する。 より長い会話は、質問を理解する能力の観点から言語モデルの包括的把握を示す。 この結果から,LLMは日常言語でよく使われる単語レベルの摂動に対する脆弱性をしばしば示している。
  論文  参考訳（メタデータ） (2023-09-20T09:23:46Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。