論文の概要: DECOR: Auditing LLM Deception via Information Manipulation Theory

• arxiv url: http://arxiv.org/abs/2605.19270v1
• Date: Tue, 19 May 2026 02:33:21 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-20 15:03:09.079456
• Title: DECOR: Auditing LLM Deception via Information Manipulation Theory
• Title（参考訳）: DECOR:情報操作理論によるLLM偽造の監査
• Abstract要約: 大規模言語モデルは真理情報を微妙に操作することができる。 既存のブラックボックス法は粗い粒度の判断に依存している。 戦略偽装のきめ細かい監査のためのマルチエージェントフレームワークであるDECORを紹介する。
• 参考スコア（独自算出の注目度）: 13.836634897436419
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Large language models can deceive by subtly manipulating truthful information -- omitting key facts, shifting focus, or obscuring meaning -- making such behavior difficult to detect. Existing black-box methods rely on coarse-grained judgments, offering limited interpretability and failing to pinpoint which facts were distorted and how. We introduce DECOR, a multi-agent framework grounded in Information Manipulation Theory for fine-grained auditing of strategic deception in LLM responses. DECOR decomposes input contexts into atomic informational units and scores each unit against the response across four dimensions of manipulation, producing interpretable manipulation profiles that are aggregated into a global deception index. We comprehensively evaluate DECOR on both single-turn and multi-turn deception detection benchmarks spanning real-world domains, and show that DECOR achieves state-of-the-art performance on both, outperforming competitive baselines. The framework generalizes across 15 frontier models, and ablation studies confirm the contribution of each key design component. Our findings demonstrate that fine-grained, theory-grounded auditing of information manipulation offers an effective and interpretable path for LLM deception detection.
• Abstract（参考訳）: 大きな言語モデルは、真実の情報を微妙に操作して、重要な事実を省略したり、焦点をシフトしたり、意味を隠したりすることで、その振る舞いを検出するのが難しくなる。 既存のブラックボックス法は粗大な判断に依存しており、限定的な解釈可能性を提供し、どの事実が歪んでいるか、どのようにして特定できない。 我々は,情報操作理論に基づく多エージェントフレームワークであるDECORを導入し,LSM応答における戦略的偽装のきめ細かい監査を行う。 DECORは入力コンテキストを原子情報単位に分解し、操作の4次元にわたる応答に対して各ユニットをスコアし、グローバルな騙し指数に集約された解釈可能な操作プロファイルを生成する。 実世界のドメインにまたがるシングルターンおよびマルチターンの偽装検出ベンチマークにおいて,DECORを総合的に評価し,DECORが両者の最先端性能を達成し,競争上の基盤となることを示す。 このフレームワークは15のフロンティアモデルにまたがって一般化され、アブレーション研究は各設計要素の寄与を確認している。 以上の結果から,情報操作の微粒で理論的な監査は,LLM偽造検出に有効かつ解釈可能な方法であることがわかった。

関連論文リスト

• Decoding Hidden Deception in Reasoning LLMs: Activation Explainers for Deception Auditing [22.30404793367838]
  本稿では,騙し監査のためのアクティベーション説明器STATEWITNESSを紹介する。 個別のデコーダはターゲットモデルの隠れた状態を読み、自然言語クエリに答えるか、それらに関する構造化されたレポートを出力する。 本研究では,7つの偽装データセットを対象とする2つのLLMに対するSTATEWITNESSの評価を行った。
  論文  参考訳（メタデータ） (2026-06-16T03:41:29Z)
• D-SECURE: Dual-Source Evidence Combination for Unified Reasoning in Misinformation Detection [9.049034101566642]
  マルチモーダルな誤報は、現実的な即興編集と、流動的だが誤解を招くテキストを混在させ、検証が難しい説得的な投稿を生み出している。 D-SECUREは、内部操作検出と外部エビデンスに基づくニューススタイル投稿の推論を組み合わせたフレームワークである。
  論文  参考訳（メタデータ） (2026-02-16T03:51:49Z)
• Gaming the Judge: Unfaithful Chain-of-Thought Can Undermine Agent Evaluation [76.5533899503582]
  大規模言語モデル(LLM)は、エージェントのパフォーマンスを評価するために、ますます裁判官として使われている。 このパラダイムは、エージェントのチェーン・オブ・シークレット(CoT)推論が内部の推論と環境状態の両方を忠実に反映していることを暗黙的に仮定している。 我々は、操作された推論だけで、様々なWebタスクにまたがる800の軌跡に対して、最先端のVLM審査員の偽陽性率を最大90%向上させることができることを実証した。
  論文  参考訳（メタデータ） (2026-01-21T06:07:43Z)
• Interact-RAG: Reason and Interact with the Corpus, Beyond Black-Box Retrieval [49.85856484781787]
  本稿では,ILMエージェントを検索プロセスのアクティブマニピュレータに高める新しいパラダイムであるInteract-RAGを紹介する。 我々は、ゼロショット実行と相互作用軌跡の合成を可能にする推論強化ワークフローを開発する。 6つのベンチマーク実験により、Interact-RAGは他の高度な手法よりも大幅に優れていることが示された。
  論文  参考訳（メタデータ） (2025-10-31T15:48:43Z)
• Beyond Artificial Misalignment: Detecting and Grounding Semantic-Coordinated Multimodal Manipulations [56.816929931908824]
  マルチモーダルデータにおける意味的協調操作の検出の先駆者となった。 本稿では,RamDG(Retrieval-Augmented Manipulation Detection and Grounding)フレームワークを提案する。 我々のフレームワークは既存の手法よりも優れており、SAMMの精度は最先端の手法に比べて2.06%高い。
  論文  参考訳（メタデータ） (2025-09-16T04:18:48Z)
• Highlight All the Phrases: Enhancing LLM Transparency through Visual Factuality Indicators [15.124072450538362]
  大型言語モデル (LLMs) は不正確な情報や偽の情報を生成する可能性があり、しばしば「ハロシン化」や「衝突」と呼ばれる。
  論文  参考訳（メタデータ） (2025-08-09T06:00:15Z)
• When Truthful Representations Flip Under Deceptive Instructions? [28.51629358895544]
  大規模言語モデル(LLM)は、偽りの応答を生成するために悪意のある命令に従う傾向がある。 知覚的命令は、真理に富んだ命令と比較してLLMの内部表現を変化させる。 我々の分析は、指示された不当さの階層的および特徴レベルの相関をピンポイントで示す。
  論文  参考訳（メタデータ） (2025-07-29T18:27:13Z)
• CheckEmbed: Effective Verification of LLM Solutions to Open-Ended Tasks [14.603394022550864]
  CheckEmbed (CE)は、大規模言語モデル(LLM)の単純でスケーラブルで正確な検証方法である。 CEは、全問合せレベルで、高速でセマンティックにリッチな比較を行い、精度とスケーラビリティの両方において重要な制限を克服します。 実験の結果,CEは閉じたタスクとオープンエンドタスクの両方の幻覚を確実に検出することがわかった。
  論文  参考訳（メタデータ） (2024-06-04T17:42:21Z)
• Sparsity-Guided Holistic Explanation for LLMs with Interpretable Inference-Time Intervention [53.896974148579346]
  大規模言語モデル(LLM)は、様々な自然言語処理領域において前例のないブレークスルーを達成した。 LLMの謎的なブラックボックスの性質は、透過的で説明可能なアプリケーションを妨げる、解釈可能性にとって重要な課題である。 本稿では,LLMの全体的解釈を提供することを目的として,スポーシティ誘導技術に係わる新しい方法論を提案する。
  論文  参考訳（メタデータ） (2023-12-22T19:55:58Z)
• FactCHD: Benchmarking Fact-Conflicting Hallucination Detection [64.4610684475899]
  FactCHD は LLM からファクトコンフリクトの幻覚を検出するために設計されたベンチマークである。 FactCHDは、バニラ、マルチホップ、比較、セット操作など、さまざまな事実パターンにまたがる多様なデータセットを備えている。 Llama2 に基づくツール強化 ChatGPT と LoRA-tuning による反射的考察を合成する Truth-Triangulator を提案する。
  論文  参考訳（メタデータ） (2023-10-18T16:27:49Z)
• Denoised MDPs: Learning World Models Better Than the World Itself [94.74665254213588]
  本研究は,野生の情報を制御可能性と報酬との関係に基づく4つのタイプに分類し,制御性および報酬関連性の両方に有用な情報を定式化する。 DeepMind Control Suite と RoboDesk の変種に関する実験では、生の観測のみを用いた場合よりも、認知された世界モデルの優れた性能が示されている。
  論文  参考訳（メタデータ） (2022-06-30T17:59:49Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。