Fugu-MT 論文翻訳(概要): Toxic HallucinAItions: Perturbing Prompts and Tracing LLM Circuits

論文の概要: Toxic HallucinAItions: Perturbing Prompts and Tracing LLM Circuits

arxiv url: http://arxiv.org/abs/2605.30913v1
Date: Fri, 29 May 2026 06:58:47 GMT
ステータス: 翻訳完了
システム内更新日: 2026-06-01 20:56:50.434567
Title: Toxic HallucinAItions: Perturbing Prompts and Tracing LLM Circuits
Title（参考訳）: 毒性幻覚 : 摂動プロンプトとLPM回路の追跡
Abstract要約: 語彙と音調に基づく急激な摂動が大規模言語モデル(LLM)の事実的信頼性に与える影響について検討する。有害な語彙摂動は事実の精度を一貫して低下させ,不確実性を増大させる一方,丁寧な表現は限定的かつ一貫性のない変化をもたらす。
参考スコア（独自算出の注目度）: 17.92293259974243
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: Large language models (LLMs) are increasingly deployed in conversational settings where user tone ranges from polite to adversarial or toxic, yet less is known about whether toxic language in otherwise semantically equivalent prompts can degrade factual reliability. We study how lexical and tone-based prompt perturbations affect the factual reliability of LLMs. Using controlled prompt variations across polite, random, and three toxicity levels, we evaluate five LLMs on ARC-Easy, GSM8K, and MMLU. We find that toxic lexical perturbations consistently reduce factual accuracy and increase uncertainty, while polite phrasing yields limited and inconsistent changes. To examine whether these answer inconsistencies correspond to internal changes, we conduct attribution-graph analyses of model activations and influences. We find that increasing toxicity selectively amplifies perturbation-sensitive variant nodes while relatively stable core reasoning nodes remain more invariant. These findings position prompt tone as a critical dimension of LLM reliability and provide behavioral and mechanistic evidence that surface-level lexical variation can alter factual outputs and internal computation.
Abstract（参考訳）: 大規模言語モデル(LLM)は、ユーザトーンが礼儀正しいものから敵対的なものや有害なものまで様々であるが、意味的に等価なプロンプトで有害な言語が事実の信頼性を低下させるかどうかについては、あまり分かっていない。本研究は,LLMの現実的信頼性に及ぼす語彙的および声調的急激な摂動の影響について考察する。ポリライト,ランダム,および3つの毒性レベルの制御された即時変動を用いて,ARC-Easy,GSM8K,MMLUの5つのLSMを評価した。有害な語彙摂動は事実の精度を一貫して低下させ,不確実性を増大させる一方,丁寧な表現は限定的かつ一貫性のない変化をもたらす。これらの解答の不整合が内部変化に一致するかどうかを調べるため、モデルアクティベーションと影響の属性グラフ解析を行う。毒性の増加は摂動感受性の変動ノードを選択的に増幅するが、比較的安定なコア推論ノードはより不変である。これらの知見は, LLMの信頼性の重要な次元として, 表面レベルの語彙変化が実測出力や内部計算を変えることを示唆する行動的, 機械的証拠を提供する。

関連論文リスト

Evaluating and Explaining Prompt Sensitivity of LLMs Using Interactions [10.595427068095397]
さらに微妙で意味的に無関係なプロンプトの変化は、パフォーマンスの劇的な変動を引き起こす可能性がある。本稿では,インタラクションに微妙な変化を導入した場合のインタラクションの変化を定量化して,インタラクションに基づくPrompt Sensitivityメトリックを提案する。
論文参考訳（メタデータ） (2026-08-19T04:45:59Z)
Same Meaning, Different Scores: Lexical and Syntactic Sensitivity in LLM Evaluation [40.210132040677]
本稿では,23の現代大言語モデル(LLM)の絶対的性能と相対的ランク付けが,制御的,真に等価な語彙的および構文的摂動に与える影響について検討する。その結果、語彙的摂動は、ほぼすべてのモデルやタスクに対して、実質的、統計的に有意な性能劣化を誘導する一方、構文的摂動はより異質な効果を持ち、時には結果を改善することが示されている。
論文参考訳（メタデータ） (2026-02-19T12:24:42Z)
Multi-stage Prompt Refinement for Mitigating Hallucinations in Large Language Models [49.435669307386156]
MPR(Multi-stage Prompt Refinement)は、複数のステージにわたる不整形プロンプトを体系的に改善するためのフレームワークである。 MPRは、追加の文脈でプロンプトの明快さを反復的に強化し、最も関連する入力を優先順位付けするためにランク付けされた自己回帰機構を使用する。幻覚ベンチマークの結果、MPRは原型と比較して85%以上の勝利率を達成した。
論文参考訳（メタデータ） (2025-10-14T00:31:36Z)
Detoxifying Large Language Models via Autoregressive Reward Guided Representation Editing [77.75609817898035]
大規模言語モデル(LLM)は、様々なタスクにわたって印象的なパフォーマンスを示してきたが、有害なコンテンツの生成には弱いままである。 textscAutoregressive textscReward textscGuided textscRe presentation textscEditing (ARGRE)を提案する。 ARGREは遅延表現空間内の毒性遷移を明示的にモデル化し、安定かつ正確な報酬誘導編集を可能にする。
論文参考訳（メタデータ） (2025-09-24T03:40:32Z)
Human-Aligned Faithfulness in Toxicity Explanations of LLMs [23.860142056633233]
我々は,自由形態の毒性説明が理想的な条件下での合理的な人間とどのように一致しているかを測定するための新しい基準を開発する。 3つのLlamaモデルと8B Ministralモデルで5つの多様な毒性データセット上で実験を行った。以上の結果から,LSMは単純なプロンプトに対して妥当な説明を導出するが,原因の完全セット,個人的理由,毒性のスタンスとの微妙な関係が引き起こされた場合,毒性に関する推論は失敗することが明らかとなった。
論文参考訳（メタデータ） (2025-06-23T20:41:45Z)
Adaptive Detoxification: Safeguarding General Capabilities of LLMs through Toxicity-Aware Knowledge Editing [49.85884082568318]
ToxEditは毒性を意識した知識編集アプローチである。前方伝播中の毒性活性化パターンを動的に検出する。その後、適応的な層間経路を通じて計算をルーティングし、毒性を効果的に緩和する。
論文参考訳（メタデータ） (2025-05-28T12:37:06Z)
Factual Self-Awareness in Language Models: Representation, Robustness, and Scaling [56.26834106704781]
大規模言語モデル(LLM)のユビキタス展開における主要な関心事の一つは、生成されたコンテンツの事実的誤りである。我々は, LLMの内部コンパスの存在を裏付ける証拠を提供し, 生成時の事実的リコールの正しさを規定する。モデルサイズにわたる実験のスケールとトレーニングのダイナミクスは、トレーニング中に自己認識が急速に出現し、中間層でピークとなることを浮き彫りにしている。
論文参考訳（メタデータ） (2025-05-27T16:24:02Z)
Aligned Probing: Relating Toxic Behavior and Model Internals [78.20380492883022]
言語モデル(LM)の振る舞いを協調する新しい解釈可能性フレームワークであるアライメント・プロブリングを導入する。本フレームワークを用いて,20以上のOLMo,Llama,Mistralモデルについて検討した。以上の結果から,LMは,特に下層において,入力およびその後の出力の毒性レベルに関する情報を強くエンコードしていることがわかった。
論文参考訳（メタデータ） (2025-03-17T17:23:50Z)
Dialectal Toxicity Detection: Evaluating LLM-as-a-Judge Consistency Across Language Varieties [23.777874316083984]
現代のLSMによる毒性の検出に方言の違いがどう影響するかについては、体系的な研究はほとんど行われていない。 10の言語クラスタと60の変種をカバーする合成変換と人間による翻訳により、多言語データセットを作成する。次に,多言語,方言,LLM-ヒト間の毒性を評価できる3つのLSMを評価した。
論文参考訳（メタデータ） (2024-11-17T03:53:24Z)
Detoxifying Large Language Models via Knowledge Editing [57.0669577257301]
本稿では,Large Language Models (LLM) のデトックス化のための知識編集手法について検討する。我々は、強力な攻撃プロンプトを持つ9つの安全でないカテゴリをカバーするベンチマーク、SafeEditを構築した。いくつかの知識編集手法を用いて実験を行い、知識編集がLLMを解毒する可能性を示し、汎用性能に限られた影響を与えていることを示す。
論文参考訳（メタデータ） (2024-03-21T15:18:30Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。