論文の概要: AEGIS: Awareness-Enhanced Guidance for Iterative Safeguard
- arxiv url: http://arxiv.org/abs/2607.17713v1
- Date: Mon, 20 Jul 2026 09:09:04 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-21 18:48:37.558854
- Title: AEGIS: Awareness-Enhanced Guidance for Iterative Safeguard
- Title（参考訳）: AEGIS: 反復的保護のための注意力強化ガイダンス
- Abstract要約: スパンレベルの理性は、しばしばテキストのデトックス化における制御性を改善すると仮定される。
AEGIS(Awareness-Enhanced Guidance for Iterative Safeguard)を多言語多言語解毒の探索的枠組みとして紹介する。
- 参考スコア（独自算出の注目度）: 3.3845741661586732
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Span-level rationales are often assumed to improve controllability in text detoxification, but it remains unclear when such guidance helps and when it introduces trade-offs. We present Awareness-Enhanced Guidance for Iterative Safeguard (AEGIS) as an exploratory framework for studying span-guided multilingual detoxification across English, Mandarin Chinese, and Korean. AEGIS combines span-level detector outputs with frozen generator backbones, allowing harmful spans, intensity labels, and target attributes to be provided as structured guidance during rewriting. Rather than claiming state-of-the-art detoxification performance, we analyze how span guidance affects the balance between toxicity reduction and meaning preservation across generator families, model scales, and languages. Our results suggest that span-guided detoxification is conditionally useful: explicit rationales change the trade-off between toxicity reduction and meaning preservation, but their effects depend strongly on the generator backbone and the linguistic context. These findings highlight both the promise and the limitations of span-level control signals for multilingual detoxification.
- Abstract（参考訳）: スパンレベルの合理性は、しばしばテキストのデトックス化における制御性を改善すると仮定されるが、そのようなガイダンスがいつ、いつ、トレードオフをもたらすかは定かではない。
AEGIS(Awareness-Enhanced Guidance for Iterative Safeguard)を英語,中国語,韓国語にまたがる多言語解毒の探索的枠組みとして紹介する。
AEGISは、スパンレベルの検出器出力と冷凍発電機のバックボーンを組み合わせることで、有害なスパン、強度ラベル、ターゲット属性を書き換え時の構造化ガイダンスとして提供することができる。
最先端のデトキシフィケーション性能を主張するよりも、有害度低減とジェネレータファミリー、モデルスケール、言語間の保存のバランスにスパンガイダンスがどう影響するかを分析する。
有毒度低下と意味保存のトレードオフは,有毒度低下と意味保存のトレードオフを明示的合理的に変化させるが,それらの影響は発生源のバックボーンと言語的文脈に強く依存する。
これらの知見は多言語解毒のためのスパンレベル制御信号の約束と制限の両方を強調した。
関連論文リスト
- Inference-Time Steering for Cross-Lingual Factual Consistency in LLMs [51.56484100374058]
大規模言語モデル(LLM)は目覚ましい多言語流布を示すが、その内部知識表現はハイリソース言語に対して不均等に偏っている。
我々は,これらのバイアスを推論時に緩和できるかどうかを考察し,対象言語でクエリされたかのように,英語の確率モデルに答えるように強制する。
Gemma 3 12Bの実験では、最も強い全体的な介入、効率性のバランス、安全性、ドメイン外の一般化を促すペルソナが明らかにされている。
論文 参考訳（メタデータ） (2026-07-21T16:15:05Z) - A Survey of Toxicity Detection and Mitigation Strategies for Multilingual Language Models [21.145305563840697]
本研究は多言語モデルに対する毒性検出と解毒に関する研究を合成する。
我々はまず、言語選択、翻訳のピボット、コードスイッチング、正書法の変化、マルチターンインタラクション、そして、安全アライメントを弱めるためにデプロイ後の微調整を利用する脅威モデルをカタログ化する。
次に,タスクの定式化(有害-中性リライト,毒性分類,有害-世代評価),多言語検出アプローチ,緩和戦略を整理する。
論文 参考訳（メタデータ） (2026-06-24T04:24:30Z) - Beyond Input Understanding: Diagnosing Multilingual Mathematical Reasoning with Directed Acyclic Trace Graphs [54.72295694649798]
大規模な推論モデル (LRM) は、英語で強力な数学的推論性能を達成するが、多くの低級言語や中級言語では信頼性が低い。
モデルの推論言語を制御することは、精度を大幅に低下させることを示し、言語が推論実行自体に影響を及ぼすことを示唆する。
12言語にわたるQwen3シリーズの実験では、英語以外の推論ではアンカーカバレッジが減少し、依存関係の忠実度が低下することが多い。
論文 参考訳（メタデータ） (2026-05-26T21:41:52Z) - All Languages Matter: Understanding and Mitigating Language Bias in Multilingual RAG [87.74635133954975]
現在のマルチ言語検索・拡張生成システム(mRAG)は,再ランク付け時に言語バイアスに悩まされていることを示す。
textittextbfLanguage-textbfAgnostic textbfUtility-driven textbfReranker textbfAlignment (LAURA)を提案する。
論文 参考訳（メタデータ） (2026-04-22T05:33:06Z) - On the Robustness of Knowledge Editing for Detoxification [8.893810228798285]
本稿では,知識ベースデトキシフィケーションのためのロバストネス指向評価フレームワークを提案する。
以上の結果から,KE による解毒は,特定のモデル,限定数の解毒目標,言語のサブセットに対してのみ堅牢であることが示唆された。
論文 参考訳（メタデータ） (2026-02-11T04:05:23Z) - Cleansing the Artificial Mind: A Self-Reflective Detoxification Framework for Large Language Models [14.566005698357747]
大言語モデル(LLM)は、顕著な生成能力と自己調節機構の出現を明らかにしている。
我々は, LLMの本来の能力を利用して, 有害な内容を検出する, 完全自己反射脱毒フレームワークを導入する。
我々の発見は、真の自己統制型言語モデルの可能性を強調し、より責任と倫理的に導かれたテキスト生成システムへの道を開いた。
論文 参考訳（メタデータ） (2026-01-16T21:01:26Z) - Explainable and Fine-Grained Safeguarding of LLM Multi-Agent Systems via Bi-Level Graph Anomaly Detection [76.91230292971115]
大規模言語モデル (LLM) に基づくマルチエージェントシステム (MAS) は複雑なタスクを解く上で強力な能力を示している。
XG-Guardは、MAS内の悪意のあるエージェントを検出するための、説明可能な、きめ細かい保護フレームワークである。
論文 参考訳（メタデータ） (2025-12-21T13:46:36Z) - Rethinking Toxicity Evaluation in Large Language Models: A Multi-Label Perspective [104.09817371557476]
大規模言語モデル(LLM)は、様々な自然言語処理タスクにおいて印象的な結果を得た。
有害なコンテンツを生み出す可能性には、深刻な安全上の懸念が浮かび上がっている。
毒性検出のための3つの新しいマルチラベルベンチマークを導入する。
論文 参考訳（メタデータ） (2025-10-16T06:50:33Z) - Detoxifying Large Language Models via Autoregressive Reward Guided Representation Editing [77.75609817898035]
大規模言語モデル(LLM)は、様々なタスクにわたって印象的なパフォーマンスを示してきたが、有害なコンテンツの生成には弱いままである。
textscAutoregressive textscReward textscGuided textscRe presentation textscEditing (ARGRE)を提案する。
ARGREは遅延表現空間内の毒性遷移を明示的にモデル化し、安定かつ正確な報酬誘導編集を可能にする。
論文 参考訳（メタデータ） (2025-09-24T03:40:32Z) - Breaking mBad! Supervised Fine-tuning for Cross-Lingual Detoxification [39.711527571739666]
クロス・リンガル・デトキシフィケーション(Cross-lingual Detoxification)は、大規模言語モデルにおいて毒性を緩和するパラダイムである。
本研究では, クロスディストリビューション設定における毒性低下を解析し, 非有害タスクに対するモデル性能への影響について検討する。
論文 参考訳（メタデータ） (2025-05-22T14:30:14Z) - Breaking Bad Tokens: Detoxification of LLMs Using Sparse Autoencoders [9.203871622144863]
大規模言語モデル(LLM)は現在、ユーザ向けアプリケーションではユビキタスだが、望ましくない有害な出力を生成する。
我々はスパースオートエンコーダ(SAE)を利用してモデル残差ストリームの毒性関連方向を特定し、ターゲットのアクティベーションステアリングを行う。
論文 参考訳（メタデータ） (2025-05-20T15:55:31Z) - Parameter-Efficient Detoxification with Contrastive Decoding [78.5124331048714]
Detoxification Generator (DETOXIGEN) は、不要なスタイルから退避する推論時間アルゴリズムである。
実際の生成では、トレーニングされたデトキシファイタを使用して、生成元が各デコードステップでコントラストする好ましくないトークンを生成する。
生成品質を損なうことなく,従来のデトキシフィケーション指標のアプローチを著しく上回っていることがわかった。
論文 参考訳（メタデータ） (2024-01-13T01:46:20Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。