論文の概要: SEDATE: Do Large Language Models Share an Aggression Circuit Across Languages?

• arxiv url: http://arxiv.org/abs/2610.33542v1
• Date: Sat, 24 Oct 2026 08:38:52 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-27 22:27:13.356903
• Title: SEDATE: Do Large Language Models Share an Aggression Circuit Across Languages?
• Title（参考訳）: SEDATE: 大規模言語モデルは言語全体で集積回路を共有しているか?
• Abstract要約: SEDATE(Selective Detection and Targeted Editing)は、SEDATE(Selective Detection and Targeted Editing)の略。 SEDATEはまず、責任あるニューロンを検出し、必要に応じて編集し、最終的にモデル応答を検証する。 SEDATEは、最高の性能のベースラインに対して、すべての言語やモデルに対して、極めて優れた安全性スコアを達成できることを示す。
• 参考スコア（独自算出の注目度）: 6.32489804566393
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: As the applications of AI continue to expand across various multimodal and multilingual domains, ensuring safe and responsible deployment of these systems has become an important concern. A wide-range of interventions have been proposed to make AI responses safer and more reliable. They often incur substantial computational or annotation costs, or cannot be extended to multilingual settings. In this work, we propose Selective Detection And Targeted Editing (SEDATE), a training-free approach based on detect-edit-verify strategy. SEDATE first detects the responsible neurons, edits them as and when necessary and finally verifies the model responses; all without any additional model training. We evaluate SEDATE across 7 languages and 4 model families. We further evaluate its effectiveness across 4 out-of-distribution languages and 4 additional datasets. We show that SEDATE achieves substantially superior safety scores across all languages and models over the best-performing baseline while retaining the general capabilities and incurring negligible overhead. Our results are robust, with the trends remaining similar for out-of-distribution languages and datasets.
• Abstract（参考訳）: AIの応用がさまざまなマルチモーダルドメインや多言語ドメインにまたがって拡大を続けるにつれ、これらのシステムの安全かつ責任あるデプロイが重要な関心事となっている。 AIレスポンスをより安全で信頼性の高いものにするために、幅広い介入が提案されている。 それらはしばしば相当な計算やアノテーションのコストを発生させるが、多言語設定に拡張することはできない。 本研究では,SEDATE(Selective Detection and Targeted Editing)を提案する。 SEDATEはまず、責任あるニューロンを検出し、必要に応じて編集し、最終的にモデル応答を検証する。 SEDATEを7つの言語と4つのモデルファミリーで評価した。 さらに、4つのアウト・オブ・ディストリビューション言語と4つの追加データセットにまたがる効果を評価した。 SEDATEは,汎用性を維持しつつ,無視できないオーバーヘッドを発生させつつ,最高の性能のベースラインに対して,すべての言語やモデルに対して極めて優れた安全性スコアを達成していることを示す。 私たちの結果は堅牢で、アウト・オブ・ディストリビューション言語やデータセットに類似した傾向が残っています。

関連論文リスト

• The Heterogeneous Safety Impacts of Benign Multilingual Fine-Tuning [13.578131927232292]
  大きな言語モデルを微調整すると、安全でない敵のプロンプトに反応する傾向が増す。 Llama-3.2, Qwen3, Gemma-3モデルの微調整による多言語設定におけるこの現象の総合的研究について述べる。 安全性は、微調整言語の選択と評価言語の選択の両方に非常に敏感であることがわかった。
  論文  参考訳（メタデータ） (2026-06-27T10:05:36Z)
• KIT-TIP-NLP at MultiPride: Continual Learning with Multilingual Foundation Model [0.06999740786886534]
  このフレームワークは、データ不足、クラス不均衡、感情表現の言語間変異といった、相互に絡み合った3つの方法論的課題を処理する。 クロスバリデーションによるデータ駆動モデル選択、バックトランスレーションによるセマンティック保存強化、動的エポックレベルのアンダーサンプリングによるインダクティブトランスファー学習、ドメイン固有の知識注入を統合する。 RUN 1 は拡張とアンダーサンプリングによる帰納的伝達学習であり、RUN 2 はマスク付き言語モデリング事前学習、RUN 3 と RUN 4 は ROC 分析によって最適化された言語固有の決定しきい値によって改善された以前の予測である。
  論文  参考訳（メタデータ） (2026-05-13T12:10:47Z)
• Multilingual Refusal Alignment for Safer Large Language Models [53.64286756804503]
  単言語アライメントが言語横断的に伝達されるか,トレーニング中に言語一貫性が保たれるか,一般的な知識能力とのトレードオフが生じるかを検討する。 RefusEUは、12のヨーロッパ言語をカバーする新しい拒絶アライメントデータセットであり、現在の最先端モデルを評価するための専用のテストセットを含む。 制御された直接選好最適化(DPO)実験は、2つの重要な洞察を提供する: 英語でのみモデルを整列することは、同じハーネスカテゴリであっても、言語間安全を保証するには不十分である。
  論文  参考訳（メタデータ） (2026-04-24T09:29:14Z)
• Parallel Universes, Parallel Languages: A Comprehensive Study on LLM-based Multilingual Counterfactual Example Generation [49.2073409243885]
  大規模言語モデル(LLM)は、英語の対物生成に優れ、多言語習熟度を示す。 対象言語における直接生成された反事実と6言語間の英訳によって導出されるものの両方について自動評価を行う。 言語間で生成した偽物に一貫して現れる4つの主要なエラーを識別し分類する。
  論文  参考訳（メタデータ） (2026-01-01T08:53:49Z)
• Whisper-LM: Improving ASR Models with Language Models for Low-Resource Languages [0.43498389175652036]
  本研究は、従来の言語モデルと新しい言語モデルと微調整されたWhisperモデルを統合し、あまり一般的でない言語での性能を高める。 我々は、特に低リソースシナリオにおいて、単語エラー率を大幅に改善したことを示す。 統合はすべてのモデルサイズに確実に貢献するが、改善の程度は様々であり、最適化された言語モデルパラメータの重要性を強調している。
  論文  参考訳（メタデータ） (2025-03-30T18:03:52Z)
• Demystifying Multilingual Chain-of-Thought in Process Reward Modeling [86.98098988779809]
  プロセス報酬モデル(PRM)を多言語設定に拡張するという課題に対処する。 我々は、7つの言語にまたがるデータセット上で多言語PRMを訓練し、それを英語から翻訳する。 本結果は,学習言語数と英語データ量の両方に対する多言語PRMの感度を強調した。
  論文  参考訳（メタデータ） (2025-02-18T09:11:44Z)
• Enhancing Multilingual ASR for Unseen Languages via Language Embedding Modeling [50.62091603179394]
  最も先進的なASRモデルの1つであるWhisperは99の言語を効果的に扱う。 しかし、ウィスパーは未確認の言語と戦っているが、それらは事前訓練には含まれていない。 本研究では,これらの関係を利用して未知言語上でのASR性能を向上させる手法を提案する。
  論文  参考訳（メタデータ） (2024-12-21T04:05:43Z)
• DPP-Based Adversarial Prompt Searching for Lanugage Models [56.73828162194457]
  Auto-Regressive Selective Replacement Ascent (ASRA)は、決定点プロセス(DPP)と品質と類似性の両方に基づいてプロンプトを選択する離散最適化アルゴリズムである。 6種類の事前学習言語モデルに対する実験結果から,ASRAによる有害成分の抽出の有効性が示された。
  論文  参考訳（メタデータ） (2024-03-01T05:28:06Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。