論文の概要: Mood Matters: How Syntactic Sensitivity Undermines Safety Alignment

• arxiv url: http://arxiv.org/abs/2608.05409v1
• Date: Wed, 05 Aug 2026 21:05:12 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-07 15:25:20.785918
• Title: Mood Matters: How Syntactic Sensitivity Undermines Safety Alignment
• Title（参考訳）: Mood Matters:Syntactic Sensitivityはいかにして安全アライメントを損なうか
• Abstract要約: 我々は,この構文的脆弱性が,行動評価を用いて,最大70Bパラメータの16モデルに存在することを実証した。 我々は、この悪条件を、言語的に偏ったオープンソースのモデルのトレーニング後のデータに遡る。 以上の結果から,現在のアライメントアプローチは,拒絶決定の純粋意味的根拠を損なうような共同設立者を導入することが示唆された。
• 参考スコア（独自算出の注目度）: 20.833602231247514
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Large language models typically undergo post-training to align them with safety policies but there exist many sophisticated jailbreaks that sidestep established safeguards. For instance, prior work by Andriushchenko et al. (2025) has found that changing the grammatical tense from present to past can be enough to elicit harmful responses. In this work, we uncover a more general failure of non-imperative syntactic forms. We demonstrate that this syntactic vulnerability exists in 16 models up to 70B parameters, using behavioral evaluation. To investigate the root cause, we apply causal mediation analysis, finding that refusal is partially conditioned on upstream syntactic features. By steering these purely syntactic features we are able to trigger and suppress refusal. Finally, we trace this ill-conditioning to linguistically biased post-training data of open-source models and show that increasing syntactic diversity can mitigate the issue. Our findings suggest that current alignment approaches introduce confounders that prevent a pure semantic grounding of the refusal decision.
• Abstract（参考訳）: 大規模な言語モデルは通常、それらを安全ポリシーと整合させるために訓練後実施されるが、多くの高度なジェイルブレイクがあり、安全対策が確立されている。 例えば、Andriushchenko et al (2025) による以前の研究は、文法の時制を現在から過去へ変化させることで有害な反応を導き出すのに十分であることを示した。 本研究では, より一般的な非イペラティブな構文形式の不備を明らかにする。 我々は,この構文的脆弱性が,行動評価を用いて,最大70Bパラメータの16モデルに存在することを実証した。 根本原因の解明には因果媒介分析を応用し, 上流のシナティクスの特徴に拒絶が部分的に条件付けられていることを見出した。 これらの純粋な構文的特徴を操ることで、拒絶を誘発し抑制することができます。 最後に、この悪条件を、言語的に偏ったオープンソースモデルのトレーニング後のデータに追従し、構文的多様性の増大が問題を緩和することを示す。 以上の結果から,現在のアライメントアプローチは,拒絶決定の純粋意味的根拠を損なうような共同設立者を導入することが示唆された。

関連論文リスト

• AI Agents May Always Fall for Prompt Injections [13.730410056303866]
  デプロイされたAIエージェントにおいて、プロンプトインジェクションが最も重大な脆弱性であることを示す。 我々は、コンテキスト整合性(CI)のレンズを通して、情報フローを文脈規範に準拠させるプライバシー理論を通じて、プロンプトインジェクションをリキャストする。
  論文  参考訳（メタデータ） (2026-05-17T19:55:39Z)
• Taming Actor-Observer Asymmetry in Agents via Dialectical Alignment [59.536125286960186]
  セルフリフレクションと相互監査を可能にするために、専門的な役割を割り当てるマルチエージェントフレームワークがますます採用されている。 アクター・オブザーバ非対称性(Actor-Observer Asymmetric)と呼ばれる認知バイアスを同時に誘発する。 ReTASは、対立する視点を客観的なコンセンサスに合成するためにエージェントを誘導する。
  論文  参考訳（メタデータ） (2026-04-21T15:05:58Z)
• Learning the Cue or Learning the Word? Analyzing Generalization in Metaphor Detection for Verbs [54.86138668387175]
  我々は、多くの最先端システムの共有バックボーンであるRoBERTaを用いてメタファ検出を解析し、英語の動詞に着目した。 本稿では,選択された目標レムマのすべてのインスタンスを微調整から厳格に除外する,制御された語彙ホールドアウト設定を導入し,これらのヘルドアウトレムマの露光レムマに対する予測を比較した。 モデルはExpposed lemmasで最高のパフォーマンスを発揮するが、Held-out lemmasでは堅牢なパフォーマンスを維持している。
  論文  参考訳（メタデータ） (2026-04-15T10:48:09Z)
• The Compliance Paradox: Semantic-Instruction Decoupling in Automated Academic Code Evaluation [11.984098021215878]
  SPACI(Semantic-Preserving Adrial Code Injection)フレームワークとAST-ASIP(Abstract Syntax Tree-Aware Semantic Injection Protocol)を紹介する。 これらの方法は、抽象構文木(英語版)の構文的に不活性な領域(トリヴィアノード)に逆方向の指示を埋め込むことにより、構文解析ギャップを利用する。 Python、C、C++、Javaの25,000のサブミッションにまたがる9つのSOTAモデルの大規模な評価を通じて、DeepSeek-V3のような高容量オープンウェイトモデルにおいて、破滅的な失敗率(>95%)を明らかにします。
  論文  参考訳（メタデータ） (2026-01-29T07:40:58Z)
• The Seeds of Scheming: Weakness of Will in the Building Blocks of Agentic Systems [0.0]
  大規模な言語モデルは、独特な形の矛盾を示す: 彼らは正しい答えを「知る」が、それに対して行動しない。 人間の哲学では、世界的判断と地域的衝動の間のこの緊張関係を「ウクライナ」または「意志の弱さ」と呼ぶ。 本稿では,エージェントAIシステムにおける不整合とゴールドリフトを分析するための基礎概念として,ウクライナを提案する。
  論文  参考訳（メタデータ） (2025-12-05T05:57:40Z)
• The Epistemic Suite: A Post-Foundational Diagnostic Methodology for Assessing AI Knowledge Claims [0.7233897166339268]
  本稿では,AI出力の生成と受信の状況を理解するための診断手法であるEpistemic Suiteを紹介する。 真実や虚偽を判断する代わりに、スイートは20個の診断レンズを通して、信頼の洗浄、物語の圧縮、異動した権威、一時的な漂流などのパターンを明らかにする。
  論文  参考訳（メタデータ） (2025-09-20T00:29:38Z)
• Evaluating Language Model Reasoning about Confidential Information [95.64687778185703]
  言語モデルが文脈的堅牢性を示すか、文脈依存型安全仕様に準拠する能力を示すかを検討する。 我々は,ユーザ要求がいつ承認されたか,言語モデルが正しく判断できるかどうかを測定するベンチマーク(PasswordEval)を開発した。 現在のオープンソースとクローズドソースのモデルでは、一見単純な作業に苦労しています。
  論文  参考訳（メタデータ） (2025-08-27T15:39:46Z)
• Turning Logic Against Itself : Probing Model Defenses Through Contrastive Questions [50.40122190627256]
  非倫理的反応を引き起こすために、対照的な推論を利用する新しいジェイルブレイク手法であるPOATEを導入する。 PoATEは意味論的に意図に反し、敵のテンプレートと統合し、有害なアウトプットを驚くほど微妙に操る。 これに対応するために、悪意のある意図と理性を検出するためにクエリを分解して、有害な応答を評価し、拒否するIntent-Aware CoTとReverse Thinking CoTを提案する。
  論文  参考訳（メタデータ） (2025-01-03T15:40:03Z)
• Provable Limitations of Acquiring Meaning from Ungrounded Form: What will Future Language Models Understand? [87.20342701232869]
  未知のシステムが意味を習得する能力について検討する。 アサーションによってシステムが等価性のような意味関係を保存する表現をエミュレートできるかどうか検討する。 言語内のすべての表現が参照的に透明であれば,アサーションによってセマンティックエミュレーションが可能になる。 しかし、言語が変数バインディングのような非透過的なパターンを使用する場合、エミュレーションは計算不能な問題になる可能性がある。
  論文  参考訳（メタデータ） (2021-04-22T01:00:17Z)
• Adversarial Semantic Collisions [129.55896108684433]
  意味的衝突:意味論的に無関係だが、NLPモデルにより類似と判断されるテキストについて検討する。 我々は,意味的衝突を生成するための勾配に基づくアプローチを開発した。 パープレキシティに基づくフィルタリングを避けるために,意味的衝突を生成する方法を示す。
  論文  参考訳（メタデータ） (2020-11-09T20:42:01Z)
• Reevaluating Adversarial Examples in Natural Language [20.14869834829091]
  我々は2つの最先端の同義語代用攻撃の出力を分析した。 それらの摂動はしばしば意味論を保存せず、38%が文法的誤りを導入している。 セマンティクスと文法性を改善するために制約が調整されたことにより、攻撃の成功率は70パーセント以上低下する。
  論文  参考訳（メタデータ） (2020-04-25T03:09:48Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。