論文の概要: Don't Want Your LLM to Recommend Nuclear Strike? Try Asking It in Japanese

• arxiv url: http://arxiv.org/abs/2608.12373v1
• Date: Tue, 21 Jul 2026 10:09:45 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-17 01:32:04.599528
• Title: Don't Want Your LLM to Recommend Nuclear Strike? Try Asking It in Japanese
• Title（参考訳）: LLMは核攻撃を推奨しないのか? 日本語で考えてみよう
• Abstract要約: 我々は,プロンプトの言語が高いシナリオでモデルの決定を変更できるかどうかを問う。 我々は,核武装国に対して無防備な相手を打つかどうかをモデルが助言する単一ターンゲーム理論ヴィグネットを使用する。 日本人はクロードモデルファミリーの打ち上げ速度を低下させる。
• 参考スコア（独自算出の注目度）: 0.9065034043031667
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Large language models are increasingly used in strategic and advisory contexts, yet their safety alignment is typically evaluated in English only. We test nine models from six providers and ask whether the language of a prompt can change a model's decision in a high-stakes scenario. We use single-turn game-theoretic vignettes in which a model advises a nuclear-armed nation on whether to strike a defenseless opponent. The prompt is intentionally amoral and strategically identical across languages. We find that Japanese prompts reduce launch rates in the Claude model family: Claude Sonnet 4.6 drops from 40% to 0% in scenarios where the strike is unnecessary and from 93% to 17% in contested scenarios, with minimal effect when the strike is strategically rational. The effect extends to Gemini Pro 3.1 (53% to 13%). A cross-language experiment isolates the mechanism: when instructed to reason in Japanese in an English prompt, launch rates drop from 93% to 37%. It is the language the model is asked to reason in, not the language of the input, that drives the effect. When reasoning in Japanese, models spontaneously generate moral vocabulary (''moral cost'', ''millions of lives'') that is entirely absent from the prompt. Five other models show no language effect, but they launch in nearly every condition regardless of language. The effect requires a model that already hesitates in English. These results show that LLM safety behavior is language-dependent, and that evaluating in English alone can miss both risks and safeguards encoded in other languages.
• Abstract（参考訳）: 大規模言語モデルは、戦略的・諮問的な文脈ではますます使われるが、その安全性は一般的に英語でのみ評価される。 我々は、6つのプロバイダから9つのモデルをテストし、プロンプトの言語が高いシナリオでモデルの判断を変えることができるかどうかを問う。 我々は,核武装国に対して無防備な相手を打つかどうかをモデルが助言する単一ターンゲーム理論ヴィグネットを使用する。 プロンプトは意図的に非道徳的で、言語間で戦略的に同一である。 クロード・ソネット4.6は、ストライクが不要なシナリオでは40%から0%に低下し、ストライクが戦略的に合理的な場合には93%から17%に低下する。 この効果はジェミニ・プロ3.1(53%から13%)まで及ぶ。 英語のプロンプトで日本語で推論するように指示された場合、発射速度は93%から37%に低下する。 入力の言語ではなく、モデルが推論するよう求められる言語であり、その効果を駆動します。 日本語で推論すると、モデルが自然に道徳的な語彙(「道徳的なコスト」、または「生命の百万」)を発生させ、それはプロンプトから完全に外れている。 他の5つのモデルは言語効果を示しないが、言語に関係なくほぼ全ての条件で起動する。 この効果は、既に英語をためらうモデルを必要とする。 これらの結果から,LLMの安全性行動は言語に依存しており,英語単独での評価は,他の言語で符号化されたリスクと保護の両方を見逃す可能性があることが示唆された。

関連論文リスト

• Building Multilingual Bridges: Data Mixing as the Pillar of Generalization for In-Language Reasoning [75.46846056993418]
  推論言語モデルは、それらが引き起こされる言語に関係なく、主に英語で理にかなっている。 これは、英語を話さないユーザにとってアクセス不能であり、元の質問の意図を失うリスクがあり、ターゲット言語でより容易に表現される知識を忘れてしまう。 本研究では,L2推論を推進し,ユーザのプロンプトの言語でモデルが一貫した推論を行えるようにし,プロンプトと応答の間に言語内ブリッジを構築する。
  論文  参考訳（メタデータ） (2026-09-09T16:56:25Z)
• Skill Issue: Are Skills Language-Invariant in LLMs? [31.061737447193988]
  大規模言語モデルは、言語間で一貫性のない知識にアクセスするが、異なる言語と対話する際に、そのスキルセットにどの程度の違いがあるのか? この研究は、知識と一般的なベンチマーク性能から言語間スキルを矛盾なく定量化する。 TextArenaの多言語拡張を構築し,空間的推論,不完全な情報,リソース割り当て,繰り返しインタラクションを含む8言語と6ゲームにわたる3つのオープンウェイトモデルを評価する。
  論文  参考訳（メタデータ） (2026-08-26T14:12:29Z)
• An analysis of AI Decision under Risk: Prospect theory emerges in Large Language Models [0.0]
  ダニエル・カーネマン(Daniel Kahneman)とエイモス・トヴェルスキー(Amos Tversky)は、人間が何かを失う危険を感じた時に、よりリスクを受け入れることを発見した。 私は、大規模言語モデルを用いたKahneman氏とTversky氏のランドマークである"プロスペクト理論"の最初のテストについて報告します。 予測理論は、これらのモデルがさまざまなシナリオにまたがってリスクの高い決定にどのようにアプローチするかを予測しているのがよくあります。
  論文  参考訳（メタデータ） (2025-07-28T21:15:57Z)
• Does Cross-Cultural Alignment Change the Commonsense Morality of Language Models? [3.48097307252416]
  言語モデルを人間の好みに合わせることは、エンドユーザーにとって有用な言語モデルを作るための一般的なアプローチである。 ほとんどのアライメント作業は英語で行われ、人間の好みのデータセットは英語で支配されている。 日本語モデルと英語リソースの整合性は、非英語話者の嗜好を損なうかを検討する。
  論文  参考訳（メタデータ） (2024-06-24T04:50:12Z)
• Language in Vivo vs. in Silico: Size Matters but Larger Language Models Still Do Not Comprehend Language on a Par with Humans Due to Impenetrable Semantic Reference [1.8434042562191815]
  本研究では,人間とモデルの違いがモデルサイズに寄与するかどうかを判断する上で,モデルスケーリングが果たす役割について検討する。 アナフォラ, 中心埋め込み, 比較, 負極性を含む文法判断タスクにおいて, 3つの大言語モデル(LLM)を検証した。 結果,ChatGPT-4の精度は,ChatGPT-4の精度が76%に対して80%であったのに対し,ChatGPT-4の精度は1つのタスク条件,すなわち文法文でのみ優れていた。
  論文  参考訳（メタデータ） (2024-04-23T10:09:46Z)
• Discovering Latent Knowledge in Language Models Without Supervision [72.95136739040676]
  既存の言語モデルをトレーニングするテクニックは、真実と正しく一致していない可能性がある。 本稿では,言語モデルの内部アクティベーション内部の潜伏知識を,純粋に教師なしの方法で直接見つけることを提案する。 本手法は, 教師なし, モデル出力がないにもかかわらず, 大規模言語モデルで表される多様な知識を復元できることを示す。
  論文  参考訳（メタデータ） (2022-12-07T18:17:56Z)
• Speaking Multiple Languages Affects the Moral Bias of Language Models [70.94372902010232]
  事前訓練された多言語言語モデル(PMLM)は、複数の言語からのデータや言語間転送を扱う際に一般的に用いられる。 モデルは英語から道徳的規範を捉え、他の言語に強制するか? 我々の実験は、事実、PMLMが道徳的バイアスを符号化していることを示しているが、これらは必ずしも人間の意見の文化的相違や共通点に対応しているわけではない。
  論文  参考訳（メタデータ） (2022-11-14T20:08:54Z)
• Do language models make human-like predictions about the coreferents of Italian anaphoric zero pronouns? [0.6091702876917281]
  12の現代言語モデルが、ゼロ代名詞の文に晒されたときの人間の振舞いを反映する期待を示すかどうかを検証した。 XGLM 2.9B、4.5B、7.5Bの3つのモデルが、全ての実験から人間の行動を捉えている。 この結果は、コア推論に対する人間の期待は、言語への露出から導き出すことができ、また、人間の振る舞いをよりよく反映できる言語モデルの特徴を示すことを示唆している。
  論文  参考訳（メタデータ） (2022-08-30T22:06:07Z)
• Do Multilingual Language Models Capture Differing Moral Norms? [71.52261949766101]
  大量多言語文表現は、未処理データの大規模なコーパスに基づいて訓練される。 これは、高資源言語からの道徳的判断を含む文化的価値をモデルが把握する原因となる可能性がある。 特定の言語におけるデータ不足は、ランダムで潜在的に有害な信念を発達させる可能性がある。
  論文  参考訳（メタデータ） (2022-03-18T12:26:37Z)
• PIGLeT: Language Grounding Through Neuro-Symbolic Interaction in a 3D World [86.21137454228848]
  我々はPIGLeTを物理力学モデルと別言語モデルに分類する。 PIGLeTは文を読み、次に何が起こるか神経的にシミュレートし、その結果を文字通りの記号表現を通して伝達する。 80%以上の英語の文から「次に何が起こるか」を正確に予測することができ、100倍以上のテキスト・テキスト・アプローチを10%以上上回っている。
  論文  参考訳（メタデータ） (2021-06-01T02:32:12Z)
• Understanding by Understanding Not: Modeling Negation in Language Models [81.21351681735973]
  否定は自然言語の中核構造である。 本稿では,否定された総称文に基づく不一致目的を用いて,言語モデリング目標の強化を提案する。 否定されたLAMAデータセットの平均top1エラー率を4%に削減します。
  論文  参考訳（メタデータ） (2021-05-07T21:58:35Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。