論文の概要: Lost in Reordering: Structural Sensitivity of Multilingual LLMs under Semantics-Preserving Perturbations

• arxiv url: http://arxiv.org/abs/2609.03511v1
• Date: Thu, 03 Sep 2026 08:10:43 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-04 18:28:38.980009
• Title: Lost in Reordering: Structural Sensitivity of Multilingual LLMs under Semantics-Preserving Perturbations
• Title（参考訳）: リオーダー時の損失:意味論的摂動下での多言語LLMの構造感度
• Abstract要約: 大規模言語モデル(LLM)は、多言語推論性能を示すが、セマンティクスの保存構造的変動に対する頑健さは未解明のままである。 ヒンディー語とマラヤラム語における2つの言語基盤摂動設定を用いた多言語LLMの構造感度について検討した。 我々は、構造的摂動入力下での数学的推論性能の一貫性と顕著な劣化を観察する。
• 参考スコア（独自算出の注目度）: 19.00420862366793
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Large Language Models (LLMs) demonstrate strong multilingual reasoning performance, yet their robustness to semantics-preserving structural variation remains underexplored, particularly for relatively free word-order languages. We investigate the structural sensitivity of multilingual LLMs using two linguistically grounded perturbation settings in Hindi and Malayalam: constrained constituent reordering and active-passive voice transformation. We introduce a benchmark dataset IndicReStruct, with two variants, GSM8K-Reordered and GSM8K-Voice, constructed from GSM8K while preserving semantic meaning. Across six state-of-the-art LLMs and multiple prompting strategies, we observe consistent and significant degradation in mathematical reasoning performance under structurally perturbed inputs. To further understand these failures, we perform qualitative error analysis and mechanistic interpretability experiments using residual-stream activation patching. Our analyses show that reasoning failures frequently arise from disruptions in entity-quantity alignment and that intermediate transformer layers contribute most strongly toward reasoning restoration. Overall, our findings suggest that current multilingual LLMs remain highly sensitive to surface syntactic realization and lack robust compositional invariance under structurally different but semantically equivalent inputs.
• Abstract（参考訳）: 大規模言語モデル(LLM)は、多言語推論の性能を示すが、セマンティクスに頑健な構造的変動は、特に比較的自由な単語順序言語では、まだ探索されていない。 ヒンディー語とマラヤラム語における2つの言語基盤摂動設定を用いた多言語LLMの構造感度について検討した。 GSM8K-Reordered と GSM8K-Voice の2つの変種を持つベンチマークデータセット IndicReStruct を導入し,意味的意味を保ちながら GSM8K から構築した。 6つの最先端LCMと複数のプロンプト戦略で、構造的摂動入力下での数学的推論性能の一貫性と顕著な劣化を観察する。 これらの故障をより深く理解するために、残留ストリームアクティベーションパッチを用いた定性的誤り解析および機械論的解釈可能性実験を行う。 分析の結果, 整合性アライメントが乱れ, 中間変圧器層が推理回復に最も寄与していることが判明した。 全体として,現在の多言語LLMは表面の構文的実現に非常に敏感であり,構造的に異なるが意味論的に等価な入力の下では頑健な構成不変性が欠如していることが示唆された。

関連論文リスト

• Forbid Your Attention: Fooling Multimodal Large Language Models by Selectively Removing Intrinsic Focus in Spectral Domain [94.64605746540472]
  MLLM(Multimodal large language model)は、より文脈的なマルチモーダル情報を処理するために、大規模言語モデル(LLM)の能力を拡張した。 近年の研究では、MLLMは敵対的な入力、特に視覚成分を標的とする入力に対して非常に脆弱であることが示されている。 本稿では, 構造関連位相領域に対する対向的摂動を明示的に制限する, 位相対応型対向攻撃フレームワークを提案する。
  論文  参考訳（メタデータ） (2026-09-01T06:34:32Z)
• MultiHaluDet: Multilingual Hallucination Detection via LLM Hidden State Probing [1.3700362496838856]
  大規模言語モデル(LLM)における幻覚は、信頼性の高いデプロイメントにとって重要な障壁である。 多言語幻覚を検出する新しい3段階積み重ねフレームワークであるMultiHaluDetを紹介する。 本フレームワークは,HluEvalおよびTriviaQAベンチマークで98.55%のAUROCに到達し,最先端検出性能を実現する。
  論文  参考訳（メタデータ） (2026-05-24T07:50:03Z)
• Compensating Visual Insufficiency with Stratified Language Guidance for Long-Tail Class Incremental Learning [50.795452298625996]
  ロングテールクラスのインクリメンタルラーニング(LT CIL)は、テールクラスのサンプルの不足が学習を妨げているため、依然として非常に困難である。 これらの問題に対処するために、言語知識の情報性とスケーラビリティを活用します。 階層化適応型言語指導を導入し、学習可能な重みを利用してマルチスケールの意味表現をマージする。
  論文  参考訳（メタデータ） (2026-03-23T08:50:00Z)
• Same Meaning, Different Scores: Lexical and Syntactic Sensitivity in LLM Evaluation [40.210132040677]
  本稿では,23の現代大言語モデル(LLM)の絶対的性能と相対的ランク付けが,制御的,真に等価な語彙的および構文的摂動に与える影響について検討する。 その結果、語彙的摂動は、ほぼすべてのモデルやタスクに対して、実質的、統計的に有意な性能劣化を誘導する一方、構文的摂動はより異質な効果を持ち、時には結果を改善することが示されている。
  論文  参考訳（メタデータ） (2026-02-19T12:24:42Z)
• Unlocking Reasoning Capability on Machine Translation in Large Language Models [57.60641851466707]
  推論指向の大規模言語モデル(RLM)は、明示的な中間推論を生成することにより、数学やコーディングといったタスクに強い利益をもたらす。 WMT24++ベンチマークを用いて,オープンおよびクローズドヘビー級のRCMを系統的に評価した。 明示的な推論を可能にすることは、言語やモデル間の翻訳品質を一貫して低下させる。
  論文  参考訳（メタデータ） (2026-02-16T14:05:59Z)
• Stable Language Guidance for Vision-Language-Action Models [62.80963701282789]
  残留セマンティックステアリング(Residual Semantic Steering)は、セマンティック実行から身体的余裕を逸脱する確率的フレームワークである。 RSSは最先端の堅牢性を実現し、敵対的な言語摂動の下でも性能を維持する。
  論文  参考訳（メタデータ） (2026-01-07T16:16:10Z)
• Sensitivity of Small Language Models to Fine-tuning Data Contamination [0.0]
  小言語モデル(SLM)は、資源に制約のある環境にますますデプロイされている。 命令チューニング中の構文的および意味的変換タイプに対する感受性を計測する。 文字反転はサイズや家族に関係なく、すべてのモデルでほぼ完全に失敗する。 セマンティック・トランスフォーメーションは、異なるしきい値の挙動を示し、コア言語能力においてより強いレジリエンスを示す。
  論文  参考訳（メタデータ） (2025-11-10T06:44:29Z)
• Mechanistic Understanding and Mitigation of Language Confusion in English-Centric Large Language Models [56.61984030508691]
  言語混乱に関する最初の機械論的解釈可能性研究について述べる。 混乱点(CP)がこの現象の中心であることを示す。 比較分析によって同定された少数の臨界ニューロンを多言語で調整したニューロンで編集すると、混乱が著しく軽減されることがわかった。
  論文  参考訳（メタデータ） (2025-05-22T11:29:17Z)
• LLM-based Translation Inference with Iterative Bilingual Understanding [52.46978502902928]
  大規模言語モデル(LLM)の言語間機能に基づいた,新しい反復的バイリンガル理解翻訳法を提案する。 LLMの言語横断的能力により、ソース言語とターゲット言語を別々にコンテキスト理解することが可能になる。 提案したIBUTは、いくつかの強力な比較法より優れている。
  論文  参考訳（メタデータ） (2024-10-16T13:21:46Z)
• Emergent Linguistic Structures in Neural Networks are Fragile [20.692540987792732]
  大規模言語モデル (LLM) は自然言語処理タスクにおいて高い性能を示すと報告されている。 言語表現の一貫性と堅牢性を評価するための枠組みを提案する。
  論文  参考訳（メタデータ） (2022-10-31T15:43:57Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。