論文の概要: When the Weakest Language Keeps Moving: ARMOR-DP for Multilingual BabyLM
- arxiv url: http://arxiv.org/abs/2610.33583v1
- Date: Sat, 24 Oct 2026 10:23:25 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-27 22:27:13.366545
- Title: When the Weakest Language Keeps Moving: ARMOR-DP for Multilingual BabyLM
- Title(参考訳): Wakest言語が動き続けるとき:多言語BabyLMのためのARMOR-DP
- Abstract要約: ARMOR-DPは、表現、露出、キャパシティ、客観的圧力から生じる不均衡を診断するフレームワークである。
制御された実験により、同等の文字予算が中国語に厳しい表現人工物を生み出すことが示されている。
バイトレベルのエンコーディングはその多くを取り除き、静的な中国語の保護は英語を最も弱い言語にする。
- 参考スコア(独自算出の注目度): 10.995340959335122
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Multilingual BabyLM systems usually fix language sampling proportions even though the weakest language can change during training. We present ARMOR-DP, a modular framework that diagnoses imbalance arising from representation, exposure, capacity, and objective pressure, and uses per-language validation loss to update sampling. Controlled experiments show that equal character budgets create a severe representation artifact for Chinese; byte-level encoding removes much of it, while static Chinese protection can subsequently make English the weakest language. The dynamic controller tracks these transitions and achieves a better score--balance tradeoff than fixed protection. On official evaluation, curriculum-dynamic checkpoints outperform a matched static Chinese-protective baseline while using fewer Chinese epochs; scaling capacity yields the strongest internal ARMOR-DP system. These results support a simple conclusion: multilingual weakness is a training-time state rather than a fixed property of a language. ARMOR-DP therefore separates diagnosis from intervention, allowing protection to follow the current bottleneck instead of a predetermined language label.
- Abstract(参考訳): 多言語BabyLMシステムは通常、訓練中に最も弱い言語が変化しても、言語サンプリングの割合を固定する。
本稿では,表現,露出,キャパシティ,客観的圧力から生じる不均衡を診断するモジュール型フレームワークARMOR-DPを提案する。
制御された実験により、同等の文字予算が中国語に厳しい表現人工物を生み出すことが示され、バイトレベルのエンコーディングはその多くを取り除き、静的な中国語の保護はその後英語を最も弱い言語にすることができる。
ダイナミックコントローラはこれらの遷移を追跡し、固定された保護よりもスコアバランスのトレードオフを達成します。
公式評価では、カリキュラム・ダイナミック・チェックポイントは中国のエポックを減らしながら、一致する静的な中国保護ベースラインを上回り、拡張能力はARMOR-DPシステムの中で最強となる。
これらの結果は単純な結論を支持する: 多言語的弱点は、言語の固定プロパティではなく、トレーニング時の状態である。
そのためARMOR-DPは、診断と介入を分離し、所定の言語ラベルの代わりに現在のボトルネックに従うように保護する。
関連論文リスト
- Efficient Multilingual Reasoning Transfer via Progressive Code-Switching [51.49388869532955]
トランスファーアプローチは典型的には、強いLEMからの蒸留されたターゲット言語推論のトレースや、外部の審査モデルからのオンライン監視に依存している。
軽量翻訳のみを必要とするより効率的な転送フレームワークであるPCS(Progressive Code-Switching)を提案する。
PCSは、ターゲット言語と英語の推論のパフォーマンスギャップを著しく狭め、より言語に一貫性のある推論をもたらす。
論文 参考訳(メタデータ) (2026-07-01T06:13:16Z) - Are you speaking my languages? On spoken language adherence in multimodal LLMs [1.554397085362411]
大言語モデル(LLM)に基づく自動音声認識(ASR)は、シームレスな多言語使用を可能にする。
モデルはしばしば出力言語を誤認し、書き起こしの忠実さと下流のアプリケーション品質を妥協する。
出力を厳密に制約することなく、潜在的な音声言語にヒントを与えるソフトプロンプト手法を提案する。
論文 参考訳(メタデータ) (2026-06-15T20:44:42Z) - Exploring Adversarial Robustness and Safety Alignment in Multilingual Multi-Modal Large Language Models [37.24612885977265]
マルチモーダル大規模言語モデルでは、視覚認識を言語推論に統合し、敵対的攻撃を受けやすい連続的な攻撃面を導入する。
MLLMの以前の研究は、主に英語中心のタスクに焦点を合わせており、多言語的な振る舞いは未調査のままである。
本研究は,12言語にまたがる対向的ロバスト性とマルチモーダル安全性について検討し,インストラクションチューニングによる多言語能力を得るオープンソースMLLMを評価した。
論文 参考訳(メタデータ) (2026-06-02T15:42:10Z) - Low-Resource English-Tigrinya MT: Leveraging Multilingual Models, Custom Tokenizers, and Clean Evaluation Benchmarks [6.177998679139308]
ニューラルネットワーク翻訳(NMT)の進歩にもかかわらず、Tigrinyaのような低リソース言語はいまだに保存されていない。
本稿では,多言語事前学習モデルを用いた翻訳学習手法について検討し,形態的に豊かな低リソース言語に対する翻訳品質を向上させる。
論文 参考訳(メタデータ) (2025-09-24T15:02:57Z) - Mechanistic Understanding and Mitigation of Language Confusion in English-Centric Large Language Models [56.61984030508691]
言語混乱に関する最初の機械論的解釈可能性研究について述べる。
混乱点(CP)がこの現象の中心であることを示す。
比較分析によって同定された少数の臨界ニューロンを多言語で調整したニューロンで編集すると、混乱が著しく軽減されることがわかった。
論文 参考訳(メタデータ) (2025-05-22T11:29:17Z) - MrGuard: A Multilingual Reasoning Guardrail for Universal LLM Safety [56.77103365251923]
大規模言語モデル(LLM)は、ジェイルブレイクのような敵の攻撃を受けやすい。
この脆弱性は、多言語セーフティアライメントされたデータが制限される多言語設定で悪化する。
素早い分類のための多言語ガードレールを提案する。
論文 参考訳(メタデータ) (2025-04-21T17:15:06Z) - Benchmarking LLM Guardrails in Handling Multilingual Toxicity [57.296161186129545]
7つのデータセットと10以上の言語にまたがる包括的な多言語テストスイートを導入し、最先端ガードレールのパフォーマンスをベンチマークする。
近年の脱獄技術に対するガードレールの弾力性について検討し,ガードレールの性能に及ぼすコンテキスト内安全ポリシーと言語資源の可利用性の影響について検討した。
以上の結果から, 既存のガードレールは多言語毒性の処理に依然として効果がなく, 脱獄プロンプトに対する堅牢性が欠如していることが示唆された。
論文 参考訳(メタデータ) (2024-10-29T15:51:24Z) - Unlikelihood Tuning on Negative Samples Amazingly Improves Zero-Shot
Translation [79.96416609433724]
Zero-shot Translation (ZST)は、トレーニングデータにおいて、目に見えない言語ペア間の翻訳を目的としている。
推論中にゼロショット言語マッピングをガイドする一般的な方法は、ソースとターゲット言語IDを意図的に挿入することである。
近年の研究では、言語IDが時折ZSTタスクのナビゲートに失敗し、ターゲット外問題に悩まされることが示されている。
論文 参考訳(メタデータ) (2023-09-28T17:02:36Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。