論文の概要: Enemray: Toward Capable Language Models for Hassaniya

• arxiv url: http://arxiv.org/abs/2609.14829v1
• Date: Sun, 13 Sep 2026 22:52:47 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-16 07:15:06.005631
• Title: Enemray: Toward Capable Language Models for Hassaniya
• Title（参考訳）: Enemray: ハサニヤの言語モデルの実現に向けて
• Abstract要約: EnemrayはHassaniya中心の言語モデルであり、Hassaniyaにおける汎用的な対話を可能にする。 安定性と塑性の目標に基づいて訓練され、ハサニヤ語と文化の強い能力を得る。 比較されたオープンモデルとプロプライエタリモデルの中で、ハサニヤ語への最強の英語翻訳を達成している。
• 参考スコア（独自算出の注目度）: 1.0152838128195467
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: We introduce Enemray, a Hassaniya-centric language model that enables general-purpose interaction in Hassaniya. Enemray is trained around a stability--plasticity objective: acquire strong Hassaniya linguistic and cultural competence while preserving the general reasoning, multilingual, instruction-following, and safety behaviors of a capable instruction-tuned model. The development pipeline separates language acquisition from behavioral specialization. A separately assembled continual-pretraining corpus provides broad exposure to natural Hassaniya and Mauritanian text; layer-selective continual pretraining learns a compact language-specific parameter update; that update is transferred into the instruction-tuned parameter space; and supervised post-training develops conversational, cultural, literary, task-oriented, and cross-lingual behavior. The supervised corpus integrates selected public Hassaniya and Mauritanian resources with a substantially larger body of newly collected, reconstructed, curated, and constructed instruction data, while policy-generated replay provides a retention signal from the reference model's own behavior distribution. The resulting collection is substantially larger and broader in purpose than existing Hassaniya text resources. In evaluation, Enemray achieves the strongest English to Hassaniya translation among the compared open and proprietary models and the highest overall score on Mauritanian translation error detection, while retaining most of the general capabilities of its instruction-tuned base model on mathematical reasoning, knowledge, code generation, and function calling. This report describes the motivation, data construction, model design, training methodology, and evaluation of Enemray.
• Abstract（参考訳）: 本稿では,ハサニヤ中心の言語モデルであるEnemrayを紹介し,ハサニヤにおける汎用的なインタラクションを実現する。 Enemrayは安定性と塑性の目標に基づいて訓練され、ハサニヤ語と文化の強い能力を得ると同時に、有能な指導訓練モデルの一般的な推論、多言語、指示追従、安全行動を保存する。 開発パイプラインは、言語習得と行動特化を分離する。 個別に組み立てられた継続事前学習コーパスは、自然のハサニヤ語とモーリタニア語のテキストに幅広い露出を与え、層選択的な連続事前学習は、コンパクトな言語固有のパラメータ更新を学習し、その更新は、訓練されたパラメータ空間に転送され、教師付きポストトレーニングは、会話的、文化的、文学的、タスク指向、および言語的振る舞いを発達させる。 監督されたコーパスは、選択されたハサニヤとモーリタニアの資源と、新たに収集された、再構成され、キュレーションされ、構築された命令データとを統合し、ポリシー生成されたリプレイは、参照モデルの行動分布から保持信号を提供する。 結果として得られたコレクションは、既存のHassaniyaテキストリソースよりもはるかに大きく、目的が広い。 評価において、Enemrayは、比較されたオープンモデルとプロプライエタリモデルの中で最も強力なハサニヤ翻訳を達成し、モーリタニアの翻訳誤り検出における最高スコアを達成し、数学的推論、知識、コード生成、関数呼び出しに関する命令チューニングベースモデルの一般的な能力のほとんどを維持した。 本報告では,Enemrayのモチベーション,データ構築,モデル設計,トレーニング手法,評価について述べる。

関連論文リスト

• The Rise of Verbal Reinforcement Learning [15.047015671853321]
  このパラダイムをVerbal Reinforcement Learning (VRL)と呼び、その最初の統一的な説明を提供する。 一つの軸の周囲のフィールドを整理し、エージェントのライフサイクルに音声フィードバックが影響し、3つの柱が生成される。 この分類は、より有能で整合したエージェントを構築する上での課題と機会を定義しつつ、言語的強化がエージェント開発をいかに形作るかを示している。
  論文  参考訳（メタデータ） (2026-09-01T17:58:18Z)
• On the Fallacy of Global Token Perplexity in Spoken Language Model Evaluation [88.77441715819366]
  大規模生音声で事前訓練された生成音声言語モデルは、適切な内容で音声プロンプトを継続することができる。 本稿では,グローバルトークンの難易度に代えて,多種多様な可能性・生成的評価手法を提案する。
  論文  参考訳（メタデータ） (2026-01-09T22:01:56Z)
• PrahokBART: A Pre-trained Sequence-to-Sequence Model for Khmer Natural Language Generation [25.459638905074033]
  この研究は、Khmerのためにスクラッチからトレーニングされたコンパクトな事前訓練シーケンス・ツー・シーケンスモデルであるPrahokBARTを紹介した。 既存の多言語モデルでは無視されているKhmerの学習前コーパスの品質向上と言語問題に焦点をあてる。
  論文  参考訳（メタデータ） (2025-12-15T17:11:31Z)
• Trustworthy Alignment of Retrieval-Augmented Large Language Models via Reinforcement Learning [84.94709351266557]
  検索強化に関して,言語モデルの信頼性に焦点をあてる。 検索強化言語モデルには,文脈的知識とパラメトリック的知識の両方に応じて応答を供給できる本質的な能力があると考えられる。 言語モデルと人間の嗜好の整合性に着想を得て,検索強化言語モデルを外部証拠にのみ依存する状況に整合させるための第一歩を踏み出した。
  論文  参考訳（メタデータ） (2024-10-22T09:25:21Z)
• Disco-Bench: A Discourse-Aware Evaluation Benchmark for Language Modelling [70.23876429382969]
  本研究では,多種多様なNLPタスクに対して,文内談話特性を評価できるベンチマークを提案する。 ディスコ・ベンチは文学領域における9つの文書レベルのテストセットから構成されており、豊富な談話現象を含んでいる。 また,言語分析のために,対象モデルが談話知識を学習するかどうかを検証できる診断テストスイートを設計する。
  論文  参考訳（メタデータ） (2023-07-16T15:18:25Z)
• Improving Language Model Integration for Neural Machine Translation [43.85486035238116]
  暗黙的な言語モデルの説明は言語モデル融合の性能を大幅に向上させることを示す。 暗黙的な言語モデルの説明は言語モデル融合の性能を大幅に向上させる。
  論文  参考訳（メタデータ） (2023-06-08T10:00:19Z)
• Commonsense Knowledge Transfer for Pre-trained Language Models [83.01121484432801]
  ニューラルコモンセンス知識モデルに格納されたコモンセンス知識を汎用的な事前学習言語モデルに転送するフレームワークであるコモンセンス知識伝達を導入する。 まず、一般的なテキストを利用して、ニューラルコモンセンス知識モデルからコモンセンス知識を抽出するクエリを形成する。 次に、コモンセンスマスクの埋め込みとコモンセンスの関係予測という2つの自己教師対象で言語モデルを洗練する。
  論文  参考訳（メタデータ） (2023-06-04T15:44:51Z)
• Chain of Hindsight Aligns Language Models with Feedback [62.68665658130472]
  我々は,その極性に関係なく,任意の形式のフィードバックから学習し,最適化が容易な新しい手法であるChain of Hindsightを提案する。 我々は、あらゆる種類のフィードバックを文のシーケンスに変換し、それをモデルを微調整するために使用する。 そうすることで、モデルはフィードバックに基づいて出力を生成するように訓練され、負の属性やエラーを特定し修正する。
  論文  参考訳（メタデータ） (2023-02-06T10:28:16Z)
• Grounded Compositional Outputs for Adaptive Language Modeling [59.02706635250856]
  言語モデルの語彙$-$典型的にはトレーニング前に選択され、後で永久に固定される$-$は、そのサイズに影響します。 言語モデルのための完全合成出力埋め込み層を提案する。 我々の知る限り、この結果はトレーニング語彙に依存しないサイズを持つ最初の単語レベル言語モデルである。
  論文  参考訳（メタデータ） (2020-09-24T07:21:14Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。