論文の概要: SAGA: Score-Weighted Adaptive Generation Alignment for Low-Resource Nordic Language Models
- arxiv url: http://arxiv.org/abs/2608.06179v1
- Date: Thu, 06 Aug 2026 15:41:02 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-07 15:25:20.946345
- Title: SAGA: Score-Weighted Adaptive Generation Alignment for Low-Resource Nordic Language Models
- Title(参考訳): SAGA:低リソースノルディック言語モデルのためのスコアウェイト適応生成アライメント
- Abstract要約: SAGAは、aScore-weighted Adaptive Generation Alignmentフレームワークである。
ヒューマンラベルを依存性パーザの監視に置き換える。
人間の選好ラベルを必要とせずに、文法的品質を一貫して改善する。
- 参考スコア(独自算出の注目度): 5.533252712831426
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Preference optimisation has proven effective for improving large language models but typically relies on costly human preference annotations. Extending these methods to morphologically rich, low-resource languages remains challenging because such annotations are scarce. We present SAGA (Score-weighted Adaptive Generation Alignment), a parser-guided preference optimisation framework that replaces human labels with dependency-parser supervision. SAGA converts parser judgements into preference pairs for delta-DPO, combines parser quality with lexical diversity in a composite reward, filters low-information pairs using a reward-gap criterion, and monitors reward hacking to maintain reliable supervision. Across Danish, Icelandic, and Norwegian Bokmål using GPT-SW3-1.3B, SAGA consistently improves grammatical quality without requiring human preference labels. Danish parse success increases from 69.0% to 93.8%, Icelandic achieves a +4.5 percentage-point improvement on an independent Stanza evaluation (three-run mean +3.3 percentage points) while native speakers prefer SAGA outputs in 80% of pairwise comparisons, and Norwegian Bokmål improves by +28 percentage points. These results demonstrate that parser-derived supervision is a practical alternative to human preference annotation for grammatical alignment in low-resource languages where high-quality dependency parsers are available.
- Abstract(参考訳): 優先順位の最適化は、大きな言語モデルを改善するのに効果的であることが証明されているが、一般的にはコストのかかる人間の嗜好アノテーションに依存している。
これらの手法を形態学的にリッチで低リソースな言語に拡張することは、このようなアノテーションが不足しているため、依然として困難である。
本稿では,SAGA(Score-weighted Adaptive Generation Alignment)について紹介する。
SAGAは、パーサ判断をデルタDPOの選好ペアに変換し、複合報酬の語彙的多様性と組み合わせ、報酬ギャップ基準を用いて低情報ペアをフィルタリングし、報酬ハッキングを監視し、信頼できる監視を維持する。
GPT-SW3-1.3Bを使用したデンマーク語、アイスランド語、ノルウェー語で、SAGAは人間の選好ラベルを必要としない文法的品質を一貫して改善している。
デンマークのパース成功率は69.0%から93.8%に増加し、アイスランド語は独立したスタンザ評価(3ラン平均+3.3ポイント)で+4.5ポイント改善し、母語話者はペア比較の80%でSAGA出力を好んでおり、ノルウェー語話者は+28ポイント改善している。
これらの結果は,高品質な依存パーサが利用できる低リソース言語における文法的アライメントのための人間の嗜好アノテーションの代替として,パーサに基づく監視が実用的であることを示している。
関連論文リスト
- Language Chain in Alignment: Cross-lingual Ranking Preference Optimization [23.860944668713696]
対象言語における嗜好アライメントを促進するために,英語からの堅牢な嗜好知識を活用する新しいフレームワークを提案する。
我々は、言語内および言語間選好を協調的に最適化するために、対象言語と英語をまたいだ並列選好ペア内の階層構造を設計する。
リソーススケールの異なる5言語を対象とした実験により、CRPOは命令追従と知識利用の両面で標準的アプローチを一貫して上回っていることが示された。
論文 参考訳(メタデータ) (2026-08-24T11:54:36Z) - IndicQE-APE: A Benchmark for Quality Estimation and Automatic Post-Editing for Indic Languages [77.88427845181154]
我々はWMT 2020-2024の共有タスクの系統を、英語のリソースを拡張してインディクシーに集約する:9つの方向対に対して126,754ドルのインスタンス。
セグメントレベルのQEでは,LSMが6つ,COMETが3つ,APEでは3つのシステムをベンチマークした。
論文 参考訳(メタデータ) (2026-08-17T09:50:52Z) - Lower-Resource, Higher Scores: Language Bias in LLM Evaluators [27.959960538188753]
意味論的に同一の命令応答対を23言語で実験する。
その結果、多言語評価器は異なる評価言語に大きく異なるスコアを割り当てていることがわかった。
論文 参考訳(メタデータ) (2026-07-16T01:53:09Z) - Benchmarking Speech-to-Speech Translation Models [55.00303727199927]
音声音声翻訳(S2ST)は急速に進歩しているが、オフライン評価には統一されたプロトコルが欠けている。
8次元にわたる46のメトリクスを統合するベンチマークフレームワークを導入する。
FLEURSとCVSSから1,248のモデル言語構成でデプロイする。
論文 参考訳(メタデータ) (2026-06-02T07:01:33Z) - Hierarchical Policy Optimization for Simultaneous Translation of Unbounded Speech [50.45710815530982]
同時音声翻訳(SST)は、部分的な音声入力を受けながら翻訳を生成する。
近年の進歩により、大規模言語モデル(LLM)はSSTの品質を大幅に向上するが、高い計算オーバーヘッドのコストがかかる。
本稿では,不完全なSFTデータに基づいて列車後モデルを訓練する階層的ポリシー最適化(HPO)手法を提案する。
英語と中国語/ドイツ語/日本語の実験では、+7 COMETスコアと+1.25 MetricXスコアが1.5秒で改善された。
論文 参考訳(メタデータ) (2026-04-22T19:43:51Z) - Enhancing Multilingual RAG Systems with Debiased Language Preference-Guided Query Fusion [12.496203909541721]
MRAGシステムは高リソース言語、特に英語に好まれることが多い。
このような測定は、評価ベンチマークに固有の構造的先行性によって著しく歪められていることが判明した。
DeLP(Debiased Language Preference)は,これらの構造的欠点を明確化するための校正指標である。
論文 参考訳(メタデータ) (2026-01-06T12:01:56Z) - CAPO: Confidence Aware Preference Optimization Learning for Multilingual Preferences [4.460583138505673]
優先順位最適化は、大きな言語モデルと人間の好みを合わせるのに使われ、通常はランク付けされた応答ペアを微調整する。
本稿では,DPO の優先ペアの固定処理を動的損失スケーリング機構に置き換える CAPO (Confidence-Aware Preference Optimization) を提案する。
CAPOは、多言語テキストでよく見られるノイズや低マージンの比較に頑健さを増す。
論文 参考訳(メタデータ) (2025-11-10T23:28:12Z) - Relic: Enhancing Reward Model Generalization for Low-Resource Indic Languages with Few-Shot Examples [58.55904048776596]
ほとんどのオープンソースの多言語報酬モデルは、主にオープンソース言語の好みデータセットに基づいて訓練されている。
低リソースIndic言語における報酬モデリングのための新しい文脈内学習フレームワークであるRELICを提案する。
論文 参考訳(メタデータ) (2025-06-19T17:56:16Z) - Improving Multilingual ASR in the Wild Using Simple N-best Re-ranking [68.77659513993507]
我々は,多言語ASRの精度を向上させるため,単純かつ効果的なN-best再分類手法を提案する。
その結果, 音声認識の精度は8.7%, 6.1%, 単語誤り率は3.3%, 単語誤り率は2.0%であった。
論文 参考訳(メタデータ) (2024-09-27T03:31:32Z) - KPC-cF: Aspect-Based Sentiment Analysis via Implicit-Feature Alignment with Corpus Filtering [0.0]
本研究は,韓国語などの低リソース言語におけるABSAの直感的で効果的な枠組みを提案する。
翻訳されたベンチマークと未ラベルの韓国データを統合することで、予測ラベルを最適化する。
英語のABSAと比較すると,F1スコアと精度に約3%の差が認められた。
論文 参考訳(メタデータ) (2024-06-29T07:01:51Z) - Distributionally Robust Multilingual Machine Translation [94.51866646879337]
本稿では,分散的ロバストな最適化に基づくMNMT(Multilingual Neural Machine Translation)の新しい学習目標を提案する。
この目的を,反復的最適応答方式を用いて,大規模翻訳コーパスに対して実用的に最適化する方法を示す。
本手法は,多対一の翻訳設定と多対多の翻訳設定の両方において,平均と言語毎のパフォーマンスにおいて,強いベースライン法より一貫して優れる。
論文 参考訳(メタデータ) (2021-09-09T03:48:35Z) - Inducing Language-Agnostic Multilingual Representations [61.97381112847459]
言語間の表現は、世界中のほとんどの言語でNLP技術が利用可能になる可能性がある。
i) 対象言語のベクトル空間をピボットソース言語に再配置すること、(ii) 言語固有の手段と分散を取り除くこと、(ii) 副産物としての埋め込みの識別性を向上すること、(iii) 形態的制約や文の並べ替えを除去することによって言語間の入力類似性を高めること、の3つのアプローチを検討する。
論文 参考訳(メタデータ) (2020-08-20T17:58:56Z) - Towards Instance-Level Parser Selection for Cross-Lingual Transfer of
Dependency Parsers [59.345145623931636]
我々は、インスタンスレベルの選択(ILPS)という、新しい言語間移動パラダイムを論じる。
本稿では,デレキシライズドトランスファーの枠組みにおけるインスタンスレベルの選択に着目した概念実証研究を提案する。
論文 参考訳(メタデータ) (2020-04-16T13:18:55Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。