論文の概要: An Explainable System for Offensive Content Detection in Nastaliq Urdu: Corpus Curation, Transformer Benchmarking, and Word-Level Attribution
- arxiv url: http://arxiv.org/abs/2610.15795v1
- Date: Sun, 11 Oct 2026 17:33:09 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-15 21:06:15.249574
- Title: An Explainable System for Offensive Content Detection in Nastaliq Urdu: Corpus Curation, Transformer Benchmarking, and Word-Level Attribution
- Title（参考訳）: Nastaliq Urduにおける攻撃的コンテンツ検出のための説明可能なシステム:コーパスキュレーション、トランスフォーマーベンチマーク、ワードレベル属性
- Abstract要約: 7604 Nastaliq Urdu Facebookコメントのコーパスをリリースしました。
共通のグリッドサーチプロトコルで4つのUrdu対応トランスを微調整する。
左右のレンダリングに適応した単語レベルのSHAP属性を計算する。
- 参考スコア（独自算出の注目度）: 3.756550107432323
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Automated moderation systems are deployed at scale, yet they remain opaque to the users and moderators affected by their decisions, and their coverage is almost entirely confined to English. For Urdu written in the Nastaliq script, no such system exists, and the annotated resources it would be built on are drawn largely from Twitter/X, where character limits constrain how users write. Interpretability has received little attention, leaving it unclear what such models actually learn. This study addresses these gaps in three steps. First, we curate and publicly release a corpus of 7604 Nastaliq Urdu Facebook comments, extending an earlier corpus by correcting text-level inconsistencies and re-examining the original labels. Second, we fine-tune four Urdu-capable transformers under a common grid-search protocol and compare them against twelve feature-classifier baselines on identical data partitions. The best configuration, Multilingual Representations for Indian Languages (MuRIL), reaches 87.05% accuracy and 87.06% macro F1, improving on the strongest baseline by 5.52 percentage points, a margin that exceeds the 95% confidence interval on test accuracy; the two leading transformers differ by less than the test set can resolve, and performance is stable across five optimizers. Third, we compute word-level SHAP attributions adapted to right-to-left rendering. Attribution mass concentrates on high-frequency slurs but extends to syntactically neutral function words and to political vocabulary characteristic of the source pages, indicating that aggregate performance may rest partly on lexical and topical regularities rather than a generalizable representation of offensiveness.
- Abstract（参考訳）: 自動モデレーションシステムは大規模に展開されているが、決定によって影響を受けるユーザーやモデレーターには不透明であり、そのカバレッジはほぼ英語に限られている。
Nastaliqスクリプトで書かれたUrduでは、そのようなシステムは存在せず、その上に構築される注釈付きリソースは、主にTwitter/Xから引き出される。
解釈可能性はほとんど注目されておらず、そのようなモデルが実際に何を学ぶのかははっきりしていない。
本研究はこれらのギャップを3つのステップで解決する。
まず、7604 Nastaliq Urdu Facebookコメントのコーパスをキュレートし、公開します。
次に、共通のグリッド検索プロトコルの下で4つのUrdu対応変換器を微調整し、同一データパーティション上の12の特徴分類器ベースラインと比較する。
最良の構成であるMultilingual Representations for Indian Languages (MuRIL)は、87.05%の精度と87.06%のマクロF1に達し、最強のベースラインを5.52ポイント改善し、テスト精度で95%の信頼区間を超えたマージンを達成している。
第三に、左右のレンダリングに適応した単語レベルのSHAP属性を計算する。
属性マスは高周波スラリーに集中するが、構文的に中立な機能ワードや、ソースページの政治的語彙的特徴に拡張され、集約されたパフォーマンスは、一般的な攻撃性の表現ではなく、語彙的および話題的規則性に部分的に依存する可能性があることを示す。
関連論文リスト
- Making COMET Comparable Across Scripts: Diagnosis and Correction of Tokeniser-Induced Script Bias in Indic MT Evaluation [0.22034219874287467]
COMETは翻訳品質を1つの数字として報告し、その数字は異なるスクリプトで書かれたターゲット言語間で定期的に比較される。
スクリプトのアイデンティティは、ネイティブスクリプトCOMET分散の22.9%を占めており、アノテータとの合意は研究対象の5言語すべてに該当する。
我々は,正規化されたスコア,3つの診断,およびそれらが計算したトークンの同一性について,読者がどの程度のスコアが翻訳品質を反映し,どのくらいが筆記システムに反映しているかを知ることができるようにすることを推奨する。
論文 参考訳（メタデータ） (2026-10-06T11:11:43Z) - Output Language Confusion under Multilingual Prompt Contamination [1.0139836117407375]
軽量かつ完全に複製可能な評価プロトコルであるMDI(Multilingual Distractor Interference)を導入する。
TortfulQA と TriviaQA にまたがる5つの命令調整 LLM を8つの障害条件下で評価した。
Llama-3.1-8Bはヒンディー語に注意を払い、反応の58%はデバナガリ文字に切り替え、生の幻覚のプロキシは0.710である。
論文 参考訳（メタデータ） (2026-10-02T07:16:48Z) - Evaluating Multilingual Sentence Embeddings for Translation Error Detection:An English--Greek Contrastive Study [0.0]
本研究は,多言語埋め込みモデルが正しい英語-ギリシャ語翻訳を区別できるかどうかを考察する。
10コアに1,850のサンプルと5つの探索エラーカテゴリが含まれている。
埋め込みモデルは、テンソル・アンド・アスペクトや代名詞・基準誤差よりも明確な事実・語彙的変化を確実に検出した。
論文 参考訳（メタデータ） (2026-08-28T18:32:54Z) - IndicQE-APE: A Benchmark for Quality Estimation and Automatic Post-Editing for Indic Languages [77.88427845181154]
我々はWMT 2020-2024の共有タスクの系統を、英語のリソースを拡張してインディクシーに集約する:9つの方向対に対して126,754ドルのインスタンス。
セグメントレベルのQEでは,LSMが6つ,COMETが3つ,APEでは3つのシステムをベンチマークした。
論文 参考訳（メタデータ） (2026-08-17T09:50:52Z) - Beyond Similarity: Grounded Agentic Extraction and Expert-Adjudicated Evaluation of Intertextuality in Classical Chinese Histories [3.694051864521789]
我々は、大言語モデルが2つのテキスト単位をフルに読み込むエージェントタスクとして、きめ細かいテクスチャ間抽出をリキャストする。
3つのドメインの専門家がプールされたマルチモデル候補を2,533対のテキスト間ペアのベンチマークに設定し、Analects と Book of Han を徹底的に比較する手法を検証する。
論文 参考訳（メタデータ） (2026-07-30T02:34:23Z) - Benchmarking Speech-to-Speech Translation Models [55.00303727199927]
音声音声翻訳(S2ST)は急速に進歩しているが、オフライン評価には統一されたプロトコルが欠けている。
8次元にわたる46のメトリクスを統合するベンチマークフレームワークを導入する。
FLEURSとCVSSから1,248のモデル言語構成でデプロイする。
論文 参考訳（メタデータ） (2026-06-02T07:01:33Z) - Simultaneous Speech-to-Speech Translation Without Aligned Data [52.467808474293605]
同時音声翻訳では、ソース音声を対象言語にリアルタイムで翻訳する必要がある。
単語レベルのアライメントを完全に不要にするヒビキゼロを提案する。
Hibiki-Zeroは5つのX-英語タスクの翻訳精度、レイテンシ、音声転送、自然性において最先端のパフォーマンスを実現している。
論文 参考訳（メタデータ） (2026-02-11T17:41:01Z) - Contextualized Semantic Distance between Highly Overlapped Texts [85.1541170468617]
テキスト編集や意味的類似性評価といった自然言語処理タスクにおいて、ペア化されたテキストに重複が頻繁に発生する。
本稿では,マスク・アンド・予測戦略を用いてこの問題に対処することを目的とする。
本稿では,最も長い単語列の単語を隣接する単語とみなし,その位置の分布を予測するためにマスク付き言語モデリング(MLM)を用いる。
セマンティックテキスト類似性の実験では、NDDは様々な意味的差異、特に高い重なり合うペアテキストに対してより敏感であることが示されている。
論文 参考訳（メタデータ） (2021-10-04T03:59:15Z) - On the Language Coverage Bias for Neural Machine Translation [81.81456880770762]
言語カバレッジバイアスは、ニューラルネットワーク翻訳(NMT)において重要である。
実験を慎重に設計することにより、トレーニングデータにおける言語カバレッジバイアスの包括的分析を行う。
本稿では,言語カバレッジバイアス問題を軽減するための,シンプルで効果的な2つのアプローチを提案する。
論文 参考訳（メタデータ） (2021-06-07T01:55:34Z) - Fast and Robust Unsupervised Contextual Biasing for Speech Recognition [16.557586847398778]
明示的な文脈言語モデルを必要としない代替手法を提案する。
学習コーパスからシステム語彙の各単語に対するバイアススコアを導出する。
関連するコンテキストが利用できる場合,認識精度が大幅に向上することを示す。
論文 参考訳（メタデータ） (2020-05-04T17:29:59Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。