論文の概要: Hate Speech Classification In Roman Urdu: A Comparative Study On Parameter Efficient Fine-Tuning And Prompt Engineering

• arxiv url: http://arxiv.org/abs/2608.21408v1
• Date: Mon, 10 Aug 2026 13:56:48 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-31 05:49:59.234782
• Title: Hate Speech Classification In Roman Urdu: A Comparative Study On Parameter Efficient Fine-Tuning And Prompt Engineering
• Title（参考訳）: ローマ・ウルドゥー語におけるヘイトスピーチ分類 : パラメータ効率の良い微調整とプロンプト工学の比較研究
• Abstract要約: ローマン・ウルドゥー語(Ro-man Urdu)は、パキスタンや世界中のウルドゥー語圏で使われている低資源言語である。 本研究では,限られたデータを用いた低リソース環境下でのヘイトスピーチ分類において,最も効果的な手法を特定することを目的とする。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Due to the widespread accessibility of the internet and social media, toxic and hateful con-tent has grown exponentially, causing significant distress and negative societal impacts. Ro-man Urdu, a low-resource language used in Pakistan and among Urdu-speaking communities worldwide, presents additional challenges because of its informal grammar, inconsistent sen-tence structures, and multiple variations in word spellings. This research aims to identify the most effective techniques for hate speech classification in such low-resource settings with limited data. To address this, the study investigates and compares the latest approaches, in-cluding prompt tuning, parameter-efficient fine-tuning (PEFT) using LoRA, and prompt en-gineering, under various experimental configurations. To achieve this objective, four exper-iments were designed. The first experiment involved direct inferencing with LLMs without any fine-tuning, to evaluate how well these models understand Roman Urdu in a zero-shot setting, especially given limited data. The second experiment utilized parameter-efficient fine-tuning (PEFT) with LoRA, which updates only a small subset of parameters, thereby reducing computational cost. The third experiment explored prompt tuning with both mixed and manually crafted prompts, using very small sets of training examples relative to the entire dataset, making it computationally efficient as well. Finally, the fourth experiment applied prompt engineering through zero-shot and few-shot learning, relying solely on care-fully designed instruction prompts for classification without further training.
• Abstract（参考訳）: インターネットやソーシャルメディアが広く普及しているため、有害で憎悪的なコンテントは指数関数的に増加し、大きな苦痛と負の社会的影響を引き起こしている。 Ro-man Urduはパキスタンや世界中のウルドゥー語コミュニティで使われている低リソース言語であり、非公式な文法、一貫性のないセンテンス構造、単語スペルの多様さなど、さらなる課題を提起している。 本研究では,限られたデータを用いた低リソース環境下でのヘイトスピーチ分類において,最も効果的な手法を特定することを目的とする。 そこで本研究では,LoRAを用いたインクルード・プロンプト・チューニング,パラメータ効率・ファインタニング(PEFT),およびインジェネレーション・アンジェネリング(en-gineering)を各種実験条件下で検討し,比較した。 この目的を達成するために、4つの外装が設計された。 最初の実験では、特に限られたデータによって、これらのモデルがローマン・ウルドゥーをゼロショットでどのように理解するかを評価するために、微調整なしで直接LLMを推論することが含まれていた。 第2の実験ではパラメータ効率の細かいチューニング(PEFT)をLoRAで行い、パラメータの小さなサブセットだけを更新することで計算コストを削減した。 第3の実験では、データセット全体に対して非常に小さなトレーニング例を使用して、混合プロンプトと手動プロンプトの両方を使用したプロンプトチューニングを探索し、計算効率も向上した。 最後に、第4の実験では、ゼロショットと少数ショットの学習を通じてプロンプトエンジニアリングを適用し、それ以上の訓練をすることなく、慎重に設計された指示プロンプトにのみ依存した。

関連論文リスト

• Efficient Adaptation of LLMs for Hate Speech Detection in Low-Resource Languages: A Comparative Study on Roman Urdu [0.3436215734071903]
  低資源言語(LRL)におけるヘイトスピーチの検出は、注釈付きデータがないこと、言語構造が非公式であること、標準化された文法がないことなどから困難である。 本研究の目的は,ローマ・ウルドゥー文字におけるHate Speech Detection (HSD) のためのLarge Language Models (LLMs) の包括的な評価を行うことである。 PURUTT(Parallel UrduとRoman Urdu Corpus for Toxic Comments and Transliteration)データセットで72,000以上の注釈付きコメントで実験が行われた。
  論文  参考訳（メタデータ） (2026-08-06T11:28:19Z)
• Towards Rehearsal-Free Multilingual ASR: A LoRA-based Case Study on Whisper [21.656923341138103]
  本研究は,学習データがない場合の新たな言語モデルを強化するための戦略について検討する。 中国のウイスパーモデル(ウイグル語とチベット語)による実験では、よりコンパクトなパラメータセットでより良い結果が得られる。
  論文  参考訳（メタデータ） (2024-08-20T09:31:59Z)
• Improving Sampling Methods for Fine-tuning SentenceBERT in Text Streams [49.3179290313959]
  本研究では,選択的な微調整言語モデルの設計した7つのテキストサンプリング手法の有効性について検討した。 これらの手法がSBERTモデルの微調整に与える影響を, 4つの異なる損失関数を用いて正確に評価する。 その結果,テキストストリームの分類にはソフトマックスの損失とバッチ・オール・トリプレットの損失が特に有効であることが示唆された。
  論文  参考訳（メタデータ） (2024-03-18T23:41:52Z)
• RIFF: Learning to Rephrase Inputs for Few-shot Fine-tuning of Language Models [4.085425430499285]
  本稿では,パラメータ効率のよい微調整手法と合わせて,元のタスクの入力テキストを変更することの影響について検討する。 入力テキストの書き直しを効果的に行うため,最大辺縁類似度を目標とした数発のパラフレーズモデルを訓練する。 本研究では, パラメータ効率のよい微調整だけで達成できることを超えて, 列車におけるパラフレーズとテスト時間によるデータ豊か化により, 性能が向上することを示す。
  論文  参考訳（メタデータ） (2024-03-04T17:58:09Z)
• Fine-tuning Language Models for Factuality [96.5203774943198]
  大規模な事前訓練型言語モデル(LLM)は、しばしば伝統的な検索エンジンの代替として、広く使われるようになった。 しかし、言語モデルは説得力のあるが事実的に不正確な主張をしがちである(しばしば「幻覚」と呼ばれる)。 本研究では,人間のラベル付けなしに,より現実的な言語モデルを微調整する。
  論文  参考訳（メタデータ） (2023-11-14T18:59:15Z)
• HyPoradise: An Open Baseline for Generative Speech Recognition with Large Language Models [81.56455625624041]
  ASRの誤り訂正に外部の大規模言語モデル(LLM)を利用する最初のオープンソースベンチマークを導入する。 提案したベンチマークには、334,000組以上のN-best仮説を含む新しいデータセットHyPoradise (HP)が含まれている。 合理的なプロンプトと生成能力を持つLLMは、N-bestリストに欠けているトークンを修正できる。
  論文  参考訳（メタデータ） (2023-09-27T14:44:10Z)
• Instance-wise Prompt Tuning for Pretrained Language Models [72.74916121511662]
  インスタンスワイドのPrompt Tuning(IPT)は、入力データインスタンスからプロンプトに知識を注入する最初のプロンプト学習パラダイムである。 IPTはタスクベースのプロンプト学習法を著しく上回り、調律パラメータのわずか0.5%から1.5%で従来の微調整に匹敵する性能を達成している。
  論文  参考訳（メタデータ） (2022-06-04T10:08:50Z)
• Clinical Prompt Learning with Frozen Language Models [4.077071350659386]
  大規模だが凍結した事前学習言語モデル (PLMs) は、より小型で微調整されたモデルよりも高速に学習できる。 臨床的に有意な意思決定課題における即時学習の実現可能性について検討した。 結果は、学習の速さと部分的に一致しており、学習の速さは従来の微調整と一致したり改善したりすることができる。
  論文  参考訳（メタデータ） (2022-05-11T14:25:13Z)
• Towards Lifelong Learning of Multilingual Text-To-Speech Synthesis [87.75833205560406]
  本研究は,多言語テキスト音声(TTS)システムを学習するための生涯学習手法を提案する。 すべての言語からプールされたデータを必要としないため、ストレージと計算の負担が軽減される。
  論文  参考訳（メタデータ） (2021-10-09T07:00:38Z)
• Open-set Short Utterance Forensic Speaker Verification using Teacher-Student Network with Explicit Inductive Bias [59.788358876316295]
  そこで本研究では,小規模の法定フィールドデータセット上での話者検証を改善するためのパイプラインソリューションを提案する。 大規模領域外データセットを活用することで,教師学習のための知識蒸留に基づく目的関数を提案する。 提案する目的関数は,短時間の発話における教師学生の学習性能を効果的に向上できることを示す。
  論文  参考訳（メタデータ） (2020-09-21T00:58:40Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。