論文の概要: Two-Stage Bengali Sentiment Classification: Domain Adaptation Through Continual Learning and Parameter-Efficient Fine-Tuning
- arxiv url: http://arxiv.org/abs/2608.01471v1
- Date: Sun, 02 Aug 2026 20:07:56 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-04 15:07:25.251585
- Title: Two-Stage Bengali Sentiment Classification: Domain Adaptation Through Continual Learning and Parameter-Efficient Fine-Tuning
- Title(参考訳): 2段階ベンガル感覚分類:連続学習によるドメイン適応とパラメータ効率の良い微調整
- Abstract要約: SentiBanglaBERTはベンガルの2段階の感情分類フレームワークである。
ドメイン適応型連続事前学習とパラメータ効率の良い微調整を組み合わせる。
ベンガル語の形態的手がかり、例えば否定接尾辞やアスペクト的マーカー、感情予測に対する言語的な洞察を提供する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Understanding sentiment in low-resource languages remains a key challenge for Natural Language Processing (NLP), particularly when domain-specific data is scarce. In this work, we present SentiBanglaBERT, a two-stage Bengali sentiment classification framework combining domain-adaptive continual pretraining and parameter-efficient fine-tuning. The approach enables contextual adaptation to news-style data while remaining computationally efficient through Low-Rank Adaptation (LoRA). Beyond performance, SentiBanglaBERT integrates SHAP-based interpretability, offering linguistic insights into how Bengali morphological cues, such as negation suffixes and aspectual markers, influence sentiment predictions. Experiments demonstrate stable performance comparable to strong baselines while providing greater transparency and interpretive depth. This framework highlights the potential of domain-adaptive continual learning as a foundation for interpretable, resource-efficient NLP in morphologically rich, underrepresented languages.
- Abstract(参考訳): 低リソース言語における感情を理解することは、特にドメイン固有のデータが不足している場合、自然言語処理(NLP)にとって重要な課題である。
本研究では,2段階のベンガル感情分類フレームワークであるSentiBanglaBERTについて述べる。
この手法は、ローランド適応(LoRA)を通して計算効率を保ちながら、ニューススタイルのデータへの文脈適応を可能にする。
パフォーマンス以外にも、SentiBanglaBERTはSHAPベースの解釈可能性を統合し、否定接尾辞やアスペクト的マーカー、感情予測など、ベンガルの形態的手がかりの言語的洞察を提供する。
実験では、高いベースラインに匹敵する安定したパフォーマンスを示し、透明性と解釈の深さを提供する。
このフレームワークは、形態的に豊かな、表現不足の言語における解釈可能な、リソース効率の高いNLPの基礎として、ドメイン適応型連続学習の可能性を強調している。
関連論文リスト
- Translation as a Computationally Efficient Bridge: Feasibility of English BERT for Low-Resource Languages [1.3899485276817554]
BERTモデルは、さまざまなドメインにわたる非構造化テキストを処理する能力を通じて、自然言語処理(NLP)に革命をもたらした。
非英語言語向けの高品質BERTモデルは、限られた注釈付きデータと高い計算要求のために依然として困難である。
本研究では,翻訳に基づく微調整とタスクや言語間のネイティブ言語BERT性能を比較した。
論文 参考訳(メタデータ) (2026-07-14T10:44:45Z) - LaScA: Language-Conditioned Scalable Modelling of Affective Dynamics [3.3187704612685267]
本稿では,言語モデル(LM)を手作業による影響記述子に対する意味的文脈条件付けとして利用する新しいフレームワークを提案する。
我々のアプローチは、構造的ドメイン知識から派生した、解釈可能な顔形状と音響特徴から始まる。
事前訓練されたLMはこれらの記述を処理し、感情力学よりも高いレベルの先行として機能する意味的文脈埋め込みを生成する。
論文 参考訳(メタデータ) (2026-04-08T15:18:39Z) - Compensating Visual Insufficiency with Stratified Language Guidance for Long-Tail Class Incremental Learning [50.795452298625996]
ロングテールクラスのインクリメンタルラーニング(LT CIL)は、テールクラスのサンプルの不足が学習を妨げているため、依然として非常に困難である。
これらの問題に対処するために、言語知識の情報性とスケーラビリティを活用します。
階層化適応型言語指導を導入し、学習可能な重みを利用してマルチスケールの意味表現をマージする。
論文 参考訳(メタデータ) (2026-03-23T08:50:00Z) - Tokenization and Morphological Fidelity in Uralic NLP: A Cross-Lingual Evaluation [9.23725598061561]
本研究は3つのサブワードパラダイムであるByte Pairを体系的に比較する。
BPE(Overlap BPE)、OBPE(Overlap BPE)、Unigram Language Model(Unigram Language Model)。
OBPEは従来手法よりも強い形態的アライメントとタグ付け精度を実現する。
論文 参考訳(メタデータ) (2026-02-04T05:59:25Z) - Unraveling the Dominance of Large Language Models Over Transformer Models for Bangla Natural Language Inference: A Comprehensive Study [0.0]
自然言語推論(NLI)は自然言語処理(NLP)の基盤である
本研究では,ベンガル語のような低リソース言語におけるLLM(Large Language Models)の評価について検討した。
論文 参考訳(メタデータ) (2024-05-05T13:57:05Z) - Natural Language Processing for Dialects of a Language: A Survey [56.93337350526933]
最先端自然言語処理(NLP)モデルは、大規模なトレーニングコーパスでトレーニングされ、評価データセットで最上位のパフォーマンスを報告します。
この調査は、これらのデータセットの重要な属性である言語の方言を掘り下げる。
方言データセットにおけるNLPモデルの性能劣化と言語技術のエクイティへのその影響を動機として,我々はデータセットやアプローチの観点から,方言に対するNLPの過去の研究を調査した。
論文 参考訳(メタデータ) (2024-01-11T03:04:38Z) - Improving Language Models Meaning Understanding and Consistency by
Learning Conceptual Roles from Dictionary [65.268245109828]
現代事前訓練言語モデル(PLM)の非人間的行動は、その信頼性を損なう主要な原因である。
驚くべき現象は、矛盾した結果を生み出す不整合予測の生成である。
本研究では,PLMの認知度を向上させることで,一貫性のない行動問題を緩和する実践的アプローチを提案する。
論文 参考訳(メタデータ) (2023-10-24T06:15:15Z) - A Multi-level Supervised Contrastive Learning Framework for Low-Resource
Natural Language Inference [54.678516076366506]
自然言語推論(NLI)は、自然言語理解において、ますます重要な課題である。
本稿では,低リソースな自然言語推論のためのマルチSCLという,マルチレベルの教師付きコントラスト学習フレームワークを提案する。
論文 参考訳(メタデータ) (2022-05-31T05:54:18Z) - To Augment or Not to Augment? A Comparative Study on Text Augmentation
Techniques for Low-Resource NLP [0.0]
本稿では,構文の変更を行うテキスト拡張手法の3つのカテゴリについて検討する。
音声のタグ付けや依存性解析,セマンティックロールのラベル付けなどにおいて,多種多様な言語ファミリに対して比較を行った。
以上の結果から,mBERTに基づくベースラインの強化により,より高機能化が可能であることが示唆された。
論文 参考訳(メタデータ) (2021-11-18T10:52:48Z) - ERICA: Improving Entity and Relation Understanding for Pre-trained
Language Models via Contrastive Learning [97.10875695679499]
そこで本研究では, ERICA という新たなコントラスト学習フレームワークを提案し, エンティティとその関係をテキストでより深く理解する。
実験の結果,提案する erica フレームワークは文書レベルの言語理解タスクにおいて一貫した改善を実現することがわかった。
論文 参考訳(メタデータ) (2020-12-30T03:35:22Z) - TAVAT: Token-Aware Virtual Adversarial Training for Language
Understanding [55.16953347580948]
グラディエントベースの敵トレーニングは、ニューラルネットワークの堅牢性向上に広く利用されている。
埋め込み空間が離散であるため、自然言語処理タスクに容易に適応することはできない。
微粒な摂動を創り出すためのトークン認識仮想アドリアリトレーニング法を提案する。
論文 参考訳(メタデータ) (2020-04-30T02:03:24Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。