論文の概要: BanglaMamba: Exploring State Space Models for Bangla Fake News Detection
- arxiv url: http://arxiv.org/abs/2608.25190v1
- Date: Tue, 25 Aug 2026 22:09:34 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-27 14:15:15.464011
- Title: BanglaMamba: Exploring State Space Models for Bangla Fake News Detection
- Title（参考訳）: BanglaMamba:Banglaフェイクニュース検出のための状態空間モデル
- Abstract要約: BanglaBERTのようなトランスフォーマーベースのモデルは、Banglaテキスト分類において強力なパフォーマンスを達成する。
本稿では,バングラ偽ニュース検出の代替手段として,マンバをベースとした状態空間モデル(SSM)について検討する。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Fake news detection has become an important Natural Language Processing (NLP) task due to the rapid spread of misinformation through online news platforms and social media. While transformer-based models such as BanglaBERT achieve strong performance for Bangla text classification, their quadratic computational complexity makes them less suitable for long-document processing in resource-constrained environments. This paper investigates Mamba-based State Space Models (SSMs) as an efficient alternative for Bangla fake news detection. We propose BanglaMamba and compare it with pre-trained BanglaBERT and a similarly configured BERT model trained from scratch. Experimental results show that BanglaBERT achieves the highest Macro-F1 score (0.9260), while BanglaMamba (0.9029) achieves performance comparable to the from-scratch CustomBERT (0.9057) despite using a different architecture. Meanwhile, BanglaMamba achieves approximately $2.2\times$ higher inference throughput and 49% lower inference peak GPU memory usage than the BERT-based models. Cross-dataset evaluation shows that BanglaBERT generalizes better to an external dataset, highlighting the importance of large-scale pretraining. These findings demonstrate that Mamba-based SSMs can provide a competitive and computationally efficient alternative to Transformer-based architectures for Bangla fake news detection, particularly in resource-constrained settings.
- Abstract（参考訳）: フェイクニュースの検出は、オンラインニュースプラットフォームやソーシャルメディアを通じて誤報が急速に広まる中、重要な自然言語処理(NLP)タスクとなっている。
BanglaBERTのようなトランスフォーマーベースのモデルは、Banglaテキスト分類において強力な性能を達成するが、その2次計算の複雑さにより、リソース制約のある環境での長期文書処理には適さない。
本稿では,バングラ偽ニュース検出の代替手段として,マンバをベースとした状態空間モデル(SSM)について検討する。
我々はBanglaMambaを提案し、それを事前訓練したBanglaBERTと、同様にスクラッチから訓練されたBERTモデルと比較する。
実験結果から,BanglaMamba (0.9029) はアーキテクチャが違うにもかかわらず,Top-Scratch CustomBERT (0.9057) に匹敵する性能を示した。
一方、BanglaMambaは、BERTベースのモデルよりも推論スループットが約2.2\times$高く、推論ピークのGPUメモリ使用率が49%低い。
クロスデータセット評価は、BanglaBERTが外部データセットをより一般化し、大規模な事前トレーニングの重要性を強調していることを示している。
これらの結果から,マンバをベースとしたSSMは,特に資源制約のある環境で,トランスフォーマーをベースとしたアーキテクチャの代替として,競争力と計算効率を両立させることができることが示唆された。
関連論文リスト
- Addressing Data Scarcity in Bangla Fake News Detection: An LLM-Based Dataset Augmentation Approach [0.0]
本研究では,Large Language Model (LLM) に基づく拡張が,制限に効果的に対応し,Bangla偽ニュース分類を改善することができるかどうかを検討する。
既存のデータセットは、価値はあるものの、非常に不均衡であり、モデルパフォーマンスを制限している。
本稿では, Gemma 3 27B ITモデルを用いて, 合成バングラニュース記事を生成するシステム拡張フレームワークを提案する。
論文 参考訳（メタデータ） (2026-05-02T07:02:29Z) - Bangla BERT for Hyperpartisan News Detection: A Semi-Supervised and Explainable AI Approach [0.0]
超党派ニュースの分類精度を高めるための最先端トランスフォーマーベースモデル
95.65%の精度で、Bangla BERTは従来の手法より優れている。
論文 参考訳（メタデータ） (2025-07-28T18:02:01Z) - Breaking the Fake News Barrier: Deep Learning Approaches in Bangla Language [0.0]
本稿では,特にGRU(Gated Repetitive Unit)を用いて,バングラ方言における偽ニュースを識別する手法を提案する。
本研究の戦略は, トレンマ化, トークン化, オーバーサンプリングによる不規則な性質の傾向を含む, 集中的な情報前処理を取り入れたものである。
モデルの性能は、精度、リコール、F1スコア、精度などの信頼性の高い指標によって調査される。
論文 参考訳（メタデータ） (2025-01-30T21:41:26Z) - Preserving Knowledge Invariance: Rethinking Robustness Evaluation of Open Information Extraction [49.15931834209624]
実世界におけるオープン情報抽出モデルの評価をシミュレートする最初のベンチマークを示す。
我々は、それぞれの例が知識不変のcliqueである大規模なテストベッドを設計し、注釈付けする。
さらにロバスト性計量を解明することにより、その性能が全体の傾きに対して一貫して正確であるならば、モデルはロバストであると判断される。
論文 参考訳（メタデータ） (2023-05-23T12:05:09Z) - On Evaluation of Bangla Word Analogies [0.8658596218544772]
本稿では,Bangla単語の埋め込み品質を評価するための高品質なデータセットを提案する。
世界で7番目に普及した言語であるにもかかわらず、Banglaは低リソース言語であり、人気のあるNLPモデルはうまく機能しない。
論文 参考訳（メタデータ） (2023-04-10T14:27:35Z) - Adapted Multimodal BERT with Layer-wise Fusion for Sentiment Analysis [84.12658971655253]
本稿では,マルチモーダルタスクのためのBERTベースのアーキテクチャであるAdapted Multimodal BERTを提案する。
アダプタはタスクの事前訓練された言語モデルを手動で調整し、融合層はタスク固有の層ワイドな音声視覚情報とテキストBERT表現を融合させる。
われわれは、このアプローチがより効率的なモデルにつながり、微調整されたモデルよりも優れ、ノイズの入力に堅牢であることを示した。
論文 参考訳（メタデータ） (2022-12-01T17:31:42Z) - MoEBERT: from BERT to Mixture-of-Experts via Importance-Guided
Adaptation [68.30497162547768]
本研究では,Mixture-of-Experts構造を用いてモデルキャパシティと推論速度を向上させるMoEBERTを提案する。
自然言語理解と質問応答タスクにおけるMoEBERTの有効性と有効性を検証する。
論文 参考訳（メタデータ） (2022-04-15T23:19:37Z) - BiBERT: Accurate Fully Binarized BERT [69.35727280997617]
BiBERTは、パフォーマンスボトルネックを取り除くために、正確に2項化されたBERTである。
提案手法は,FLOPとモデルサイズで56.3回,31.2回節約できる。
論文 参考訳（メタデータ） (2022-03-12T09:46:13Z) - End-to-End Natural Language Understanding Pipeline for Bangla
Conversational Agents [0.43012765978447565]
本稿では,バングラ語とバングラ語でコミュニケーション可能なビジネスアシスタントを構築するための新しい手法を提案する。
Rasa Open Source Framework、fastText組み込み、Polyglot組み込み、Fraskなどのシステムをビルディングブロックとして使用しています。
本稿では,意図分類と実体抽出のためのパイプラインを提案する。
論文 参考訳（メタデータ） (2021-07-12T16:09:22Z) - TernaryBERT: Distillation-aware Ultra-low Bit BERT [53.06741585060951]
本稿では,細調整されたBERTモデルの重みを3元化するternaryBERTを提案する。
GLUEベンチマークとSQuADの実験により,提案した TernaryBERT が他のBERT量子化法より優れていることが示された。
論文 参考訳（メタデータ） (2020-09-27T10:17:28Z) - SSMBA: Self-Supervised Manifold Based Data Augmentation for Improving
Out-of-Domain Robustness [66.37077266814822]
自然言語では、基礎となるデータ多様体に留まる新しい例を生成することは困難である。
本稿では,合成学習例を生成するためのデータ拡張手法であるSSMBAを紹介する。
3つのタスクと9つのデータセットにわたるベンチマークの実験では、SSMBAは既存のデータ拡張メソッドを一貫して上回っている。
論文 参考訳（メタデータ） (2020-09-21T22:02:33Z) - DeBERTa: Decoding-enhanced BERT with Disentangled Attention [119.77305080520718]
2つの新しい手法を用いてBERTモデルとRoBERTaモデルを改善する新しいモデルアーキテクチャDeBERTaを提案する。
これらの手法により,モデル事前学習の効率化と,自然言語理解(NLU)と自然言語生成(NLG)の両方の性能向上が期待できる。
論文 参考訳（メタデータ） (2020-06-05T19:54:34Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。