論文の概要: Bi-Directional Recurrent Neural Ordinary Differential Equations for
Social Media Text Classification
- arxiv url: http://arxiv.org/abs/2112.12809v1
- Date: Thu, 23 Dec 2021 19:20:19 GMT
- ステータス: 処理完了
- システム内更新日: 2021-12-28 16:32:27.062195
- Title: Bi-Directional Recurrent Neural Ordinary Differential Equations for
Social Media Text Classification
- Title(参考訳): ソーシャルメディアテキスト分類のための双方向リカレント神経常微分方程式
- Authors: Maunika Tamire, Srinivas Anumasa, P.K. Srijith
- Abstract要約: 本稿では,ソーシャルメディアのポスト分類において,リカレントニューラル常微分方程式(RNODE)を用いることを提案する。
RNODEはポストの時間を考え、隠された表現の計算を時間に敏感な連続的な方法で進化させることができる。
さらに,2方向RNODE(Bi-directional RNODE)という新しいモデルを提案する。
- 参考スコア(独自算出の注目度): 0.2148535041822524
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Classification of posts in social media such as Twitter is difficult due to
the noisy and short nature of texts. Sequence classification models based on
recurrent neural networks (RNN) are popular for classifying posts that are
sequential in nature. RNNs assume the hidden representation dynamics to evolve
in a discrete manner and do not consider the exact time of the posting. In this
work, we propose to use recurrent neural ordinary differential equations
(RNODE) for social media post classification which consider the time of posting
and allow the computation of hidden representation to evolve in a
time-sensitive continuous manner. In addition, we propose a novel model,
Bi-directional RNODE (Bi-RNODE), which can consider the information flow in
both the forward and backward directions of posting times to predict the post
label. Our experiments demonstrate that RNODE and Bi-RNODE are effective for
the problem of stance classification of rumours in social media.
- Abstract(参考訳): twitterのようなソーシャルメディアにおける投稿の分類は、テキストのノイズや短い性質のため難しい。
リカレントニューラルネットワーク(RNN)に基づくシーケンス分類モデルは、本質的にシーケンシャルなポストの分類に人気がある。
RNNは、隠された表現力学を離散的に進化させ、ポストの正確な時刻を考慮しないと仮定する。
本研究では,投稿時間を考慮したソーシャルメディアのポスト分類にrnode(recurrent neural ordinary differential equation)を応用し,隠れ表現の計算を時間に敏感な連続的に行うことを提案する。
また,ポストラベルを予測するために,ポストタイムの前後方向の情報フローを考慮した双方向rnode(bi-rnode)を提案する。
実験の結果, RNODE と Bi-RNODE はソーシャルメディアにおける噂の定式化に有効であることがわかった。
関連論文リスト
- Recurrent Neural Networks Learn to Store and Generate Sequences using Non-Linear Representations [54.17275171325324]
線形表現仮説(LRH)に対する反例を提示する。
入力トークンシーケンスを繰り返すように訓練されると、ニューラルネットワークは、方向ではなく、特定の順序で各位置のトークンを表現することを学ぶ。
これらの結果は、解釈可能性の研究はLRHに限定されるべきでないことを強く示唆している。
論文 参考訳(メタデータ) (2024-08-20T15:04:37Z) - How neural networks learn to classify chaotic time series [77.34726150561087]
本研究では,通常の逆カオス時系列を分類するために訓練されたニューラルネットワークの内部動作について検討する。
入力周期性とアクティベーション周期の関係は,LKCNNモデルの性能向上の鍵となる。
論文 参考訳(メタデータ) (2023-06-04T08:53:27Z) - Continuous time recurrent neural networks: overview and application to
forecasting blood glucose in the intensive care unit [56.801856519460465]
連続時間自己回帰リカレントニューラルネットワーク(Continuous Time Autoregressive Recurrent Neural Network, CTRNN)は、不規則な観測を考慮に入れたディープラーニングモデルである。
重篤なケア環境下での血糖値の確率予測へのこれらのモデルの適用を実証する。
論文 参考訳(メタデータ) (2023-04-14T09:39:06Z) - Rethinking Nearest Neighbors for Visual Classification [56.00783095670361]
k-NNは、トレーニングセット内のテストイメージとトップk隣人間の距離を集約する遅延学習手法である。
我々は,教師付き手法と自己監督型手法のいずれでも,事前学習した視覚表現を持つk-NNを2つのステップで採用する。
本研究は,幅広い分類タスクに関する広範な実験により,k-NN統合の汎用性と柔軟性を明らかにした。
論文 参考訳(メタデータ) (2021-12-15T20:15:01Z) - Spiking Generative Adversarial Networks With a Neural Network
Discriminator: Local Training, Bayesian Models, and Continual Meta-Learning [31.78005607111787]
スパイキングパターンを再現するためにニューラルネットワークを訓練することは、ニューロモルフィックコンピューティングにおける中心的な問題である。
この研究は、個々のスパイキング信号ではなく、スパイキング信号にマッチするようにSNNを訓練することを提案する。
論文 参考訳(メタデータ) (2021-11-02T17:20:54Z) - Training Feedback Spiking Neural Networks by Implicit Differentiation on
the Equilibrium State [66.2457134675891]
スパイキングニューラルネットワーク(英: Spiking Neural Network、SNN)は、ニューロモルフィックハードウェア上でエネルギー効率の高い実装を可能にする脳にインスパイアされたモデルである。
既存のほとんどの手法は、人工ニューラルネットワークのバックプロパゲーションフレームワークとフィードフォワードアーキテクチャを模倣している。
本稿では,フォワード計算の正逆性に依存しない新しいトレーニング手法を提案する。
論文 参考訳(メタデータ) (2021-09-29T07:46:54Z) - Path classification by stochastic linear recurrent neural networks [2.5499055723658097]
トレーニングや分類作業に利用されるユニークな情報として,RNNが供給される経路の部分的なシグネチャを保持することを示す。
これらのRNNは訓練が容易で堅牢であり、これらの観測を合成データと実データの両方で数値実験で裏付けるものである、と我々は主張する。
論文 参考訳(メタデータ) (2021-08-06T12:59:12Z) - Overcoming Catastrophic Forgetting in Graph Neural Networks [50.900153089330175]
破滅的な忘れは、ニューラルネットワークが新しいタスクを学ぶ前に学んだ知識を「忘れる」傾向を指します。
本稿では,この問題を克服し,グラフニューラルネットワーク(GNN)における継続学習を強化するための新しいスキームを提案する。
私たちのアプローチの中心には、トポロジ認識重量保存(TWP)と呼ばれる汎用モジュールがあります。
論文 参考訳(メタデータ) (2020-12-10T22:30:25Z) - Crop Classification under Varying Cloud Cover with Neural Ordinary
Differential Equations [23.93148719731374]
作物分類の最先端の手法は、観測間の時間間隔を暗黙的に仮定する手法に依存している。
本稿では,ニューラル常微分方程式 (NODE) とリカレントニューラルネットワーク (RNN) を組み合わせることで,不規則に空間化された画像列における作物の種類を分類することを提案する。
論文 参考訳(メタデータ) (2020-12-04T11:56:50Z) - Spiking Neural Networks -- Part II: Detecting Spatio-Temporal Patterns [38.518936229794214]
スパイキングニューラルネットワーク(SNN)は、符号化された時間信号で情報を検出するユニークな能力を持つ。
SNNをリカレントニューラルネットワーク(RNN)とみなす支配的アプローチのためのモデルとトレーニングアルゴリズムについてレビューする。
スパイキングニューロンの確率モデルに頼り、勾配推定による局所学習規則の導出を可能にする別のアプローチについて述べる。
論文 参考訳(メタデータ) (2020-10-27T11:47:42Z) - Assessing the Memory Ability of Recurrent Neural Networks [21.88086102298848]
リカレントニューラルネットワーク(RNN)は、シークエンスによって表現されるセマンティック情報の一部を、その隠されたレイヤで記憶することができる。
異なるタイプのリカレントユニットは、RNNが長期間にわたって情報を記憶できるように設計されている。
異なるリカレントユニットの記憶能力は理論上も経験上も不明である。
論文 参考訳(メタデータ) (2020-02-18T08:07:23Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。