Fugu-MT 論文翻訳(概要): R-DEIM Net: An Efficient Rationale-Augmented Dual-Expert Interaction Model for Paraphrase Detection

論文の概要: R-DEIM Net: An Efficient Rationale-Augmented Dual-Expert Interaction Model for Paraphrase Detection

arxiv url: http://arxiv.org/abs/2609.30100v1
Date: Thu, 24 Sep 2026 16:44:26 GMT
ステータス: 翻訳完了
システム内更新日: 2026-09-25 21:10:10.12328
Title: R-DEIM Net: An Efficient Rationale-Augmented Dual-Expert Interaction Model for Paraphrase Detection
Title（参考訳）: R-DEIM Net: パラフレーズ検出のための効率的なRationale-Augmented Dual-Expertインタラクションモデル
Abstract要約: R-DEIM Netは76Mパラメータのデュアルエキスパートアーキテクチャであり、中規模モデルがパラフレーズ検出において競合精度を達成できるかどうかを探索する。 Quora Question Pairsデータセットでは、R-DEIM Netは10倍のクロスバリデーションによって90.07%の精度と90.16%のF1スコアを達成した。このモデルは、予測と共に有理性を生成し、補助的な人間可読記述の可能性を提供する。
参考スコア（独自算出の注目度）: 0.0
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: Recent advances in paraphrase detection reveal a fundamental trade-off: large language models achieve high accuracy but require high computation, while efficient Siamese-BERT variants offer practical scalability with reduced transparency in rationale generation. We present R-DEIM Net, a 76M-parameter dual-expert architecture exploring whether moderate-scale models can achieve competitive accuracy on paraphrase detection while enabling human-readable rationale generation. The architecture combines two specialized components: an Interaction Expert that captures token-level similarity patterns through multi-scale 2D convolutions and attention head allowing variable input length, and a Reasoning Expert that uses a Flan-T5-small decoder to generate rationales as auxiliary supervision. Rather than re-encoding generated text, we extract and pool decoder hidden states as complementary features for classification. On the Quora Question Pairs dataset, R-DEIM Net achieves 90.07\% accuracy and 90.16\% F1-score via 10-fold cross-validation. This represents competitive performance with strong transformer-based baselines (e.g., MFAE BERT: 90.54\% accuracy) and recent large language model based approaches (LLaMA-70B) while using a substantially smaller parameter budget. The model generates rationales alongside predictions, providing potential for auxiliary human-readable descriptions.
Abstract（参考訳）: 大規模な言語モデルは高い精度を達成できるが高い計算を必要とするのに対し、効率的なシームズ-BERTの変種は合理生成における透明性を低減し、実用的なスケーラビリティを提供する。 76Mパラメトリック・デュアルエキスパートアーキテクチャであるR-DEIM Netを提案する。このアーキテクチャは、マルチスケールの2D畳み込みを通じてトークンレベルの類似パターンをキャプチャするインタラクションエキスパートと、可変入力長を許容するアテンションヘッドと、Flan-T5小デコーダを使用した推論エキスパートの2つの特別なコンポーネントを組み合わせる。生成したテキストを再エンコードする代わりに,デコーダを隠蔽状態から抽出してプールする。 Quora Question Pairsデータセットでは、R-DEIM Netは90.07\%の精度と90.16\%のF1スコアを10倍のクロスバリデーションで達成している。これは、強力なトランスフォーマーベースのベースライン(例えば、MFAE BERT: 90.54\%の精度)と最近の大規模言語モデルベースのアプローチ(LLaMA-70B)との競合性能を示す。このモデルは、予測と共に有理性を生成し、補助的な人間可読記述の可能性を提供する。

関連論文リスト

AI Generated Text Detection [0.0]
本稿では,従来の機械学習モデルとトランスフォーマーベースアーキテクチャの両方を含む,AIテキスト検出手法の評価を行う。我々は、HC3とDAIGT v2という2つのデータセットを使用して、統一されたベンチマークを構築し、情報漏洩を防止するためにトピックベースのデータ分割を適用する。その結果、文脈モデリングは語彙的特徴よりもはるかに優れていることが示され、話題記憶の緩和の重要性が強調された。
論文参考訳（メタデータ） (2026-01-07T11:18:10Z)
A Lightweight Approach to Detection of AI-Generated Texts Using Stylometric Features [0.0]
我々は、軽量検出器クラスで最高の性能を実現する軽量なアプローチであるNEULIFを紹介する。提案手法では、まずテキストをテクスチャと可読性に分解し、その後、コンパクト畳み込みニューラルネットワーク(CNN)やランダムフォレスト(RF)によって分類する。モデルはCNNで97%の精度(0.95F1)、ランダムフォレストで95%の精度(0.94F1)を達成し、高い精度とリコールを示し、ROC-AUCのスコアはそれぞれ99.5%と95%である。
論文参考訳（メタデータ） (2025-11-22T08:08:03Z)
Every Step Counts: Decoding Trajectories as Authorship Fingerprints of dLLMs [63.82840470917859]
本稿では,dLLMの復号化機構をモデル属性の強力なツールとして利用できることを示す。本稿では、デコードステップ間の構造的関係を捉え、モデル固有の振る舞いをよりよく明らかにする、DDM(Directed Decoding Map)と呼ばれる新しい情報抽出手法を提案する。
論文参考訳（メタデータ） (2025-10-02T06:25:10Z)
SignBart -- New approach with the skeleton sequence for Isolated Sign language Recognition [0.17578923069457017]
本研究では,骨格配列のx,y座標から意味情報を独立に抽出することの難しさを克服する新しいSLR手法を提案する。 749,888のパラメータだけで、このモデルはLSA-64データセットで96.04%の精度を達成している。このモデルはまた、WLASLとASL-Citizenデータセット間で優れたパフォーマンスと一般化を示す。
論文参考訳（メタデータ） (2025-06-18T07:07:36Z)
Accelerated Test-Time Scaling with Model-Free Speculative Sampling [58.69141724095398]
STAND(Stochastic Adaptive N-gram Drafting)は,新しいモデルフリーな投機的デコード手法である。従来の自己回帰復号法と比較して,STANDは推論遅延を60～65%削減することを示した。モデルフリーのアプローチとして、STANDは追加のトレーニングなしで既存の言語モデルに適用できる。
論文参考訳（メタデータ） (2025-06-05T07:31:18Z)
Predictor-Corrector Enhanced Transformers with Exponential Moving Average Coefficient Learning [73.73967342609603]
トラクションエラーを最小限に抑えるための予測-相関学習フレームワークを提案する。また、高次予測器を強化するために、指数関数的移動平均ベース係数学習法を提案する。我々のモデルは3.8BのDeepNetを平均2.9のSacreBLEUで上回り、1/3のパラメータしか使用していない。
論文参考訳（メタデータ） (2024-11-05T12:26:25Z)
GSSF: Generalized Structural Sparse Function for Deep Cross-modal Metric Learning [51.677086019209554]
ペアワイド類似性学習のためのモダリティ間の強力な関係を捕捉する汎用構造スパースを提案する。距離メートル法は、対角線とブロック対角線の2つの形式を微妙にカプセル化する。クロスモーダルと2つの余分なユニモーダル検索タスクの実験は、その優位性と柔軟性を検証した。
論文参考訳（メタデータ） (2024-10-20T03:45:50Z)
Probabilistic MIMO U-Net: Efficient and Accurate Uncertainty Estimation for Pixel-wise Regression [1.4528189330418977]
機械学習における不確実性推定は、予測モデルの信頼性と解釈可能性を高めるための最重要課題である。画素ワイド回帰タスクに対するMIMO(Multiple-Input Multiple-Output)フレームワークの適応について述べる。
論文参考訳（メタデータ） (2023-08-14T22:08:28Z)
MoEfication: Conditional Computation of Transformer Models for Efficient Inference [66.56994436947441]
トランスフォーマーベースの事前学習言語モデルは、パラメータ容量が大きいため、ほとんどのNLPタスクにおいて優れた性能を実現することができるが、計算コストも大きい。スパースアクティベーション現象に基づく条件計算により,大規模モデル推論を高速化する。そこで本研究では,モデルサイズが等しいMoE(Mix-of-experts)バージョン,すなわちMoEficationに変換することを提案する。
論文参考訳（メタデータ） (2021-10-05T02:14:38Z)
Triple Wins: Boosting Accuracy, Robustness and Efficiency Together by Enabling Input-Adaptive Inference [119.19779637025444]
深層ネットワークは、(クリーンな自然画像の場合)正確さと(敵対的な摂動画像の場合)頑健さの相違に直面することを最近提案された。本稿では,入力適応推論に関連するマルチエグジットネットワークについて検討し,モデル精度,ロバスト性,効率の最適化において「スイートポイント」を達成する上での強い期待を示す。
論文参考訳（メタデータ） (2020-02-24T00:40:22Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。