論文の概要: QU-NLP at QIAS 2026: Multi-Stage QLoRA Fine-Tuning for Arabic Islamic Inheritance Reasoning
- arxiv url: http://arxiv.org/abs/2604.16396v1
- Date: Sun, 29 Mar 2026 09:11:17 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-04 02:32:13.961324
- Title: QU-NLP at QIAS 2026: Multi-Stage QLoRA Fine-Tuning for Arabic Islamic Inheritance Reasoning
- Title(参考訳): QIAS 2026におけるQU-NLP:多段階QLoRAファインチューニング
- Authors: Mohammad AL-Smadi,
- Abstract要約: 我々は、QU-NLPがQIAS 2026に提出したアラビア語の継承推論に関するタスクを提示する。
提案手法はQwen3-4B上での多段階量子化低ランク適応戦略を用いる。
ランク128LORAの4ビットNF4量子化を用いて、テストセット上で90%のMIR-E(Mawarith Inheritance Reasoning Evaluation)を達成した。
- 参考スコア(独自算出の注目度): 1.0152838128195467
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: Islamic inheritance law (ilm al-mawarıth) presents a challenging domain for evaluating large language models' structured reasoning capabilities, requiring multi-step legal analysis, rule-based blocking decisions, and precise fractional calculations. We present QU-NLP's submission to the QIAS 2026 shared task on Arabic Islamic inheritance reasoning. Our approach employs a multi-stage Quantized Low-Rank Adaptation (QLoRA) fine-tuning strategy on Qwen3-4B: (1) domain adaptation on 3,166 Islamic fatwa records to acquire inheritance terminology and jurisprudential reasoning patterns, followed by (2) task-specific training on 12,000 structured inheritance cases to optimize JSON-formatted output generation. Using 4-bit NF4 quantization with rank-128 LoRA adapters, our model achieves 90% MIR-E (Mawarith Inheritance Reasoning Evaluation) score on the test set, demonstrating competitive performance while requiring minimal computational resources. Our results show that domain-specific pre-adaptation combined with structured output training enables small language models to perform complex legal reasoning tasks effectively comparing to commercial systems such as Gemini-2.5-flash.
- Abstract(参考訳): イスラム継承法 (ilm al-mawarıth) は、大規模言語モデルの構造化推論能力を評価する上で、多段階の法的分析、ルールベースのブロッキング決定、正確な分数計算を必要とする挑戦的な領域を提示する。
我々は、QU-NLPがQIAS 2026に提出したアラビア語の継承推論に関するタスクを提示する。
提案手法は,Qwen3-4B上の多段階量子化低ランク適応(QLoRA)微調整戦略を用いており,(1) 継承用語と法則推論パターンを取得するために,3,166個のイスラムファトワレコードのドメイン適応,(2) JSON形式の出力生成を最適化するための12,000の構造化継承事例に対するタスク固有トレーニングを用いている。
ランク128のLORAアダプタを用いた4ビットNF4量子化を用いて、テストセット上で90%のMIR-E(Mawarith Inheritance Reasoning Evaluation)を達成し、最小の計算資源を必要としながら競合性能を示す。
この結果から,ドメイン固有の事前適応と構造化された出力トレーニングを組み合わせることで,Gemini-2.5-flashのような商用システムと比較して,小規模言語モデルが複雑な法的推論タスクを効果的に実行できることが示唆された。
関連論文リスト
- MAWARITH: A Dataset and Benchmark for Legal Inheritance Reasoning with LLMs [0.16060719742433224]
我々は12,500のアラビア系継承事例からなる大規模な注釈付きデータセットであるMAWARITHを導入し、モデルを訓練し評価する。
継承ケースの解決を複数選択の質問に制限する以前のデータセットとは異なり、MAWARITHは完全な推論チェーンをサポートしている。
私たちのエラー分析では、シナリオの誤解釈、継承者の識別におけるエラー、共有割り当てにおけるエラー、キー継承ルールの欠落または誤適用など、繰り返し発生する障害パターンを特定します。
論文 参考訳(メタデータ) (2026-03-08T08:54:33Z) - Assessing Large Language Models on Islamic Legal Reasoning: Evidence from Inheritance Law Evaluation [0.17592522344393483]
o3, Gemini 2.5は90%以上、allaM, Fanar, LLaMA, Mistralは50%以下であった。
モデル間で繰り返し発生する障害パターンを特定するために、詳細なエラー解析を行う。
本研究は、構造化された法的推論を扱う際の限界を強調し、イスラム法的推論におけるパフォーマンス向上の方向性を提案する。
論文 参考訳(メタデータ) (2025-09-01T03:08:10Z) - QU-NLP at QIAS 2025 Shared Task: A Two-Phase LLM Fine-Tuning and Retrieval-Augmented Generation Approach for Islamic Inheritance Reasoning [1.0152838128195467]
我々はLow-Rank Adaptation (LoRA)を用いてFanar-1-9B因果言語モデルを微調整し、それをRetrieval-Augmented Generationパイプラインに統合した。
GPT 4.5, LLaMA, Fanar, Mistral, ALLaM などの他の競合モデルに対してゼロショットプロンプトで評価した。
論文 参考訳(メタデータ) (2025-08-20T10:29:55Z) - Benchmarking the Legal Reasoning of LLMs in Arabic Islamic Inheritance Cases [1.3521447196536418]
イスラム教の継承領域は、相続人間の株式の公平な分配を確保するために、ムスリムにとって重要な存在である。
大規模言語モデル(LLM)の最近の進歩は、複雑な法的推論タスクを支援する可能性への関心を喚起している。
本研究は、イスラム継承法を解釈・適用するための最先端のLDMの推論能力を評価する。
論文 参考訳(メタデータ) (2025-08-13T10:37:58Z) - DARA: Decomposition-Alignment-Reasoning Autonomous Language Agent for Question Answering over Knowledge Graphs [70.54226917774933]
本稿では,DARA(Decomposition Alignment-Reasoning Agent)フレームワークを提案する。
DARAは2つのメカニズムを通じて、質問を形式的なクエリに効果的に解析する。
我々は,DARAがKGQAの最先端列挙およびランク付けに基づく手法に匹敵する性能が得られることを示す。
論文 参考訳(メタデータ) (2024-06-11T09:09:37Z) - Lory: Fully Differentiable Mixture-of-Experts for Autoregressive Language Model Pre-training [73.90260246781435]
私たちは、このようなアーキテクチャを自動回帰言語モデルに拡張する最初のアプローチであるLoryを紹介します。
パラメータマッチングされた高密度モデルよりも、多種多様な下流タスクにおいて顕著な性能向上を示す。
セグメントレベルのルーティングにもかかわらず、Loryモデルはトークンレベルのルーティングを備えた最先端のMoEモデルと比較して、競合的なパフォーマンスを実現している。
論文 参考訳(メタデータ) (2024-05-06T03:06:33Z) - Text Classification via Large Language Models [63.1874290788797]
テキスト分類に関わる複雑な言語現象に対処するために、Clue And Reasoning Prompting (CARP)を導入する。
注目すべきは、CARPが5つの広く使用されているテキスト分類ベンチマークのうち4つで新しいSOTAパフォーマンスを得ることだ。
さらに重要なのは、CARPが低リソースとドメイン適応のセットアップで素晴らしい能力を提供します。
論文 参考訳(メタデータ) (2023-05-15T06:24:45Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。