論文の概要: QU-NLP at QIAS 2026: Multi-Stage QLoRA Fine-Tuning for Arabic Islamic Inheritance Reasoning
- arxiv url: http://arxiv.org/abs/2604.16396v1
- Date: Sun, 29 Mar 2026 09:11:17 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-04 02:32:13.961324
- Title: QU-NLP at QIAS 2026: Multi-Stage QLoRA Fine-Tuning for Arabic Islamic Inheritance Reasoning
- Title(参考訳): QIAS 2026におけるQU-NLP:多段階QLoRAファインチューニング
- Abstract要約: 我々は、QU-NLPがQIAS 2026に提出したアラビア語の継承推論に関するタスクを提示する。
提案手法はQwen3-4B上での多段階量子化低ランク適応戦略を用いる。
ランク128LORAの4ビットNF4量子化を用いて、テストセット上で90%のMIR-E(Mawarith Inheritance Reasoning Evaluation)を達成した。
- 参考スコア(独自算出の注目度): 1.0152838128195467
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: Islamic inheritance law (ilm al-mawarıth) presents a challenging domain for evaluating large language models' structured reasoning capabilities, requiring multi-step legal analysis, rule-based blocking decisions, and precise fractional calculations. We present QU-NLP's submission to the QIAS 2026 shared task on Arabic Islamic inheritance reasoning. Our approach employs a multi-stage Quantized Low-Rank Adaptation (QLoRA) fine-tuning strategy on Qwen3-4B: (1) domain adaptation on 3,166 Islamic fatwa records to acquire inheritance terminology and jurisprudential reasoning patterns, followed by (2) task-specific training on 12,000 structured inheritance cases to optimize JSON-formatted output generation. Using 4-bit NF4 quantization with rank-128 LoRA adapters, our model achieves 90% MIR-E (Mawarith Inheritance Reasoning Evaluation) score on the test set, demonstrating competitive performance while requiring minimal computational resources. Our results show that domain-specific pre-adaptation combined with structured output training enables small language models to perform complex legal reasoning tasks effectively comparing to commercial systems such as Gemini-2.5-flash.
- Abstract(参考訳): イスラム継承法 (ilm al-mawarıth) は、大規模言語モデルの構造化推論能力を評価する上で、多段階の法的分析、ルールベースのブロッキング決定、正確な分数計算を必要とする挑戦的な領域を提示する。
我々は、QU-NLPがQIAS 2026に提出したアラビア語の継承推論に関するタスクを提示する。
提案手法は,Qwen3-4B上の多段階量子化低ランク適応(QLoRA)微調整戦略を用いており,(1) 継承用語と法則推論パターンを取得するために,3,166個のイスラムファトワレコードのドメイン適応,(2) JSON形式の出力生成を最適化するための12,000の構造化継承事例に対するタスク固有トレーニングを用いている。
ランク128のLORAアダプタを用いた4ビットNF4量子化を用いて、テストセット上で90%のMIR-E(Mawarith Inheritance Reasoning Evaluation)を達成し、最小の計算資源を必要としながら競合性能を示す。
この結果から,ドメイン固有の事前適応と構造化された出力トレーニングを組み合わせることで,Gemini-2.5-flashのような商用システムと比較して,小規模言語モデルが複雑な法的推論タスクを効果的に実行できることが示唆された。
関連論文リスト
- Which Models Perform Better in Inheritance Reasoning? [0.0]
本稿では,QIAS 2026におけるチームPSLのアラビア・イスラム継承推論に関する共有課題への参加について述べる。
このタスクは、法的な解釈、多段階推論、正確な数値計算を必要とする継承事件を解決するために、大規模言語モデルの能力を評価する。
我々は,タスク固有の適応を最小限に抑えた構造化された法的推論において,その有効性を評価する統一的なプロンプト戦略の下で,テキスト商用およびテキストオープンソースモデルを比較した。
論文 参考訳(メタデータ) (2026-06-11T15:23:32Z) - LLMEval-Logic: A Solver-Verified Chinese Benchmark for Logical Reasoning of LLMs with Adversarial Hardening [69.1037790901185]
現実的な状況シナリオから構築した中国の論理的推論ベンチマークLLMEval-Logicを提案する。
パイプラインのフォワードオーサとエキスパート-オーディット 自然言語アイテムは、参照の形式化とともに、Z3による注釈付き回答を検証し、自然言語から形式へのグレーディングのためのエキスパートルーブリックを構築し、クローズドループの逆行ワークフローを通じて選択されたアイテムを硬化させる。
論文 参考訳(メタデータ) (2026-05-19T09:40:29Z) - DeonticBench: A Benchmark for Reasoning over Rules [52.69517904415795]
DEONTICBENCHは、アメリカ合衆国連邦政府の税、航空会社の荷物政策、移民管理、および合衆国の住宅法に関する6,232のタスクのベンチマークである。
これは、実世界のドメインにおいて、象徴的および非象徴的な設定の下でコンテキスト基底ルール推論を研究するためのベンチマークである。
論文 参考訳(メタデータ) (2026-04-06T05:41:02Z) - MAWARITH: A Dataset and Benchmark for Legal Inheritance Reasoning with LLMs [0.16060719742433224]
我々は12,500のアラビア系継承事例からなる大規模な注釈付きデータセットであるMAWARITHを導入し、モデルを訓練し評価する。
継承ケースの解決を複数選択の質問に制限する以前のデータセットとは異なり、MAWARITHは完全な推論チェーンをサポートしている。
私たちのエラー分析では、シナリオの誤解釈、継承者の識別におけるエラー、共有割り当てにおけるエラー、キー継承ルールの欠落または誤適用など、繰り返し発生する障害パターンを特定します。
論文 参考訳(メタデータ) (2026-03-08T08:54:33Z) - Assessing Large Language Models on Islamic Legal Reasoning: Evidence from Inheritance Law Evaluation [0.17592522344393483]
o3, Gemini 2.5は90%以上、allaM, Fanar, LLaMA, Mistralは50%以下であった。
モデル間で繰り返し発生する障害パターンを特定するために、詳細なエラー解析を行う。
本研究は、構造化された法的推論を扱う際の限界を強調し、イスラム法的推論におけるパフォーマンス向上の方向性を提案する。
論文 参考訳(メタデータ) (2025-09-01T03:08:10Z) - QU-NLP at QIAS 2025 Shared Task: A Two-Phase LLM Fine-Tuning and Retrieval-Augmented Generation Approach for Islamic Inheritance Reasoning [1.0152838128195467]
我々はLow-Rank Adaptation (LoRA)を用いてFanar-1-9B因果言語モデルを微調整し、それをRetrieval-Augmented Generationパイプラインに統合した。
GPT 4.5, LLaMA, Fanar, Mistral, ALLaM などの他の競合モデルに対してゼロショットプロンプトで評価した。
論文 参考訳(メタデータ) (2025-08-20T10:29:55Z) - Benchmarking the Legal Reasoning of LLMs in Arabic Islamic Inheritance Cases [1.3521447196536418]
イスラム教の継承領域は、相続人間の株式の公平な分配を確保するために、ムスリムにとって重要な存在である。
大規模言語モデル(LLM)の最近の進歩は、複雑な法的推論タスクを支援する可能性への関心を喚起している。
本研究は、イスラム継承法を解釈・適用するための最先端のLDMの推論能力を評価する。
論文 参考訳(メタデータ) (2025-08-13T10:37:58Z) - DARA: Decomposition-Alignment-Reasoning Autonomous Language Agent for Question Answering over Knowledge Graphs [70.54226917774933]
本稿では,DARA(Decomposition Alignment-Reasoning Agent)フレームワークを提案する。
DARAは2つのメカニズムを通じて、質問を形式的なクエリに効果的に解析する。
我々は,DARAがKGQAの最先端列挙およびランク付けに基づく手法に匹敵する性能が得られることを示す。
論文 参考訳(メタデータ) (2024-06-11T09:09:37Z) - Lory: Fully Differentiable Mixture-of-Experts for Autoregressive Language Model Pre-training [73.90260246781435]
私たちは、このようなアーキテクチャを自動回帰言語モデルに拡張する最初のアプローチであるLoryを紹介します。
パラメータマッチングされた高密度モデルよりも、多種多様な下流タスクにおいて顕著な性能向上を示す。
セグメントレベルのルーティングにもかかわらず、Loryモデルはトークンレベルのルーティングを備えた最先端のMoEモデルと比較して、競合的なパフォーマンスを実現している。
論文 参考訳(メタデータ) (2024-05-06T03:06:33Z) - Text Classification via Large Language Models [63.1874290788797]
テキスト分類に関わる複雑な言語現象に対処するために、Clue And Reasoning Prompting (CARP)を導入する。
注目すべきは、CARPが5つの広く使用されているテキスト分類ベンチマークのうち4つで新しいSOTAパフォーマンスを得ることだ。
さらに重要なのは、CARPが低リソースとドメイン適応のセットアップで素晴らしい能力を提供します。
論文 参考訳(メタデータ) (2023-05-15T06:24:45Z) - Lila: A Unified Benchmark for Mathematical Reasoning [59.97570380432861]
LILAは、23の多様なタスクと4次元からなる統一的な数学的推論ベンチマークである。
我々は,Pythonプログラムの形式でタスク命令とソリューションを収集することにより,20のデータセットベンチマークを拡張してベンチマークを構築した。
LILAで訓練された汎用数学的推論モデルであるBHASKARAを紹介する。
論文 参考訳(メタデータ) (2022-10-31T17:41:26Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。