論文の概要: A Few Good Clauses: Comparing LLMs vs Domain-Trained Small Language Models on Structured Contract Extraction
- arxiv url: http://arxiv.org/abs/2605.05532v1
- Date: Thu, 07 May 2026 00:20:13 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-08 22:27:11.457469
- Title: A Few Good Clauses: Comparing LLMs vs Domain-Trained Small Language Models on Structured Contract Extraction
- Title(参考訳): 良いクローズ:構造化契約抽出におけるLLMとドメイン訓練された小言語モデルの比較
- Abstract要約: 私たちは、5つのフロンティアモデルに対して、セルフホストの法律ドメインMixture of ExpertsモデルであるOlava Extractをテストする。
Olava Extract は 0.812 のマクロ F1 と 0.842 のマイクロ F1 で最強の集計性能を達成した。
- 参考スコア(独自算出の注目度): 0.8399688944263843
- License: http://creativecommons.org/licenses/by-sa/4.0/
- Abstract: This paper evaluates whether a domain trained Small Language Model (SLM) can outperform frontier Large Language Models on structured contract extraction at radically lower cost. We test Olava Extract, a self hosted legal domain Mixture of Experts model, against five frontier models. Olava Extract achieved the strongest aggregate performance in the study, with a macro F1 of 0.812 and a micro F1 of 0.842, while reducing inference cost by 78% to 97% compared with the frontier models tested. It also achieved the highest precision scores, producing fewer hallucinated and unsupported extractions, an important distinction in legal workflows where hallucinations create operational risk and downstream review burden. The findings shows that high performing, human comparable legal AI no longer requires the largest externally hosted models. More broadly, they challenge the assumption that commercially valuable enterprise AI capability must remain tied to ever larger models, massive infrastructure expenditure, and centrally hosted providers.
- Abstract(参考訳): 本稿では,ドメイン訓練された小言語モデル(SLM)が,構造化された契約抽出におけるフロンティア大言語モデルよりも大幅に低コストで性能を向上できるかどうかを評価する。
私たちは、5つのフロンティアモデルに対して、セルフホストの法律ドメインMixture of ExpertsモデルであるOlava Extractをテストする。
Olava Extractは,マクロF1が0.812,マイクロF1が0.842,推論コストが78%から97%削減された。
また、高い精度のスコアを達成し、幻覚と無症状の抽出を減らし、幻覚が運用上のリスクと下流のレビューの負担を生じさせる法的なワークフローにおいて重要な違いとなった。
その結果、ハイパフォーマンスで人間に匹敵する合法的なAIは、もはや最大の外部ホスト型モデルを必要としないことがわかった。
より広範に、商業的に価値のあるエンタープライズAI能力は、より大きなモデル、大規模なインフラストラクチャ支出、そして中央にホストされたプロバイダと結びついていなければならない、という仮定に異議を唱えている。
関連論文リスト
- Which Models Perform Better in Inheritance Reasoning? [0.0]
本稿では,QIAS 2026におけるチームPSLのアラビア・イスラム継承推論に関する共有課題への参加について述べる。
このタスクは、法的な解釈、多段階推論、正確な数値計算を必要とする継承事件を解決するために、大規模言語モデルの能力を評価する。
我々は,タスク固有の適応を最小限に抑えた構造化された法的推論において,その有効性を評価する統一的なプロンプト戦略の下で,テキスト商用およびテキストオープンソースモデルを比較した。
論文 参考訳(メタデータ) (2026-06-11T15:23:32Z) - RouteLMT: Learned Sample Routing for Hybrid LLM Translation Deployment [57.588738943463646]
大規模言語モデル(LLM)は機械翻訳(MT)において顕著な性能を発揮した
大規模に展開するのは 違法に高価です
モデル内ルータである textbfRouteLMT を提案する。
論文 参考訳(メタデータ) (2026-04-24T13:02:45Z) - Can Small Models Reason About Legal Documents? A Comparative Study [0.0]
大規模言語モデルは法的なアプリケーションには有望であるが、フロンティアモデルのデプロイは、コスト、レイテンシ、データプライバシに関する懸念を提起する。
3つの法的なベンチマークで9つのモデルをテストすることにより,サブ10Bパラメータモデルが実用的な代替手段として機能するかどうかを評価する。
論文 参考訳(メタデータ) (2026-03-26T22:28:20Z) - Affordances Enable Partial World Modeling with LLMs [68.52975612311575]
本研究では,タスクに依存しない言語条件の意図を達成するエージェントが,アプライアンスによって伝達される予測的部分世界モデルを持つことを示す。
マルチタスク環境では,分散ロバスト価格を導入し,部分モデルを抽出して探索効率を大幅に向上させることができることを示す。
論文 参考訳(メタデータ) (2026-02-11T00:25:25Z) - Confidence-Guided Stepwise Model Routing for Cost-Efficient Reasoning [20.41220110321494]
コスト効率の良い推論のための信頼誘導ステップワイドモデルルーティングを提案する。
STEERはドメインに依存しないフレームワークで、小さくて大きな言語モデル間のきめ細かいステップレベルのルーティングを実行する。
その結果,モデルルーティングのための堅牢でドメインに依存しない信号として,モデル内部信頼が確立された。
論文 参考訳(メタデータ) (2025-11-09T02:33:08Z) - Planner-R1: Reward Shaping Enables Efficient Agentic RL with Smaller LLMs [10.044336754070203]
textscTravelPlannerベンチマークを用いて,大規模言語モデルを用いたエージェントRLについて検討した。
われわれのアプローチである textscNatural-R1 は、わずか180のトレーニングクエリで textbf56.9% のファイナルパスレートを達成した。
論文 参考訳(メタデータ) (2025-09-30T04:49:36Z) - Low-Resource Fine-Tuning for Multi-Task Structured Information Extraction with a Billion-Parameter Instruction-Tuned Model [0.0]
金融コンプライアンス報告のようなドメインで構造化データ抽出のための大きな言語モデル(LLM)をデプロイすることは、大規模なアーキテクチャを実行するコストが高いことと、大規模で高品質なデータセットを作成するのが難しいため、小規模チームにとって現実的ではないことが多い。
本研究は,タスク毎のサンプル数,知識グラフ抽出,名前付きエンティティ認識に対して,低ランク適応を施した10億パラメータLLaMAモデルを提案する。
これらの結果は、十分に調整された小型モデルが、計算コストのごく一部で安定かつ正確な構造化された出力を提供できることを示し、資源中のコスト効率と信頼性の高い情報抽出パイプラインを可能にする。
論文 参考訳(メタデータ) (2025-09-10T08:19:07Z) - Explicit Reasoning Makes Better Judges: A Systematic Study on Accuracy, Efficiency, and Robustness [12.513874407270142]
我々は,Large Language Models (LLMs) と "thinking" と "non-thinking" の体系的比較を示す。
RewardBenchタスクの精度と計算効率(FLOP)を評価した。
以上の結果から,思考モデルの精度は10%程度向上し,オーバーヘッドは少なかった。
論文 参考訳(メタデータ) (2025-09-09T18:36:02Z) - Predicting Business Angel Early-Stage Decision Making Using AI [0.0]
ビジネスエンジェルは重要な資金源を提供するが、意思決定は主観的でリソース集約的であることが多い。
このようなツールの1つ、CFA(Critical Factor Assessment)は、意思決定後に評価され、投資家自身の決定よりもはるかに正確であることが判明した。
この研究は、トレーニングされたAIモデルを用いて、導入を妨げる制約を克服できるかどうかを、以前の研究に基づいて調査する。
論文 参考訳(メタデータ) (2025-07-04T17:17:34Z) - Model Extrapolation Expedites Alignment [135.12769233630362]
本研究では,人選好によるアライメントトレーニングを迅速化するExPOという手法を提案する。
我々は、ExPOがトレーニングされたDPOモデルを20%のステップで強化し、完全に訓練されたモデルを上回ることを実証した。
ExPO は AlpacaEval 2.0 と MT-Bench ベンチマークにおいて,既存のオープンソース LLM を特に改善している。
論文 参考訳(メタデータ) (2024-04-25T17:39:50Z) - Democratizing LLMs: An Exploration of Cost-Performance Trade-offs in
Self-Refined Open-Source Models [53.859446823312126]
SoTAは7Bから65Bまでのさまざまなサイズのオープンソースモデルを平均して、ベースラインのパフォーマンスから8.2%改善している。
厳密に言えば、Vicuna-7Bのような非常に小さなメモリフットプリントを持つモデルでさえ、全体的な11.74%の改善と、高い創造性、オープンエンドタスクの25.39%の改善を示している。
論文 参考訳(メタデータ) (2023-10-11T15:56:00Z) - MiniSUPERB: Lightweight Benchmark for Self-supervised Speech Models [90.99663022952498]
SuperBは自己教師付き学習(SSL)音声モデルの様々なタスクにおける一般化性を評価するために提案された。
SuperBは大規模なデータセットと多様なタスクのために高い計算コストを発生させる。
我々は,SUPERBに匹敵する結果のSSL音声モデルを効率よく評価する軽量ベンチマークであるMiniSUPERBを紹介する。
論文 参考訳(メタデータ) (2023-05-30T13:07:33Z) - Efficient Large Scale Language Modeling with Mixtures of Experts [61.45159383372181]
エキスパート層(MoE)の混合により、条件付き計算による言語モデルの効率的なスケーリングが可能になる。
本稿では, 自己回帰型 MoE 言語モデルが, 広範囲な環境下での高密度モデルと比較して, どのようにスケールするかを示す実験的検討を行った。
論文 参考訳(メタデータ) (2021-12-20T17:05:11Z) - Exploring Sparse Expert Models and Beyond [51.90860155810848]
Mixture-of-Experts (MoE) モデルは、無数のパラメータを持つが、一定の計算コストで有望な結果が得られる。
本稿では,専門家を異なるプロトタイプに分割し,上位1ドルのルーティングに$k$を適用する,エキスパートプロトタイピングというシンプルな手法を提案する。
この戦略は, モデル品質を向上させるが, 一定の計算コストを維持するとともに, 大規模モデルのさらなる探索により, 大規模モデルの訓練に有効であることが示唆された。
論文 参考訳(メタデータ) (2021-05-31T16:12:44Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。