論文の概要: IndustryLLM: Failure-Driven LLM Training for Industrial Procurement
- arxiv url: http://arxiv.org/abs/2609.31871v1
- Date: Fri, 25 Sep 2026 18:11:01 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-08 05:05:32.455215
- Title: IndustryLLM: Failure-Driven LLM Training for Industrial Procurement
- Title(参考訳): インダストリアルLLM:インダストリアル調達のための故障駆動型LLMトレーニング
- Abstract要約: 工業的調達は、非公式な買い手ジャーゴンとスパースマーケットの属性を橋渡しするために言語モデルを必要とする。
本稿では,Qwen3.5-35B-A3Bベースから学習したオープンウェイトな産業用言語モデルであるIndustrialLLMを紹介する。
- 参考スコア(独自算出の注目度): 23.16792281057296
- License: http://creativecommons.org/publicdomain/zero/1.0/
- Abstract: Industrial procurement requires language models to bridge informal buyer jargon, sparse marketplace attributes, and authoritative engineering standards under strict safety tolerances. We present IndustryLLM, an open-weight industrial language model trained from Qwen3.5-35B-A3B-Base (35B total parameters with ~3B activated per token, with the vision encoder frozen). Rather than relying on generic text scaling, we introduce a failure-driven adaptation recipe spanning continued pre-training (CPT) and supervised fine-tuning (SFT). CPT leverages a curated ~100B-token corpus integrating 5B tokens of national standards (e.g., GB/T) and technical archives, 10B tokens of de-identified real-world industrial transaction and inquiry records, and 60B tokens of general replay. To overcome register mismatch and factual brittleness, we systematically reconstruct an estimated 20B-token domain subset via multi-register rewriting across 10 genres and 8 writing styles, confidence-routed minimal factual editing, and error-targeted QA synthesis (resolving colloquial typos like '42-luo-mu' -> 42CrMo, expanding ambiguous codes like '16674' -> GB/T 16674, and clarifying conflicting dimensional specs). For downstream deployment, we formalize an evidence-gated constraint-evaluation interface enforcing three-valued logic where unverified product evidence remains unknown rather than satisfied. Offline evaluations demonstrate consistent gains on procurement-query structuring (+2.97 percentage points in exact match, 95% CI [2.11, 3.86] in No-Think mode), while randomized online A/B experiments in production yield substantial improvements (+4.25% GMV, +8.3% satisfied inquiries) alongside a latency reduction from 6-7 s to 1.5 s. Model weights and configs are released at https://huggingface.co/alibaba-multimodal-industrial-ai/IndustryLLM.
- Abstract(参考訳): 工業的調達には、非公式な買い手ジャーゴン、スパースマーケット属性、厳格な安全基準の下での権威的なエンジニアリング標準を橋渡しする言語モデルが必要である。
本稿では,Qwen3.5-35B-A3B-Baseから学習したオープンウェイト産業用言語モデルであるIndustrialLLMを提案する。
汎用的なテキストスケーリングに頼るのではなく、継続事前学習(CPT)と教師付き微調整(SFT)にまたがる障害駆動型適応レシピを導入する。
CPTは、全国標準の5Bトークン(例えばGB/T)と技術アーカイブ、特定されていない現実世界の産業取引と調査記録の10Bトークン、一般的なリプレイの60Bトークンを統合する、100Bのキュレートされたコーパスを活用している。
レジスタミスマッチと事実の脆さを克服するため,我々は,10のジャンルと8の書体にまたがるマルチレジスタ書き換え,信頼を欠く最小限の事実編集,誤りをターゲットとしたQA合成(「42-luo-mu」-> 42CrMo,'16674'-> GB/T 16674'のような曖昧なコードの拡張,矛盾する次元仕様の明確化)により,推定20Bドメインサブセットを体系的に再構築した。
下流への展開では,不確定な製品証拠が満たされることなく,不確定な製品証拠が不明な3値論理を強制するエビデンス付き制約評価インタフェースを形式化する。
オフライン評価では、調達クエリの構造化(正確な一致では+2.97ポイント、ノーシンクモードでは95%CI[2.11, 3.86])に対して、ランダム化されたオンラインA/B実験は6-7秒から1.5秒までの遅延削減とともに、大幅な改善(+4.25% GMV、+8.3%の満足度)を達成している。
モデルはhttps://huggingface.co/alibaba-multimodal-industrial-ai/IndustryLLMでリリースされる。
関連論文リスト
- Confidently Wrong: Exception Chain Collapse in Frontier LLM Rule Evaluation [0.0]
フェデレーションクラスをフロンティアの大規模言語モデルで文書化する。
故障は最初の観測で再現されるが、経験的表面は不安定である。
規制されたフロンティアモデルの正確性は、注意を払わずにシフトする移動したコンプライアンス境界である。
論文 参考訳(メタデータ) (2026-07-25T22:40:02Z) - IndustryBench: Probing the Industrial Knowledge Boundaries of LLMs [24.194078710555065]
我々は,中国における産業調達QAのための2,049石のベンチマークであるIndustrialBenchを紹介する。
本研究は,LLM生成候補の70.3%を探索に基づく外部検証段階において拒絶する。
我々の評価は、Qwen3-Max の判断により、ドメインの専門家に対して$_w = 0.798$で検証された生の正当性を分離する。
論文 参考訳(メタデータ) (2026-05-11T09:30:48Z) - LaTER: Efficient Test-Time Reasoning via Latent Exploration and Explicit Verification [35.08680804423239]
CoT(Chain-of- Thought)推論は、難しいタスクにおいて大きな言語モデル(LLM)を改善するが、推論コストも高くつく。
本稿では,連続潜伏空間における有界探索を最初に行う2段階のパラダイムであるLaTERを提案する。
LaTERは入力の埋め込み空間に隠された最後の層を投影し、潜伏KVキャッシュを保持し、エントロピーとモデルネイティブのストップトーケンプローブを使用していつ切り替えるかを決定する。
論文 参考訳(メタデータ) (2026-05-08T06:23:58Z) - RefineBench: Evaluating Refinement Capability of Language Models via Checklists [71.02281792867531]
本研究は,2つの改良モード(ガイドリファインメントと自己リファインメント)を評価する。
ガイド付き改良では、プロプライエタリなLMと大きなオープンウェイトLMの両方が目標フィードバックを利用して、5ターン以内のほぼ完全なレベルへの応答を洗練できる。
これらの結果は、フロンティアLMは誤った反応を自己調整するためにブレークスルーを必要とすることを示唆している。
論文 参考訳(メタデータ) (2025-11-27T07:20:52Z) - MobileLLM-R1: Exploring the Limits of Sub-Billion Language Model Reasoners with Open Training Recipes [60.57770396565211]
強い推論能力は、はるかに少ないデータで実現可能であることを示す。
MobileLLM-R50MのAIMEスコアは15.5であり、OLMo-2-1.48Bは0.6、SmolLM-2-1.7Bは0.3である。
論文 参考訳(メタデータ) (2025-09-29T15:43:59Z) - CoRT: Code-integrated Reasoning within Thinking [44.778344623138025]
o1やDeepSeek-R1のようなLarge Reasoning Models(LRM)は、長いチェーン・オブ・シント(CoT)による自然言語推論において顕著な進歩を示している。
Code Interpreter(CI)は、モデルの内部テキスト表現以外の外部知識を提供する。
本稿では,CIを効果的かつ効率的に活用するためのLRM教育のためのポストトレーニングフレームワークであるCoRTを紹介する。
論文 参考訳(メタデータ) (2025-06-11T14:59:02Z) - Exploring the Limit of Outcome Reward for Learning Mathematical Reasoning [65.2421542320293]
推論能力は汎用知能の重要な構成要素である。
OpenAIのoシリーズモデルなどのプロプライエタリ企業による最近の進歩は、推論タスクに顕著な進歩をもたらした。
本稿では、数学的推論タスクのための textbfOutcome textbfREwtextbfArd ベースの強化 textbfLearning により達成できる性能限界を追求する新しい RL フレームワーク OREAL を提案する。
論文 参考訳(メタデータ) (2025-02-10T18:57:29Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。