論文の概要: Travel-Oriented Reasoning Large Language Model via Domain-Specific Knowledge Graphs
- arxiv url: http://arxiv.org/abs/2606.29254v1
- Date: Sun, 28 Jun 2026 07:53:11 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-30 18:07:15.858816
- Title: Travel-Oriented Reasoning Large Language Model via Domain-Specific Knowledge Graphs
- Title(参考訳): ドメイン特化知識グラフを用いた旅行指向推論大言語モデル
- Abstract要約: 大規模言語モデル(LLM)は幅広い推論能力を示すが、旅行のような専門分野の精度と信頼性に苦慮している。
本稿では,専門家設計の知識グラフに基づく旅行領域推論LLMを構築するためのモジュールパイプラインを提案する。
我々のパイプラインは、ドメインエンティティとその関係をエンコードする旅行KGと、ドメイン知識を推論可能なLLMに組み込む教師付き微調整ステージを統合しています。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Large language models (LLMs) demonstrate broad reasoning abilities but struggle with accuracy and reliability in specialized domains such as travel, where reasoning depends on precise definitions, rules, and expert-defined conceptual frameworks, and where confident but unfounded outputs arise from a reasoning failure in which the model has not internalized the underlying domain graph rather than from missing domain knowledge alone. We propose a modular pipeline for building a travel-domain reasoning LLM grounded in an expert-designed knowledge graph (KG). Our pipeline integrates a travel KG that encodes domain entities and their relationships, a bottom-up construction procedure that walks the KG to produce multi-hop question answer (QA) pairs, a supervised fine-tuning stage that embeds the domain knowledge into a reasoning-capable LLM using the generated QA pairs as auditable reasoning traces, and a travel-domain benchmark dataset that measures the fine-tuned model's accuracy and calibration. We evaluate our approach using Qwen3-4B with LoRA adaptation. Our reasoning model achieves an $82.4\%$ exact match on the benchmark. This performance significantly outperforms the pretrained Qwen3-4B baseline at $22.4\%$. A calibration analysis decomposes the residual $17.57\%$ of errors into two distinct failure modes: an over-confident multi-label decoder that predicts both correct answers plus one spurious option on most dual-answer mistakes, and a smaller reasoning failure on single-answer questions where the supporting facts are present in the KG but the model fails to reconstruct the correct multi-hop path. This split confirms that explicit KG-grounded reasoning substantially improves the accuracy and uncertainty interpretation of LLMs in specialized domains, and isolates per-option calibration and trace-length-aware decoding as the next axes of improvement.
- Abstract(参考訳): 大規模言語モデル(LLM)は、幅広い推論能力を示すが、旅行のような特殊なドメインでは正確さと信頼性に苦しむ。そこでは、推論は正確な定義、ルール、専門家が定義した概念的フレームワークに依存する。
本稿では,専門家設計知識グラフ(KG)に基づく旅行領域推論LLMを構築するためのモジュールパイプラインを提案する。
我々のパイプラインは、ドメインエンティティとそれらの関係をエンコードする旅行KG、KGをウォーキングしてマルチホップ質問応答(QA)ペアを生成するボトムアップ構築手順、生成されたQAペアを監査可能な推論トレースとして使用した推論可能なLCMにドメイン知識を埋め込む教師付き微調整ステージ、微調整されたモデルの精度とキャリブレーションを測定する旅行ドメインベンチマークデータセットを統合する。
提案手法を LoRA 適応を用いた Qwen3-4B を用いて評価した。
私たちの推論モデルは、ベンチマークで82.4\%の正確な一致を達成します。
この性能は、事前訓練されたQwen3-4Bベースラインを22.4\%$で大幅に上回る。
キャリブレーション解析は、残余の17.57\%のエラーを、2つの異なる障害モードに分解する: 両方の正しい答えを予測し、ほとんどの二重回答ミスに対して1つのスプリアスオプションと、KGにサポート事実が存在するが、モデルが正しいマルチホップパスを再構築できない単一回答問題に対するより小さな推論失敗である。
この分割は、明示的なKGグラウンド推論が特殊領域におけるLLMの精度と不確かさの解釈を大幅に改善することを確認し、次の改善の軸として、オプションごとの校正とトレース長認識復号を分離する。
関連論文リスト
- Repair Before Reinforce: Context-Augmented Knowledge Graph Reasoning for Multi-Hop Question Answering [4.464939140209426]
マルチホップ質問応答のための文脈拡張学習フレームワークを提案する。
一般に当てはまるが、病原性知識グラフの文脈において、この枠組みを検証する。
両疾患とも、コンテキスト強化された管理は、KGのみの監督よりもマルチホップ性能を一貫して改善する。
論文 参考訳(メタデータ) (2026-09-10T21:39:11Z) - Reason Popper-ly: Patching In-Context Reasoning with Inductive Logic Programming [5.951101028540166]
Chain-of-Thought(CoT)プロンプトにより、大規模な言語モデルが多段階推論タスクに取り組むことができる。
本稿では、帰納的論理プログラミング(ILP)を用いて関係合成規則を学習するニューロシンボリック・フレームワークであるReason Popper-lyを紹介する。
論文 参考訳(メタデータ) (2026-07-25T03:24:05Z) - Metacognition as Reward: Reinforcing LLM Reasoning via Knowledge and Regulation Signals [75.25256166997414]
本稿ではメタ認知に触発されたRLフレームワークであるメタ認知・アズ・リワード(MaR)を紹介する。
MaRは2つの一般的なプロセス次元を推論する。
MaRはモデル性能を継続的に改善し、ベースモデルよりも最大7.7%向上した。
論文 参考訳(メタデータ) (2026-05-22T08:54:37Z) - Diagnosing Multi-step Reasoning Failures in Black-box LLMs via Stepwise Confidence Attribution [12.955460962298588]
我々は、生成した推論トレースのみに基づいてステップレベルの信頼性を割り当てる、クローズドソース LLM のためのフレームワークである Stepwise Confidence Attribution (SCA) を紹介する。
SCAは、推論エラーと強く相関する低信頼のステップを確実に特定します。
ステップレベルの信頼を利用して自己補正を導くことで、回答レベルのフィードバックよりも最大で13.5%の修正成功率が向上する。
論文 参考訳(メタデータ) (2026-05-19T00:57:51Z) - Correct Answers from Sound Reasoning: Verifiable Process Supervision for Language Models [94.68358825189738]
本稿では,予測精度と推論品質を協調的に最適化する検証済み領域の学習後フレームワークを提案する。
我々は,エンジン信号に対して推論ステップを確定的に検証できる制御テストベッドであるチェスのVPSを評価する。
VPSは、推論品質を著しく向上させながら精度を保ち、勝利率エラーを最大30%削減し、一貫性をほぼ飽和状態に回復する。
論文 参考訳(メタデータ) (2026-04-03T15:19:46Z) - Generating Data-Driven Reasoning Rubrics for Domain-Adaptive Reward Modeling [21.45871501724415]
高精度な推論モデルエラーを自動的に構築するデータ駆動型手法を提案する。
ラグビーはより強力なLSM-as-judge報酬関数を構築するのに使うことができる。
この拡張は、ゴールドラベルの完全なデータセットなしで複雑な技術的問題を解決するモデルを教えるための扉を開く。
論文 参考訳(メタデータ) (2026-02-06T15:51:52Z) - Hard Negative Sample-Augmented DPO Post-Training for Small Language Models [4.425580048633862]
本稿では,現実的な計算予算下での構造化エラーを対象とする,軽量で実用的なポストトレーニングパイプラインを提案する。
本研究では,候補解を6次元の誤差プロファイルに分解し,解釈可能な誤りと不条理のスコアに集約するコンパクトなMathVerifierを提案する。
実験により、検証対象の重み付きDPOは、バニラSFTや未重み付きDPOよりも目標となる改善をもたらすことが示された。
論文 参考訳(メタデータ) (2025-12-17T06:15:52Z) - Knowing the Answer Isn't Enough: Fixing Reasoning Path Failures in LVLMs [85.37131922131657]
我々はLVLM(Large Vision-Language Models)の重大な欠陥を明らかにした。
これらのモデルが正しい答えを知っていても、誤った推論経路を通じて頻繁にそこに到達します。
PSO(Path-Select Optimization)は,既存のLVLMの推論性能と安定性を両立させる2段階のポストトレーニングフレームワークである。
論文 参考訳(メタデータ) (2025-12-06T03:02:55Z) - Verifying Large Language Models' Reasoning Paths via Correlation Matrix Rank [71.09032766271493]
大規模言語モデル (LLM) は誤りや幻覚を引き起こす傾向がある。
アウトプットを効果的かつ効率的にチェックする方法は、アプリケーションにとって重要な問題となっている。
論文 参考訳(メタデータ) (2025-10-28T11:01:10Z) - FinReflectKG - MultiHop: Financial QA Benchmark for Reasoning with Knowledge Graph Evidence [0.0]
FinReflectKG - FinReflectKG上に構築されたベンチマークであるMultiHop。
我々は、KGから正確な裏付けのある財務アナリストスタイルの質問を生成する。
推論モデルと非推論モデルの両方において、KG誘導による正確な検索は実質的な利得をもたらす。
論文 参考訳(メタデータ) (2025-10-03T11:19:31Z) - A Fano-Style Accuracy Upper Bound for LLM Single-Pass Reasoning in Multi-Hop QA [65.38186593873313]
MHQA(Multi-Hop Question Answering)は、ノイズ下でのシーケンシャルな推論を通じて、分散した相互依存的な証拠を統合する必要がある。
我々はMHQAのための概念実証マルチコールフレームワークをInfoQAで紹介する。
我々は、理論とフレームワークを検証するために、厳密で騒音に富んだベンチマークを構築した。
論文 参考訳(メタデータ) (2025-09-25T14:11:57Z) - SEAL: Steerable Reasoning Calibration of Large Language Models for Free [58.931194824519935]
大規模言語モデル(LLM)は、拡張チェーン・オブ・ソート(CoT)推論機構を通じて複雑な推論タスクに魅力的な機能を示した。
最近の研究では、CoT推論トレースにかなりの冗長性が示されており、これはモデル性能に悪影響を及ぼす。
我々は,CoTプロセスをシームレスに校正し,高い効率性を示しながら精度を向上する,トレーニング不要なアプローチであるSEALを紹介した。
論文 参考訳(メタデータ) (2025-04-07T02:42:07Z) - OVM, Outcome-supervised Value Models for Planning in Mathematical Reasoning [15.59540726867483]
我々は、ガイド付き復号法では、ステップごとの正当性を保証するよりも、不完全推論経路の可能性を評価する方が有利であると主張している。
誘導復号化のための$textitoutcomeの監督が本質的に価値モデルとして機能するという発見に触発されて、アウトカム管理価値モデル(OVM)を提案する。
GSM8KとGame of 24の2つの多段階数学的推論データセットに対する実験により,OVMモデルの優れた性能が示された。
論文 参考訳(メタデータ) (2023-11-16T09:56:28Z) - GRACE: Discriminator-Guided Chain-of-Thought Reasoning [75.35436025709049]
本稿では, 正しい推論手順を導出するために, GRACE (CorrectnEss Discriminator) を用いたチェーン・オブ・シークレット・リAsoningを提案する。
GRACEは、正しいステップと間違ったステップに対して対照的な損失で訓練された判別器を採用しており、復号時に次のステップ候補を採点するために使用される。
論文 参考訳(メタデータ) (2023-05-24T09:16:51Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。