論文の概要: Neurosymbolic Routing for Reliable Reasoning on Resource-Constrained Edge Devices
- arxiv url: http://arxiv.org/abs/2609.35833v1
- Date: Thu, 24 Sep 2026 00:13:53 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-30 21:28:46.855789
- Title: Neurosymbolic Routing for Reliable Reasoning on Resource-Constrained Edge Devices
- Title(参考訳): 資源制約エッジデバイスにおける信頼性推論のためのニューロシンボリックルーティング
- Abstract要約: 本稿では,入ってくる各問合せを分類し,最も安価な正解器にディスパッチするニューロシンボリックルータを提案する。
Raspberry Pi 4B (8GB RAM、GPUなし)では、DeepMind Mathematics, GSM8K, RuleTakerの100個の未検証プロンプトで評価され、ルーティングの精度は100%、全体的な精度は98.3%に達した。
形式化されたクエリはモデルに到達しないため、ルータは1-11msで応答し、30 token構成では、Program-of-Thoughtよりも8.8倍速く、エネルギー効率が2.8倍高い。
- 参考スコア(独自算出の注目度): 6.20354841385102
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Running a language model on edge hardware provides private and low-latency reasoning without a network connection, and yet the small models that fit on such devices are unreliable on the tasks computers are expected to handle well, such as arithmetic, algebra, and formal logic problems. We argue that much of this unreliability is avoidable. Many queries appearing to demand reasoning are in fact structurally deterministic and permit fast and exact symbolic solutions. Therefore, forcing a probabilistic model to approximate them sacrifices accuracy and energy for little benefit. We present a neurosymbolic router that classifies each incoming query and dispatches it to the cheapest correct solver, sending structured tasks to deterministic engines and reserving the small language model (SLM) for open-ended word problems. Instead of hand-coding the routing logic, we learn a deterministic finite automaton (DFA) with the L* grammatical inference algorithm, using the SLM as a membership oracle and labeled data as an equivalence oracle. On a Raspberry Pi 4B (8 GB RAM, no GPU), evaluated on 100 untested prompts from DeepMind Mathematics, GSM8K, and RuleTaker, learned routing attains 100% routing accuracy and 98.3% overall accuracy with a 512-token reasoning budget (93.3% on word problems), compared with 72.0% for the strongest agent baseline, Program-of-Thought, and 58.7% for a tool-calling agent given the same solvers. Since formatted queries never reach the model, the router answers them in 1-11 ms and, in its 30-token configuration, runs 8.8x faster and 2.8x more energy-efficient than Program-of-Thought.
- Abstract(参考訳): エッジハードウェア上での言語モデルの実行は、ネットワーク接続のないプライベートおよび低レイテンシの推論を提供するが、そのようなデバイスに適合する小さなモデルは、コンピュータが演算、代数学、形式論理問題など、うまく処理すると予想されるタスクには信頼できない。
このような信頼性の低いものは避けられないと我々は主張する。
要求推論に現れる多くのクエリは、実際には構造的決定論的であり、高速かつ正確なシンボリック解を許容する。
したがって、確率モデルに近似させれば、ほとんど利益のために精度とエネルギーを犠牲にする。
提案するニューロシンボリックルータは,各クエリを分類し,最も安価な正解器にディスパッチし,構造化されたタスクを決定論的エンジンに送信し,オープンな単語問題に対する小型言語モデル(SLM)を保存する。
ルーティングロジックを手書きする代わりに,L*文法推論アルゴリズムを用いて決定論的有限オートマトン(DFA)を学習し,SLMをメンバシップオラクルとして,同値オラクルとしてラベル付けした。
Raspberry Pi 4B (8GB RAM、GPUなし)では、DeepMind Mathematics, GSM8K, RuleTakerの100個の未試験プロンプトで評価され、ルーティングが100%のルーティング精度と98.3%の全体的な精度を512の推論予算(単語問題では93.3%)で達成し、最強のエージェントベースラインであるProgram-of-Thoughtでは72.0%、ツールコールエージェントでは58.7%と評価された。
形式化されたクエリはモデルに到達しないため、ルータは1-11msで応答し、30 token構成では、Program-of-Thoughtよりも8.8倍速く、エネルギー効率が2.8倍高い。
関連論文リスト
- Constrained Decoding for Diffusion Language Models via Efficient Inference over Finite Automata [57.27430779838529]
有限オートマトンとして表現可能な任意の制約の下で,制約付き平均場後部からサンプリングする,正確かつトラクタブルなアルゴリズムを提案する。
このアプローチは、構築による制約満足度を保証し、欲求とサンプリングベースのデコーディングの両方をサポートし、並列およびブロックワイドデコーディングと互換性がある。
Dream-7B と LLaDA-8 の実証的な評価は、様々なタスクにおいてかなりの精度の向上を示した。
論文 参考訳(メタデータ) (2026-07-08T05:48:57Z) - SPL: Orchestrating Workflows with Declarative Deterministic-Probabilistic Composition [0.0]
SPLは1つの仕様で決定論的計算と確率論的計算モードを構成する宣言型言語である。
A.splの仕様は、ローカルノード、クラウドAPI、分散グリッドで動作しない。
広範囲な78レシピの料理ブックと1200ランの制御実験により,SPLの有効性を検証した。
論文 参考訳(メタデータ) (2026-07-06T03:53:10Z) - Scheduling Thoughts: Learning the Order of Thought in Diffusion Language Models [51.21958617138889]
自己認識スケジューリングは、軽量な順序ポリシーを学び、任意の順序と半自己回帰デコーディングの両方にシームレスに適用する。
1B MDMのスドクでは、SASはパズルの精度を82.0%(ベストスケジュール)から91.8%に改善し、第2ステージの微調整で97.5%に達する。
LLaDA-8Bの数学的推論では、ASSはGSM8Kのpass@1を64%から76%に改善し、MBPPは39.5%から41%に改善した。
論文 参考訳(メタデータ) (2026-06-22T16:32:25Z) - Testing LLM Arithmetic Reasoning Generalization with Automatic Numeric-Remapping Attacks [2.6659012768342145]
算術語問題に対する数値再マッピング攻撃を自動生成するアルゴリズムを提案する。
我々は,GSM8K,MAWPS,MultiArith上でDeepSeek-R1(70B),Gemma4(31B),GPT-OSS(120B)を評価した。
論文 参考訳(メタデータ) (2026-06-02T13:09:44Z) - Think When Needed: Model-Aware Reasoning Routing for LLM-based Ranking [25.69863022367215]
推論プロンプトはランキングユーティリティを向上させることができるが、その利点は一貫性がなく、かなりの計算コストがかかる。
本稿では, 直接推論 (Non-Think) と推論 (Think) を用いるかを決定するために, 軽量なプラグアンドプレイルータヘッドを用いた推論ルーティングフレームワークを提案する。
論文 参考訳(メタデータ) (2026-01-26T05:09:07Z) - SynapseRoute: An Auto-Route Switching Framework on Dual-State Large Language Model [12.929385845055137]
その結果,医療質問の約58%は,非思考モードだけで正確に回答できることがわかった。
機械学習に基づく動的ルーティングフレームワークであるSynapseRouteを提案する。
論文 参考訳(メタデータ) (2025-07-03T17:33:58Z) - Thinkless: LLM Learns When to Think [57.857534644932194]
推論モデル(Reasoning Language Models)は、複雑な論理的推論を必要とするタスクにおいて顕著な性能を示す。
我々は,LLMが短文推論と長文推論を適応的に選択できる学習可能なフレームワークであるThinklessを提案する。
Minerva Algebra、MATH-500、GSM8Kなどのベンチマークでは、Thinklessはロングチェーン思考の使用を50%から90%削減することができる。
論文 参考訳(メタデータ) (2025-05-19T17:24:16Z) - DCR: Divide-and-Conquer Reasoning for Multi-choice Question Answering with LLMs [9.561022942046279]
大規模言語モデル(LLM)の推論能力を高めるため,DCR(Divide and Conquer Reasoning)を提案する。
まず、信頼性スコア(mathcalCS$)に基づいて質問を2つのサブセットに分類する。
特に,質問を信頼性スコア(mathcalCS$)に基づいて2つのサブセットに分類する。
論文 参考訳(メタデータ) (2024-01-10T14:38:46Z) - PAL: Program-aided Language Models [112.94785609781503]
自然言語問題を理解するために,プログラム支援言語モデル(PaL)を提案する。
PaLはソリューションステップをPythonインタプリタのようなプログラムランタイムにオフロードする。
私たちは12のベンチマークで新しい最先端の結果を設定しました。
論文 参考訳(メタデータ) (2022-11-18T18:56:13Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。