論文の概要: Selection Is Retrieval, Abstention Is Not: On-Device Tool Routing over 70 Korean-English Actions
- arxiv url: http://arxiv.org/abs/2609.18672v1
- Date: Wed, 16 Sep 2026 13:50:41 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-20 08:55:53.826175
- Title: Selection Is Retrieval, Abstention Is Not: On-Device Tool Routing over 70 Korean-English Actions
- Title(参考訳): 韓国とイギリスで70件以上の行動を起こすオンデバイスツール「Selection」
- Abstract要約: ツールを呼び出すAIアシスタントは、要求毎に2つの決定を行う。
我々は,600件以上の韓国語と英語の要求と70件の現地行動のカタログを別々に評価した。
ニューラルネットワークローダは、すべての品質基準を改善し、精度よりもレイテンシとメモリで拒否される。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: An AI assistant that calls tools makes two decisions on every request: which tool to invoke, and whether any available tool applies. In the usual design a single language model makes both, by emitting a call or by declining to emit one. On a device that has to answer without a server, the language model is what makes that design expensive, dominating both the latency and the memory of the router. The common alternative is to remove the model completely and rank the catalog of local actions with a retriever instead. That substitution is not symmetric across the two decisions. A retriever returns its highest-scoring candidate for every input and cannot signal that the catalog holds no valid action. Our earlier study found that constraining a decoder to a tool grammar repairs malformed output without improving the choice. What the substitution costs in each decision has not been measured. We evaluate the two decisions separately over 600 Korean and English requests and a catalog of 70 local actions. The router may also ask for a missing slot, reply, or delegate. Half the in-catalog requests reuse catalog vocabulary and half paraphrase it, separating lexical overlap from the action requested. Character 3-gram BM25 selects 162 of 164 lexically matched requests and 85 of 166 paraphrases. Restricting the candidate set to seven raises the paraphrase figure to a mean of 0.825 over five trials. No classifier over its score features separates in-catalog from out-of-catalog above 0.697 area under the curve, where the frozen encoder multilingual-e5-base reaches 0.806. Using that encoder for abstention alone keeps 376 of the requests local and misroutes 9 of the 150 needing delegation. Abstention, not selection, is where a neural component is required. A neural ranker improves every quality metric and is rejected on latency and memory rather than accuracy.
- Abstract(参考訳): ツールを呼び出すAIアシスタントは、要求毎に2つの決定を行う。
通常の設計では、単一の言語モデルは、呼び出しを出力したり、呼び出しを出力しないことによって両方を作る。
サーバーなしで答えなければならないデバイスでは、言語モデルがその設計を高価にし、ルータのレイテンシとメモリの両方を支配します。
一般的な選択肢は、モデルを完全に削除し、代わりにレトリバーでローカルアクションのカタログをランク付けすることである。
その置換は2つの決定に左右対称ではない。
レトリバーは、入力毎に最も高いスコア付け候補を返却し、カタログが有効なアクションを持たないことを示すことができない。
先程の研究では、デコーダをツール文法に拘束することは、選択を改良することなく、不正な出力を修復することがわかった。
各決定における代替費用は測定されていない。
我々は,600件以上の韓国語と英語の要求と70件の現地行動のカタログを別々に評価した。
ルータは、欠落したスロット、返信、デリゲートを要求できる。
カタログ内の要求の半分はカタログの語彙を再利用し、半分はそれを言い換えて、要求されたアクションと語彙上の重複を分離する。
文字3-gram BM25は164のレキシカルマッチング要求の162と166のパラフレーズの85を選択する。
候補者を7人に制限すると、5回の公判で平均0.825まで上昇する。
スコアの上の分類器は、曲線下の0.697領域の触媒外から分離せず、冷凍エンコーダのマルチリンガルe5ベースは0.806に達する。
そのエンコーダを棄権のみに使用すると、リクエストの376がローカルに保持され、150のデリゲートが必要な9が誤って削除される。
選択ではなく無視は、神経成分が必要とされる場所である。
ニューラルネットワークローダは、すべての品質基準を改善し、精度よりもレイテンシとメモリで拒否される。
関連論文リスト
- MTVA-Bench: Evaluating the Language Model Inside Cascaded Voice Agents [0.7611870296994722]
そこで, MTVA-Bench (Multi-Turn Voice Agent Benchmark) を提案する。
ベンチマークには49のエージェントが含まれ、レビューされた490のシナリオで動作し、7つの言語をサポートする。
7つのモデルによる調査では、6つのモデルがそれぞれの6.4ポイント以内で正しいツールを選択するが、全体的なスコアは24.4ポイントである。
論文 参考訳(メタデータ) (2026-09-17T12:44:03Z) - Disagree to Explore, Agree to Commit: Routing-Guided Test-Time Scaling for Software Agents [60.650808962786364]
外部判断や選択時間テストの実行なしに,ネイティブなMoEルータトレースがステアリングと選択をガイドできるかどうかを検討する。
我々の分析は、ルーティングが堅牢な行動的役割シグナルを提供することを示している。トークン・グラニュラ・リードアウトと決定整合比較セットは、ルーティングを効果的に制御する。
オープンウェイトスパースMOEエージェントを用いたSWEベンチ検証を行い,評価を行った。
論文 参考訳(メタデータ) (2026-08-23T03:07:03Z) - Actions Speak Louder than Words: Measuring Cross-Lingual Policy Retention in Tool-Using Agents [22.30468215041597]
ツール使用エージェントは別の言語で同じタスクを与えられるが、それでも同じステップを踏むだろうか?
アクションポリシーを,8つのモデル,6つの並列ベンチマーク,41の言語で測定対象とする。
論文 参考訳(メタデータ) (2026-08-11T16:18:34Z) - Fantastic Adaptive Taxonomies and How to Use Them [100.20614173157708]
AdaMASTは、実行トレースをコンパクトでエビデンスに基づく障害分類に変換する。
コードには手書きのコードはなく、人間による注釈もない。
エージェント・システム・サーチでは、失敗候補の分類コード診断が自由形式より優れている。
論文 参考訳(メタデータ) (2026-07-17T17:41:16Z) - Memory-Managed Long-Context Attention: A Preliminary Study of Editable Request-Local Memory [0.5371337604556311]
メモリ管理型長コンテキストアテンションは、高速なリカレントまたはスパースバックボーンを、明示的な編集可能な要求ローカルメモリスロットから分離する研究ルートである。
構造化された合成タスク、トークン/チャンク/シーケンスブリッジ、生成された自然言語、ローカル凍結モデル診断、純粋な固定状態または純粋なスパースメソッドは、オーバーライト、バージョン、アンチ汚染またはノーライト署名ケースを失敗する。
論文 参考訳(メタデータ) (2026-06-27T11:38:43Z) - Rethinking Dense Sequential Chains: Reasoning Language Models Can Extract Answers from Sparse, Order-Shuffling Chain-of-Thoughts [51.84894623128418]
現代の推論言語モデルは、すべてのトークンが寄与し、ステップを順番に消費しなければならないと暗黙的に仮定して、シーケンシャルな連鎖トレースを生成する。
我々は、モデル生成推論連鎖に適用した、系統的な介入パイプライン、除去、マスキング、シャッフル、ノイズ注入により、両方の仮定に挑戦する。
解答抽出は, スパース, 秩序不感, 構造的に堅牢な情報基板上で行う。
論文 参考訳(メタデータ) (2026-05-08T06:15:50Z) - Reducing the Scope of Language Models [7.464494269745494]
言語モデルのスコープ化が可能であることを示す。
我々は無関係なクエリの多様性、レイヤの異なるテクニック、敵対的な評価を行う。
我々は,言語モデルをスコーピングする実践者のガイドとして,本研究を行おうとしている。
論文 参考訳(メタデータ) (2024-10-28T23:06:57Z) - SpellMapper: A non-autoregressive neural spellchecker for ASR
customization with candidate retrieval based on n-gram mappings [76.87664008338317]
文脈スペル補正モデルは、音声認識を改善するために浅い融合に代わるものである。
ミススペルn-gramマッピングに基づく候補探索のための新しいアルゴリズムを提案する。
Spoken Wikipediaの実験では、ベースラインのASRシステムに比べて21.4%のワードエラー率の改善が見られた。
論文 参考訳(メタデータ) (2023-06-04T10:00:12Z) - From English to More Languages: Parameter-Efficient Model Reprogramming
for Cross-Lingual Speech Recognition [50.93943755401025]
言語間音声認識のためのニューラルモデル再プログラミングに基づく新しいパラメータ効率学習フレームワークを提案する。
我々は、学習可能な事前学習機能強化に焦点を当てた、異なる補助的ニューラルネットワークアーキテクチャを設計する。
提案手法は,既存のASRチューニングアーキテクチャとその拡張性能を自己監督的損失で向上させる。
論文 参考訳(メタデータ) (2023-01-19T02:37:56Z) - Rnn-transducer with language bias for end-to-end Mandarin-English
code-switching speech recognition [58.105818353866354]
本稿では,言語バイアスを考慮したリカレントニューラルネットワークトランスデューサ(RNN-T)モデルを提案する。
我々は、CSの点を予測するためにモデルにバイアスを与えるために、言語アイデンティティを使用する。
これにより、言語識別情報を転写から直接学習するモデルが促進され、追加のLIDモデルが不要になる。
論文 参考訳(メタデータ) (2020-02-19T12:01:33Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。