論文の概要: RouteProfile: Elucidating the Design Space of LLM Profiles for Routing
- arxiv url: http://arxiv.org/abs/2605.00180v1
- Date: Thu, 30 Apr 2026 19:56:08 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-04 17:43:28.732729
- Title: RouteProfile: Elucidating the Design Space of LLM Profiles for Routing
- Title(参考訳): RouteProfile: ルーティングのためのLLMプロファイルの設計空間の解明
- Authors: Jingjun Xu, Hongji Pu, Tao Feng, Haozhen Zhang, Jiaxuan You, Ge Liu,
- Abstract要約: 大規模言語モデル(LLM)のプロファイル設計は、異なるルータ間のルーティング性能にどのように影響しますか?
我々は、組織形式、表現型、集約深さ、学習構成の4つの重要な側面に沿って、LLMプロファイルの一般的な設計空間、RouteProfileを開発した。
構造化されたプロファイルは、フラットなプロファイルよりも一貫して優れており、クエリレベルの信号は、粗いドメインレベルの信号よりも信頼性が高く、新しく導入されたモデルへの一般化は、トレーニング可能な構成下での構造化プロファイルの恩恵が大きいことを示す。
- 参考スコア(独自算出の注目度): 28.078742745078312
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: As the large language model (LLM) ecosystem expands, individual models exhibit varying capabilities across queries, benchmarks, and domains, motivating the development of LLM routing. While prior work has largely focused on router mechanism design, LLM profiles, which capture model capabilities, remain underexplored. In this work, we ask: How does LLM profile design affect routing performance across different routers? Addressing this question helps clarify the role of profiles in routing, disentangle profile design from router design, and enable fairer comparison and more principled development of routing systems. To this end, we view LLM profiling as a structured information integration problem over heterogeneous interaction histories. We develop a general design space of LLM profiles, named RouteProfile, along four key dimensions: organizational form, representation type, aggregation depth, and learning configuration. Through systematic evaluation across three representative routers under both standard and new-LLM generalization settings, we show that: (1) structured profiles consistently outperform flat ones; (2) query-level signals are more reliable than coarse domain-level signals; and (3) generalization to newly introduced models benefits most from structured profiles under trainable configurations. Overall, our work highlights LLM profile design as an important direction for future routing research.
- Abstract(参考訳): 大きな言語モデル(LLM)エコシステムが拡大するにつれて、個々のモデルはクエリ、ベンチマーク、ドメインにまたがるさまざまな機能を示し、LLMルーティングの開発を動機付けている。
これまでは主にルータの機構設計に重点を置いてきたが、モデル機能をキャプチャするLLMプロファイルは未探索のままである。
LLMプロファイルの設計は、異なるルータ間のルーティング性能にどのように影響しますか?
この課題に対処することで、ルーティングにおけるプロファイルの役割を明確にし、ルータ設計からプロファイル設計を外し、より公平な比較とルーティングシステムのより原則的な開発を可能にする。
この目的のために、LLMプロファイリングは異種相互作用履歴上の構造化情報統合問題であると考えている。
我々は、組織形式、表現型、集約深さ、学習構成の4つの重要な側面に沿って、LLMプロファイルの一般的な設計空間、RouteProfileを開発した。
標準および新LLMの一般化設定下での3つの代表的なルータの体系的評価により,(1)構造化プロファイルが一貫してフラットなルータより優れていること,(2)クエリレベルの信号が粗いドメインレベルの信号よりも信頼性が高いこと,(3)新たに導入されたモデルへの一般化は,トレーニング可能な構成下での構造化プロファイルの恩恵が大きいこと,などが分かる。
本研究は,LLMプロファイル設計を今後のルーティング研究の重要な方向性として強調する。
関連論文リスト
- Task-Aware LLM Routing with Multi-Level Task-Profile-Guided Data Synthesis for Cold-Start Scenarios [51.44288759906005]
大規模言語モデル(LLM)は、タスクやクエリにまたがるパフォーマンスと計算コストにかなりのばらつきを示す。
本稿では,タスクタイプ変数によるクエリ条件付きコストと性能をモデル化するタスクタイプ対応ルータTを紹介する。
論文 参考訳(メタデータ) (2026-04-10T14:46:20Z) - HAPS: Hierarchical LLM Routing with Joint Architecture and Parameter Search [13.177031415523302]
大規模言語モデル(LLM)ルーティングは、多様なタスクに対して異なるLLMの特殊強度を活用することを目的としている。
本稿では,モデルアーキテクチャとパラメータを協調的に検索する階層型LLMルーティングフレームワークHAPSを紹介する。
2つのよく使われるベンチマークの実験では、HAPSは強いルーティングベースラインを一貫して上回っている。
論文 参考訳(メタデータ) (2026-01-09T16:22:25Z) - DiSRouter: Distributed Self-Routing for LLM Selections [23.38983740640377]
集中制御から分散ルーティングへ移行する新しいパラダイムであるDiS(Distributed Self-)を紹介する。
DiS では、クエリは LLM エージェントのネットワークを横切り、それぞれが自身の自己認識に基づいて他のエージェントに答えるかどうかを独立に決定する。
大規模な実験により、DiSは様々なシナリオで既存のルーティング方法よりも優れていることが示された。
論文 参考訳(メタデータ) (2025-10-22T03:36:40Z) - From Parameters to Performance: A Data-Driven Study on LLM Structure and Development [73.67759647072519]
大規模言語モデル(LLM)は、様々な領域で大きな成功を収めている。
モデルスケールと能力の急激な成長にもかかわらず、構造構成がパフォーマンスに与える影響に関する体系的なデータ駆動の研究は依然として少ない。
多様なオープンソースLLM構造を含む大規模データセットと,その性能を複数のベンチマークで比較した。
論文 参考訳(メタデータ) (2025-09-14T12:20:39Z) - RAGRouter: Learning to Route Queries to Multiple Retrieval-Augmented Language Models [45.58601993849455]
Retrieval-Augmented Generation (RAG) は、知識集約タスクにおけるLarge Language Models (LLM) の性能を大幅に向上させる。
既存のルーティング手法はRAGシナリオで最適以下の性能を示すのに対し,外部文書はLLMのクエリ応答能力に動的に影響を及ぼす。
本稿では、文書埋め込みとRAG機能埋め込みを利用して知識表現シフトを捉えるパラメトリックなRAG対応ルーティング設計であるRAGを提案する。
論文 参考訳(メタデータ) (2025-05-29T03:44:56Z) - Universal Model Routing for Efficient LLM Inference [69.86195589350264]
モデルルーティングは,大規模言語モデル(LLM)の推論コストを削減する手法である
動的ルーティング問題に対する新しいアプローチであるUniRouteを提案する。
これらは理論的に最適なルーティングルールの推定であり、過大なリスクバウンドによってそれらのエラーを定量化する。
論文 参考訳(メタデータ) (2025-02-12T20:30:28Z) - RouterBench: A Benchmark for Multi-LLM Routing System [25.515453832224804]
パフォーマンスとコストのバランスをとる場合、すべてのタスクやアプリケーションに最適に対処できるモデルは存在しない。
この制限により、個々のLSMの制約を克服するために、様々なモデルの強みを組み合わせたLSMルーティングシステムの開発に繋がった。
本稿では LLM ルーティングシステムの有効性を体系的に評価する新しい評価フレームワークである RouterBench を提案する。
論文 参考訳(メタデータ) (2024-03-18T17:59:04Z) - StructGPT: A General Framework for Large Language Model to Reason over
Structured Data [117.13986738340027]
我々は,構造化データに基づく質問応答タスクの解法として,emphIterative Reading-then-Reasoning(IRR)アプローチを開発した。
提案手法はChatGPTの性能を大幅に向上させ,全データの教師付きベースラインに対して同等のパフォーマンスを実現する。
論文 参考訳(メタデータ) (2023-05-16T17:45:23Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。