論文の概要: KumbhDoot: A Scale-Ready, LLM-Bounded Architecture for Mass-Gathering Public-Service Assistants
- arxiv url: http://arxiv.org/abs/2608.07520v1
- Date: Mon, 06 Jul 2026 20:38:41 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-28 05:09:55.177605
- Title: KumbhDoot: A Scale-Ready, LLM-Bounded Architecture for Mass-Gathering Public-Service Assistants
- Title(参考訳): KumbhDoot: 大量収集型パブリックサービスアシスタントのためのスケール可能なLLM境界アーキテクチャ
- Abstract要約: KumbhDootはNashik Simhastha Kumbh Melaの巡礼助手である。
これは、大きな言語モデルから始めるよりも意味的類似性を優先する基本設計原則に基づいている。
カスタム3層エージェントアーキテクチャは、このストアで直接動作し、決定パスが検査可能であることを保証する。
- 参考スコア(独自算出の注目度): 15.972286175384417
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Mass religious gatherings such as the Kumbh Mela concentrate tens of millions of people into a single region over a few weeks, producing intense, repetitive, multilingual, and safety-critical demand for information. The default response, a conversational assistant that routes every query to a large language model (LLM), is poorly matched to this setting: it is costly at scale, slow on emergency paths, prone to hallucination on facts that can cause physical harm, and unusable when connectivity fails. We describe KumbhDoot, an agentic pilgrim assistant for the Nashik Simhastha Kumbh Mela built on a different principle. It operates on a foundational design principle that prioritizes semantic similarity over starting with an LLM. Generative models are invoked only in instances where similarity-based retrieval is insufficient to produce a correct answer. The system utilizes a "semantic cache": an embedding-indexed store as a single retrieval primitive, which handles intent routing, answer caching, offline lookups, and multi-agent retrieval. A custom three-tier agent architecture operates directly on this store, ensuring decision paths remain inspectable and avoiding the use of generic multi-agent frameworks that would trigger implicit per-step LLM calls. We present the architecture, an analytical cost model for its per-query economics, and an honest account of where similarity is sufficient and where generative reasoning remains necessary. We argue that for bounded, high-stakes, low-connectivity public-service domains, a similarity-first and LLM-bounded design is not merely cheaper but architecturally more appropriate than an LLM-default one.
- Abstract(参考訳): クンブ・メラのような大規模な宗教集会は、数週間にわたって何千万人もの人々を単一の地域に集結させ、激しい、反復的で、多言語で、情報の安全に重要な需要を生み出した。
すべてのクエリを大きな言語モデル(LLM)にルーティングする会話アシスタントである、デフォルトの応答は、この設定とあまり一致しない。
我々は、異なる原理に基づいて構築されたナシク・シムハサ・クンバ・メラの巡礼助手であるクンバ・ドゥートについて記述する。
LLMから始めるよりも意味的類似性を優先する基本設計原理で運用されている。
生成モデルは、類似性に基づく検索が不十分な場合にのみ実行され、正しい答えが得られます。
このシステムは、インテントルーティング、応答キャッシュ、オフラインルックアップ、マルチエージェント検索を処理する単一の検索プリミティブとして埋め込みインデックスストアである「セマンティックキャッシュ」を使用している。
カスタム3層エージェントアーキテクチャは、このストア上で直接動作し、決定パスが検査可能であることを保証するとともに、ステップごとのLCMコールを暗黙的にトリガする汎用マルチエージェントフレームワークの使用を避ける。
本稿では, アーキテクチャ, クエリごとの経済分析コストモデル, 類似性が十分であり, 生成的推論が必要かという正直な説明を紹介する。
我々は、バウンダリ、高スループット、低接続性のパブリックサービスドメインの場合、類似性ファーストとLLMバウンダリの設計は単に安価であるだけでなく、LLMデフォルトの設計よりもアーキテクチャ上適切であると主張している。
関連論文リスト
- AGI Maze as a Benchmark Framework for World-Modeling Agents [0.0]
大規模言語モデル(LLM)は強力なパターン補完システムであるが、そのデフォルトの操作モードは、外部世界の永続的で操作可能な表現を確実に生成するわけではない。
AGI Mazeは、高次元の感覚入力を必要としない、そのような環境を構築するための軽量なフレームワークである。
論文 参考訳(メタデータ) (2026-07-01T08:43:08Z) - SOMA: Efficient Multi-turn LLM Serving via Small Language Model [64.50946708641608]
大規模言語モデル(LLM)は、多ターン対話設定にますます多くデプロイされている。
本稿では,セッションの初期回転を利用して局所応答多様体を推定するフレームワークを提案する。
採掘された試料を局所的なLoRA微調整に蒸留し, シュロゲートは推論時にプロンプトを伴わずに動作させる。
論文 参考訳(メタデータ) (2026-05-11T23:07:33Z) - The Context Gathering Decision Process: A POMDP Framework for Agentic Search [38.92972416925679]
大規模言語モデル(LLM)エージェントは複雑な環境にデプロイされる。
明示的なインフラストラクチャがなければ、エージェントの動作メモリは、検索状態の損失のある表現に分解される可能性がある。
我々はこの課題をコンテキスト収集決定プロセス(CGDP)として定式化する。
反復LDM剤に対する2つのプラグ・アンド・プレイ介入法を導出する。
論文 参考訳(メタデータ) (2026-05-07T23:45:07Z) - Agentic Multi-Source Grounding for Enhanced Query Intent Understanding: A DoorDash Case Study [0.8924669503280332]
本稿では,両方の障害モードに対処するエージェント・マルチソース・グラウンドドシステムを提案する。
モデルは単一のラベルを予測するのではなく、順序付けられたマルチインテントセットを出力する。
システムはプロダクションにデプロイされ、毎日の検索インプレッションの95%以上を処理している。
論文 参考訳(メタデータ) (2026-03-02T05:51:05Z) - Reasoning with Confidence: Efficient Verification of LLM Reasoning Steps via Uncertainty Heads [104.9566359759396]
データ駆動の不確実性スコアに基づくステップレベルの推論検証の軽量な代替案を提案する。
本研究は, LLMの内部状態が不確実性を符号化し, 信頼性の高い検証信号として機能することが示唆された。
論文 参考訳(メタデータ) (2025-11-09T03:38:29Z) - Semantic Caching for Low-Cost LLM Serving: From Offline Learning to Online Adaptation [54.61034867177997]
キャッシング推論応答は、大きな言語モデルに他の前方を通さずに、それらを検索することができる。
従来の正確なキャッシュは、クエリ間のセマンティックな類似性を見落とし、不要な再計算をもたらす。
本稿では,未知のクエリおよびコスト分布下でのセマンティックキャッシュ消去のための,原則的,学習ベースのフレームワークを提案する。
論文 参考訳(メタデータ) (2025-08-11T06:53:27Z) - Online Intrinsic Rewards for Decision Making Agents from Large Language Model Feedback [52.763620660061115]
ONIは、RLポリシーと本質的な報酬関数を同時に学習する分散アーキテクチャである。
我々は、様々な複雑さを持つ報酬モデリングのためのアルゴリズムの選択範囲を探索する。
提案手法は,NetHack Learning Environment の様々な課題にまたがって,最先端のパフォーマンスを実現する。
論文 参考訳(メタデータ) (2024-10-30T13:52:43Z) - AI-native Memory: A Pathway from LLMs Towards AGI [25.19572633670963]
大規模言語モデル(LLM)は、人工知能(AGI)の火花で世界を実証した。
我々は,メモリ統合によるLLMからAGIへの経路を構想する。
中間段階として、メモリは自然言語記述の形式になる可能性が高い。
論文 参考訳(メタデータ) (2024-06-26T12:51:37Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。