論文の概要: Securing LLM-as-a-Service for Small Businesses: An Industry Case Study of a Distributed Chatbot Deployment Platform

• arxiv url: http://arxiv.org/abs/2601.15528v1
• Date: Wed, 21 Jan 2026 23:29:32 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-01-23 21:37:20.445691
• Title: Securing LLM-as-a-Service for Small Businesses: An Industry Case Study of a Distributed Chatbot Deployment Platform
• Title（参考訳）: 中小企業向けLCM-as-a-Serviceの確保:分散型チャットボット展開プラットフォームの産業事例
• Authors: Jiazhu Xie, Bowen Li, Heyu Fu, Chong Gao, Ziqi Xu, Fengling Han,
• Abstract要約: LLM(Large Language Model)ベースの質問応答システムは、中小企業におけるカスタマーサポートと内部知識アクセスを自動化する大きな可能性を秘めている。 本稿では,中小企業がノココードワークフローを通じて,LLMベースのサポートチャットボットをカスタマイズ可能な,オープンソースのマルチテナントプラットフォームを提案する。 このプラットフォームは、異種で低コストなマシンにまたがる分散軽量のk3sクラスタ上に構築され、暗号化されたオーバーレイネットワークを介して相互接続される。
• 参考スコア（独自算出の注目度）: 5.6063901772542835
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Large Language Model (LLM)-based question-answering systems offer significant potential for automating customer support and internal knowledge access in small businesses, yet their practical deployment remains challenging due to infrastructure costs, engineering complexity, and security risks, particularly in retrieval-augmented generation (RAG)-based settings. This paper presents an industry case study of an open-source, multi-tenant platform that enables small businesses to deploy customised LLM-based support chatbots via a no-code workflow. The platform is built on distributed, lightweight k3s clusters spanning heterogeneous, low-cost machines and interconnected through an encrypted overlay network, enabling cost-efficient resource pooling while enforcing container-based isolation and per-tenant data access controls. In addition, the platform integrates practical, platform-level defences against prompt injection attacks in RAG-based chatbots, translating insights from recent prompt injection research into deployable security mechanisms without requiring model retraining or enterprise-scale infrastructure. We evaluate the proposed platform through a real-world e-commerce deployment, demonstrating that secure and efficient LLM-based chatbot services can be achieved under realistic cost, operational, and security constraints faced by small businesses.
• Abstract（参考訳）: 大規模言語モデル(LLM)に基づく質問応答システムは、中小企業における顧客サポートと内部知識アクセスを自動化する上で大きな可能性を秘めているが、インフラコスト、エンジニアリングの複雑さ、セキュリティリスク、特に検索強化世代(RAG)ベースの設定のため、その実践的展開は依然として困難である。 本稿では,中小企業がノココードワークフローを通じてLLMベースのサポートチャットボットをカスタマイズ可能な,オープンソースのマルチテナントプラットフォームの産業ケーススタディを提案する。 プラットフォームは、異種で低コストなマシンにまたがる分散軽量k3sクラスタ上に構築され、暗号化されたオーバーレイネットワークを介して相互接続される。 さらに、このプラットフォームは、RAGベースのチャットボットにおける即時インジェクション攻撃に対する実用的なプラットフォームレベルの防御を統合し、モデル再トレーニングやエンタープライズ規模のインフラを必要としない、デプロイ可能なセキュリティメカニズムに対する最近のインジェクション研究からの洞察を翻訳する。 提案するプラットフォームを実世界のeコマース展開を通じて評価し,中小企業が直面する現実的なコスト,運用,セキュリティ制約の下で,セキュアで効率的なLLMベースのチャットボットサービスが実現可能であることを実証した。

関連論文リスト

• Small Language Models for Phishing Website Detection: Cost, Performance, and Privacy Trade-Offs [0.6299766708197881]
  フィッシングサイトは大きなサイバーセキュリティの脅威となり、疑わしいユーザーを搾取し、財政的・組織的被害を引き起こす。 従来のフィッシング検出の機械学習アプローチでは、広範な機能エンジニアリング、継続的なリトレーニング、コストのかかるインフラストラクチャメンテナンスが必要になることが多い。 本稿では,HTML コードのみを用いて,フィッシングサイトを検出するための小型言語モデル (SLM) の実現可能性について検討する。
  論文  参考訳（メタデータ） (2025-11-19T13:45:07Z)
• Proposing a Framework for Machine Learning Adoption on Legacy Systems [1.675857332621569]
  機械学習(ML)の統合は、産業の競争力に欠かせないが、その採用は、レガシーシステムの陳腐化したコストと運用上の障害によって、しばしば停滞している。 本稿では,MLモデルのライフサイクルを運用環境から戦略的に切り離すことによって,これらの課題を克服するための実用的なAPIベースのフレームワークを紹介する。
  論文  参考訳（メタデータ） (2025-09-29T03:08:23Z)
• A Systematic Survey of Model Extraction Attacks and Defenses: State-of-the-Art and Perspectives [65.3369988566853]
  近年の研究では、敵が対象モデルの機能を複製できることが示されている。 モデル抽出攻撃は知的財産権、プライバシー、システムのセキュリティに脅威をもたらす。 本稿では,攻撃機構,防衛手法,計算環境に応じてMEAを分類する新しい分類法を提案する。
  論文  参考訳（メタデータ） (2025-08-20T19:49:59Z)
• Can LLMs Hack Enterprise Networks? Autonomous Assumed Breach Penetration-Testing Active Directory Networks [1.3124479769761592]
  本稿では,Large Language Model (LLM) 駆動自律システムを用いた新しいプロトタイプを提案する。 我々のシステムは、完全に自律的でLLM駆動のフレームワークがアカウントを妥協できる最初の実演である。 関連するコストは、プロフェッショナルな人間のペンテスト担当者によって引き起こされるコストと競合し、しばしばかなり低いことが分かりました。
  論文  参考訳（メタデータ） (2025-02-06T17:12:43Z)
• Sustainable and Intelligent Public Facility Failure Management System Based on Large Language Models [14.776153063614244]
  本稿では,新たなLarge Language Model (LLM)ベースのスマートデバイス管理フレームワークを提案する。 公共施設の予算制約を大幅に減らすための実用性と能力を示す。 フレームワークの範囲を拡大して、より広範な公共施設を含めるとともに、最先端のサイバーセキュリティ技術と統合する予定です。
  論文  参考訳（メタデータ） (2025-01-08T02:30:37Z)
• Large Language Model as a Catalyst: A Paradigm Shift in Base Station Siting Optimization [62.16747639440893]
  大規模言語モデル(LLM)とその関連技術は、特に迅速な工学とエージェント工学の領域において進歩している。 提案するフレームワークは、検索拡張生成(RAG)を組み込んで、ドメイン固有の知識を取得してソリューションを生成するシステムの能力を高める。
  論文  参考訳（メタデータ） (2024-08-07T08:43:32Z)
• Efficient Prompting for LLM-based Generative Internet of Things [88.84327500311464]
  大規模言語モデル(LLM)は、様々なタスクにおいて顕著な能力を示しており、最近、IoT(Internet of Things)アプリケーションにLLMの能力を統合することが研究の注目を集めている。 セキュリティ上の懸念から、多くの機関は最先端の商用LLMサービスへのアクセスを避け、ローカルネットワーク環境でのオープンソースLLMのデプロイと利用を必要としている。 本研究では,LLMを用いた生成IoT(Generative IoT)システムを提案する。
  論文  参考訳（メタデータ） (2024-06-14T19:24:00Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。