論文の概要: Porting an LLM based Application from ChatGPT to an On-Premise Environment

• arxiv url: http://arxiv.org/abs/2504.07907v1
• Date: Thu, 10 Apr 2025 16:29:26 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-04-18 16:14:34.630579
• Title: Porting an LLM based Application from ChatGPT to an On-Premise Environment
• Title（参考訳）: LLMベースのアプリケーションをChatGPTからオンプレミス環境へ移植する
• Authors: Teemu Paloniemi, Manu Setälä, Tommi Mikkonen,
• Abstract要約: 本稿では,ChatGPTを用いたリアルタイムアプリケーションのオンプレミス環境への移植過程について検討する。 移植プロセスにおける主な考慮事項は、オープンソースモデルの透明性とハードウェアコストである。
• 参考スコア（独自算出の注目度）: 2.4742581572364126
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Given the data-intensive nature of Machine Learning (ML) systems in general, and Large Language Models (LLM) in particular, using them in cloud based environments can become a challenge due to legislation related to privacy and security of data. Taking such aspects into consideration implies porting the LLMs to an on-premise environment, where privacy and security can be controlled. In this paper, we study this porting process of a real-life application using ChatGPT, which runs in a public cloud, to an on-premise environment. The application being ported is AIPA, a system that leverages Large Language Models (LLMs) and sophisticated data analytics to enhance the assessment of procurement call bids. The main considerations in the porting process include transparency of open source models and cost of hardware, which are central design choices of the on-premise environment. In addition to presenting the porting process, we evaluate downsides and benefits associated with porting.
• Abstract（参考訳）: マシンラーニング(ML)システムの一般的なデータ集約性や,特に大規模言語モデル(LLM)をクラウドベースの環境で使用することを考えると,データのプライバシやセキュリティに関する法律が問題になる可能性がある。 このような側面を考慮すると、LLMをオンプレミス環境に移植し、プライバシとセキュリティを制御できることを意味します。 本稿では,パブリッククラウドで動作するChatGPTをオンプレミス環境に移植する方法について検討する。 移植中のアプリケーションはAIPAで、Large Language Models(LLMs)と高度なデータ分析を活用して、調達コール入札の評価を強化する。 移植プロセスにおける主な考慮事項は、オープンソースモデルの透明性と、オンプレミス環境の中心的な設計選択であるハードウェアのコストである。 移植プロセスの提示に加えて,移植に伴う欠点とメリットを評価した。

関連論文リスト

• A General Pseudonymization Framework for Cloud-Based LLMs: Replacing Privacy Information in Controlled Text Generation [0.6699777383856287]
  ChatGPTサービスはクラウドベースの大規模言語モデル(LLM)を活用する プライバシの懸念は、モデルプロバイダによってプロンプトが送信され、処理されるときに生じる。 クラウドベースのLCMに適用可能な一般的な擬似化フレームワークを提案する。
  論文  参考訳（メタデータ） (2025-02-21T06:15:53Z)
• PRIV-QA: Privacy-Preserving Question Answering for Cloud Large Language Models [10.050972891318324]
  本稿では,ユーザと大規模言語モデル間のインタラクションにおいて,プライバシとセンシティブな情報を保護するためのプライバシ保護パイプラインを提案する。 プライバシを開放した最初の質問応答データセットであるSensitiveQAを構築した。 提案手法は,クラウド上でのLCMの応答品質を同時に保ちながら,ユーザ情報の事前確保を目的としたマルチステージ戦略を用いている。
  論文  参考訳（メタデータ） (2025-02-19T09:17:07Z)
• LLM-Lasso: A Robust Framework for Domain-Informed Feature Selection and Regularization [59.75242204923353]
  LLM-Lassoは大規模言語モデル(LLM)を利用してラッソ回帰における特徴選択を導くフレームワークである。 LLMは各特徴に対してペナルティ因子を生成し、単純でチューニング可能なモデルを用いてラスソペナルティの重みに変換される。 LLMによりより関連づけられた特徴は、より低い罰を受け、最終モデルに保持される可能性を高める。
  論文  参考訳（メタデータ） (2025-02-15T02:55:22Z)
• FedDTPT: Federated Discrete and Transferable Prompt Tuning for Black-Box Large Language Models [14.719919025265224]
  特定のシナリオからのデータを調整した大きな言語モデル(LLM)は、プライバシリークのリスクを引き起こす。 ブラックボックス大言語モデルに対して,フェデレートされた離散的かつ転送可能なプロンプトチューニングであるFedDTPTを初めて提案する。 提案手法は,ブラックボックス設定における非IDデータに対する高い精度,通信オーバーヘッドの低減,ロバスト性を実現する。
  論文  参考訳（メタデータ） (2024-11-01T19:19:23Z)
• LLM-PBE: Assessing Data Privacy in Large Language Models [111.58198436835036]
  大規模言語モデル(LLM)は多くのドメインに不可欠なものとなり、データ管理、マイニング、分析におけるアプリケーションを大幅に進歩させた。 この問題の批判的な性質にもかかわらず、LLMにおけるデータプライバシのリスクを総合的に評価する文献は存在しない。 本稿では,LLMにおけるデータプライバシリスクの体系的評価を目的としたツールキットであるLLM-PBEを紹介する。
  論文  参考訳（メタデータ） (2024-08-23T01:37:29Z)
• Dynamic Fog Computing for Enhanced LLM Execution in Medical Applications [1.0500536774309863]
  大きな言語モデル(LLM)は、大量の異種データを変換し、解釈し、理解することができる。 保護された健康情報(PHI)の繊細な性質は、データプライバシとリモートLLMプラットフォームへの信頼に関する有効な懸念を提起する。 我々は,LLM実行環境を,不透明で集中型のクラウドプロバイダから分散型の動的フォグコンピューティングアーキテクチャに移行することを提案する。
  論文  参考訳（メタデータ） (2024-08-08T04:49:21Z)
• Robust Utility-Preserving Text Anonymization Based on Large Language Models [80.5266278002083]
  テキストの匿名化は、プライバシーを維持しながら機密データを共有するために重要である。 既存の技術は、大規模言語モデルの再識別攻撃能力の新たな課題に直面している。 本稿では,3つのLCMベースコンポーネント – プライバシ評価器,ユーティリティ評価器,最適化コンポーネント – で構成されるフレームワークを提案する。
  論文  参考訳（メタデータ） (2024-07-16T14:28:56Z)
• Federated Domain-Specific Knowledge Transfer on Large Language Models Using Synthetic Data [53.70870879858533]
  フェデレートされたドメイン固有の知識伝達フレームワークを紹介する。 クライアントのデータプライバシを保護しながら、LLMからSLMへのドメイン固有の知識転送を可能にする。 提案されたFDKTフレームワークは、プライバシー予算が10未満のSLMのタスクパフォーマンスを約5%改善する。
  論文  参考訳（メタデータ） (2024-05-23T06:14:35Z)
• LEARN: Knowledge Adaptation from Large Language Model to Recommendation for Practical Industrial Application [54.984348122105516]
  Llm-driven knowlEdge Adaptive RecommeNdation (LEARN)フレームワークは、オープンワールドの知識と協調的な知識をシナジする。 オープンワールドの知識と協調的な知識を相乗化するLlm-driven knowlEdge Adaptive RecommeNdation (LEARN) フレームワークを提案する。
  論文  参考訳（メタデータ） (2024-05-07T04:00:30Z)
• IsolateGPT: An Execution Isolation Architecture for LLM-Based Agentic Systems [34.92643238651264]
  大規模言語モデル(LLM)は、サードパーティアプリケーションのサポートを開始した。 これらのアプリは、LLMの事実上の自然言語ベースの自動実行パラダイムを活用する。 サードパーティのアプリは、自然言語インターフェースの不正確さによって、信頼できなくなり、さらに悪化する可能性があるため、現在のデザインは、ユーザにとってセキュリティとプライバシのリスクをもたらす。
  論文  参考訳（メタデータ） (2024-03-08T00:02:30Z)
• ChatSOS: LLM-based knowledge Q&A system for safety engineering [0.0]
  本研究では,LLMに基づく安全工学のQ&Aシステムを導入し,モデルの理解と応答精度を向上させる。 我々は、外部知識データベースを組み込むために、即時エンジニアリングを採用し、LLMを最新かつ信頼性の高い情報で強化する。 以上の結果から,外部知識の統合は,奥行き問題解析や自律的なタスク割り当てにおいて,LLMの能力を大幅に向上させることが示唆された。
  論文  参考訳（メタデータ） (2023-12-14T03:25:23Z)
• Federated Learning: A Cutting-Edge Survey of the Latest Advancements and Applications [6.042202852003457]
  Federated Learning(FL)は、堅牢な機械学習(ML)モデルを開発するためのテクニックである。 ユーザのプライバシを保護するため、FLでは、大量の生データや潜在的機密データを送信するのではなく、モデル更新を送信する必要がある。 このサーベイは、最新のFLアルゴリズムの包括的な分析と比較を提供する。
  論文  参考訳（メタデータ） (2023-10-08T19:54:26Z)
• Federated Fine-Tuning of LLMs on the Very Edge: The Good, the Bad, the Ugly [62.473245910234304]
  本稿では,最新のエッジコンピューティングシステムにおいて,Large Language Modelsをどのように導入できるかを,ハードウェア中心のアプローチで検討する。 マイクロレベルのハードウェアベンチマークを行い、FLOPモデルと最先端のデータセンターGPUを比較し、現実的な条件下でのネットワーク利用について検討する。
  論文  参考訳（メタデータ） (2023-10-04T20:27:20Z)
• Augmented Large Language Models with Parametric Knowledge Guiding [72.71468058502228]
  大規模言語モデル(LLM)は、言語理解と生成能力に優れた自然言語処理(NLP)を備えています。 それらのパフォーマンスは、関連するデータへの限られた露出のために専門的な知識を必要とするドメイン固有のタスクに最適であるかもしれない。 本稿では,LLMに関連知識にアクセスするための知識誘導モジュールを組み込んだ新しいPKGフレームワークを提案する。
  論文  参考訳（メタデータ） (2023-05-08T15:05:16Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。