論文の概要: Lifting the Veil on the Large Language Model Supply Chain: Composition, Risks, and Mitigations
- arxiv url: http://arxiv.org/abs/2410.21218v1
- Date: Mon, 28 Oct 2024 17:02:12 GMT
- ステータス: 翻訳完了
- システム内更新日: 2024-10-29 12:16:24.901227
- Title: Lifting the Veil on the Large Language Model Supply Chain: Composition, Risks, and Mitigations
- Title(参考訳): 大規模言語モデルサプライチェーンにおけるベールのリフティング:構成,リスク,緩和
- Authors: Kaifeng Huang, Bihuan Chen, You Lu, Susheng Wu, Dingji Wang, Yiheng Huang, Haowen Jiang, Zhuotong Zhou, Junming Cao, Xin Peng,
- Abstract要約: 大規模言語モデル(LLM)は、インテリジェンスと生産性の両方に重大な影響を与えている。
本稿では, LLMサプライチェーンの概要を概説し, ステークホルダー, アーティファクトの構成, 供給タイプについて詳述する。
- 参考スコア(独自算出の注目度): 6.478930807409979
- License:
- Abstract: Large language models (LLM) have sparked significant impact with regard to both intelligence and productivity. In recent years, a great surge has been witnessed in the introduction of both commercial and open-source LLMs. Many businesses have adopted the LLMs into their applications to solve their own domain-specific tasks. However, integrating LLMs into specific business scenarios requires more than just utilizing the models themselves. Instead, it is a systematic process that involves substantial components, which are collectively referred to as the LLM supply chain. The LLM supply chain inherently carries risks. Therefore, it is essential to understand the types of components that may be introduced into the supply chain and the associated risks, enabling different stakeholders to implement effective mitigation measures. While some literature touches on risks associated with the LLM supply chain, there is currently no paper that explicitly defines its scope, identifies inherent risks, and examines potential mitigation strategies. As LLMs have become essential infrastructure in the new era, we believe that a thorough review of the LLM supply chain, along with its inherent risks and mitigation strategies, would be valuable for industry practitioners to avoid potential damages and losses, and enlightening for academic researchers to rethink existing approaches and explore new avenues of research. Our paper provides a comprehensive overview of the LLM supply chain, detailing the stakeholders, composing artifacts, and the supplying types. We developed taxonomies of risk types, risky actions, and mitigations related to various supply chain stakeholders and components. In summary, our work explores the technical and operational aspects of the LLM supply chain, offering valuable insights for researchers and engineers in the evolving LLM landscape.
- Abstract(参考訳): 大規模言語モデル(LLM)は、インテリジェンスと生産性の両方に関して大きな影響を与えている。
近年、商用LLMとオープンソースLLMの両方の導入で大きな急上昇が見られた。
多くの企業は、自身のドメイン固有のタスクを解決するためにLLMをアプリケーションに採用している。
しかし、LLMを特定のビジネスシナリオに統合するには、単にモデル自体を活用する以上のことが必要です。
代わりに、実質的なコンポーネントを含む体系的なプロセスであり、総称してLLMサプライチェーンと呼ばれる。
LLMサプライチェーンは本質的にリスクを伴います。
したがって、サプライチェーンに導入されるコンポーネントの種類と関連するリスクを理解することが不可欠であり、様々な利害関係者が効果的な緩和措置を実施することができる。
LLMサプライチェーンに関連するリスクに関する文献もあるが、そのスコープを明確に定義し、固有のリスクを特定し、潜在的な緩和戦略を検討する論文はない。
LLMが新たな時代に欠かせないインフラとなるにつれて、LLMサプライチェーンの徹底的な見直しと、その固有のリスクや緩和戦略は、業界関係者にとって潜在的損害や損失を回避し、学術研究者が既存のアプローチを再考し、新たな研究の道を探るための啓蒙に価値があると信じている。
本稿では, LLMサプライチェーンの概要を概観し, 利害関係者, アーティファクトの構成, 供給タイプについて詳述する。
リスクタイプ,リスク行動,および様々なサプライチェーンの利害関係者やコンポーネントに関連する緩和の分類学を開発した。
まとめると、我々の研究はLLMサプライチェーンの技術的および運用的側面を探求し、進化するLLMの展望における研究者やエンジニアに貴重な洞察を提供する。
関連論文リスト
- Large Language Model Supply Chain: Open Problems From the Security Perspective [25.320736806895976]
大規模言語モデル(LLM)はソフトウェア開発パラダイムを変えつつあり、学術と産業の両方から大きな注目を集めています。
各コンポーネントの潜在的なセキュリティリスクとLCM SCのコンポーネント間の統合について議論する第一歩を踏み出します。
論文 参考訳(メタデータ) (2024-11-03T15:20:21Z) - Supply Chain Network Extraction and Entity Classification Leveraging Large Language Models [5.205252810216621]
我々は,大規模言語モデル(LLM)を用いた土木分野向けサプライチェーングラフを開発する。
LLMを微調整してサプライチェーングラフ内のエンティティを分類し、それらの役割と関係に関する詳細な洞察を提供する。
我々の貢献には、土木分野向けのサプライチェーングラフの開発や、サプライチェーンネットワークのエンティティ分類と理解を強化する微調整LCMモデルなどが含まれます。
論文 参考訳(メタデータ) (2024-10-16T21:24:13Z) - Prompt Leakage effect and defense strategies for multi-turn LLM interactions [95.33778028192593]
システムプロンプトの漏洩は知的財産を侵害し、攻撃者に対する敵の偵察として機能する可能性がある。
我々は, LLM sycophancy 効果を利用して, 平均攻撃成功率 (ASR) を17.7%から86.2%に高めるユニークな脅威モデルを構築した。
7つのブラックボックス防衛戦略の緩和効果と、漏洩防止のためのオープンソースモデルを微調整する。
論文 参考訳(メタデータ) (2024-04-24T23:39:58Z) - Large Language Model Supply Chain: A Research Agenda [5.1875389249043415]
大規模言語モデル(LLM)は、自然言語処理とマルチモーダルコンテンツ生成において前例のない能力を導入し、人工知能に革命をもたらした。
しかし、これらのモデルの複雑さと規模が増大し、インフラ、基礎モデル、下流アプリケーションに固有の課題をもたらす多面的なサプライチェーンが生まれました。
本稿では,ソフトウェア工学(SE)とセキュリティとプライバシ(S&P)の両レンズによる重要な課題と機会を特定するための構造化アプローチを提案する。
論文 参考訳(メタデータ) (2024-04-19T09:29:53Z) - Large Language Models for Blockchain Security: A Systematic Literature Review [32.36531880327789]
大規模言語モデル(LLM)は、サイバーセキュリティの様々な領域にまたがる強力なツールとして登場した。
本研究の目的は,既存の研究を包括的に分析し,LLMがブロックチェーンシステムのセキュリティ向上にどのように貢献するかを明らかにすることである。
論文 参考訳(メタデータ) (2024-03-21T10:39:44Z) - Rethinking Machine Unlearning for Large Language Models [85.92660644100582]
大規模言語モデル(LLM)の領域における機械学習の研究
このイニシアチブは、望ましくないデータの影響(機密情報や違法情報など)と関連するモデル機能を排除することを目的としている。
論文 参考訳(メタデータ) (2024-02-13T20:51:58Z) - Knowledge Fusion of Large Language Models [73.28202188100646]
本稿では,大規模言語モデル(LLM)における知識融合の概念を紹介する。
我々は、それらの集合的知識と独特な強みを外部化し、それによってターゲットモデルの能力が、どのソースLLMよりも高められるようにします。
この結果から,LLMの融合により,推論やコモンセンス,コード生成など,対象モデルの性能が向上することが確認された。
論文 参考訳(メタデータ) (2024-01-19T05:02:46Z) - Risk Taxonomy, Mitigation, and Assessment Benchmarks of Large Language
Model Systems [29.828997665535336]
大規模言語モデル(LLM)は、多様な自然言語処理タスクを解く上で強力な能力を持つ。
しかし、LLMシステムの安全性とセキュリティの問題は、その広範な応用にとって大きな障害となっている。
本稿では,LLMシステムの各モジュールに関連する潜在的なリスクを体系的に分析する包括的分類法を提案する。
論文 参考訳(メタデータ) (2024-01-11T09:29:56Z) - A Comprehensive Overview of Large Language Models [68.22178313875618]
大規模言語モデル(LLM)は、最近自然言語処理タスクにおいて顕著な機能を示した。
本稿では, LLM関連概念の幅広い範囲について, 既存の文献について概説する。
論文 参考訳(メタデータ) (2023-07-12T20:01:52Z) - How Can Recommender Systems Benefit from Large Language Models: A Survey [82.06729592294322]
大きな言語モデル(LLM)は、印象的な汎用知性と人間のような能力を示している。
我々は,実世界のレコメンデータシステムにおけるパイプライン全体の観点から,この研究の方向性を包括的に調査する。
論文 参考訳(メタデータ) (2023-06-09T11:31:50Z) - On the Risk of Misinformation Pollution with Large Language Models [127.1107824751703]
本稿では,現代大規模言語モデル (LLM) の誤用の可能性について検討する。
本研究は, LLMが効果的な誤情報発生器として機能し, DOQAシステムの性能が著しく低下することを明らかにする。
論文 参考訳(メタデータ) (2023-05-23T04:10:26Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。