論文の概要: Lifting the Veil on Composition, Risks, and Mitigations of the Large Language Model Supply Chain

• arxiv url: http://arxiv.org/abs/2410.21218v3
• Date: Wed, 25 Jun 2025 09:01:38 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-06-26 14:36:54.776658
• Title: Lifting the Veil on Composition, Risks, and Mitigations of the Large Language Model Supply Chain
• Title（参考訳）: 大規模言語モデルサプライチェーンの構成, リスク, 緩和に関する研究
• Authors: Kaifeng Huang, Bihuan Chen, You Lu, Susheng Wu, Dingji Wang, Yiheng Huang, Haowen Jiang, Zhuotong Zhou, Junming Cao, Xin Peng,
• Abstract要約: 大規模言語モデル(LLM)は、インテリジェンスと生産性の両方に重大な影響を与えている。 我々は、リスクタイプ、リスク行動、および異なる利害関係者間の対応する緩和を含む構造化された分類法を開発する。
• 参考スコア（独自算出の注目度）: 6.478930807409979
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Large language models (LLMs) have sparked significant impact with regard to both intelligence and productivity. Numerous enterprises have integrated LLMs into their applications to solve their own domain-specific tasks. However, integrating LLMs into specific scenarios is a systematic process that involves substantial components, which are collectively referred to as the LLM supply chain. A comprehensive understanding of LLM supply chain composition, as well as the relationships among its components, is crucial for enabling effective mitigation measures for different related risks. While existing literature has explored various risks associated with LLMs, there remains a notable gap in systematically characterizing the LLM supply chain from the dual perspectives of contributors and consumers. In this work, we develop a structured taxonomy encompassing risk types, risky actions, and corresponding mitigations across different stakeholders and components of the supply chain. We believe that a thorough review of the LLM supply chain composition, along with its inherent risks and mitigation measures, would be valuable for industry practitioners to avoid potential damages and losses, and enlightening for academic researchers to rethink existing approaches and explore new avenues of research.
• Abstract（参考訳）: 大規模言語モデル(LLM)は、インテリジェンスと生産性の両方に重大な影響を与えている。 多くの企業がLLMをアプリケーションに統合し、独自のドメイン固有のタスクを解決している。 しかし、LSMを特定のシナリオに統合することは、LLMサプライチェーンと呼ばれる実質的なコンポーネントを含む体系的なプロセスである。 LLMサプライチェーン構成の包括的理解と,その構成要素間の関係は,異なるリスクに対する効果的な緩和対策の実現に不可欠である。 既存の文献では、LCMに関連する様々なリスクを調査しているが、コントリビュータと消費者の両面からLLMサプライチェーンを体系的に特徴づける上で、大きなギャップが残っている。 本研究では、リスクタイプ、リスク行動、および異なる利害関係者とサプライチェーンの構成要素に対する対応緩和を含む構造的分類法を開発する。 我々は、LSMサプライチェーン構成の徹底的な見直しと、その固有のリスクと緩和策が、潜在的な損害や損失を回避し、学術研究者が既存のアプローチを再考し、新たな研究の道を探る上で、業界実践者にとって価値があると考えている。

関連論文リスト

• A Comprehensive Survey in LLM(-Agent) Full Stack Safety: Data, Training and Deployment [291.03029298928857]
  本稿では, LLM のトレーニング, 展開, 商業化のプロセス全体を通して, 安全問題を体系的に検討する "フルスタック" の安全性の概念を紹介する。 我々の研究は800以上の論文を網羅的にレビューし、包括的カバレッジとセキュリティ問題の体系的な組織化を確保しています。 本研究は,データ生成の安全性,アライメント技術,モデル編集,LLMベースのエージェントシステムなど,有望な研究方向を特定する。
  論文  参考訳（メタデータ） (2025-04-22T05:02:49Z)
• Look Before You Leap: Enhancing Attention and Vigilance Regarding Harmful Content with GuidelineLLM [53.79753074854936]
  大規模言語モデル(LLM)は、出現するジェイルブレイク攻撃に対してますます脆弱である。 この脆弱性は現実世界のアプリケーションに重大なリスクをもたらす。 本稿では,ガイドラインLLMという新しい防御パラダイムを提案する。
  論文  参考訳（メタデータ） (2024-12-10T12:42:33Z)
• Large Language Model Supply Chain: Open Problems From the Security Perspective [25.320736806895976]
  大規模言語モデル(LLM)はソフトウェア開発パラダイムを変えつつあり、学術と産業の両方から大きな注目を集めています。 各コンポーネントの潜在的なセキュリティリスクとLCM SCのコンポーネント間の統合について議論する第一歩を踏み出します。
  論文  参考訳（メタデータ） (2024-11-03T15:20:21Z)
• Supply Chain Network Extraction and Entity Classification Leveraging Large Language Models [5.205252810216621]
  我々は,大規模言語モデル(LLM)を用いた土木分野向けサプライチェーングラフを開発する。 LLMを微調整してサプライチェーングラフ内のエンティティを分類し、それらの役割と関係に関する詳細な洞察を提供する。 我々の貢献には、土木分野向けのサプライチェーングラフの開発や、サプライチェーンネットワークのエンティティ分類と理解を強化する微調整LCMモデルなどが含まれます。
  論文  参考訳（メタデータ） (2024-10-16T21:24:13Z)
• Prompt Leakage effect and defense strategies for multi-turn LLM interactions [95.33778028192593]
  システムプロンプトの漏洩は知的財産を侵害し、攻撃者に対する敵の偵察として機能する可能性がある。 我々は, LLM sycophancy 効果を利用して, 平均攻撃成功率 (ASR) を17.7%から86.2%に高めるユニークな脅威モデルを構築した。 7つのブラックボックス防衛戦略の緩和効果と、漏洩防止のためのオープンソースモデルを微調整する。
  論文  参考訳（メタデータ） (2024-04-24T23:39:58Z)
• Large Language Model Supply Chain: A Research Agenda [5.1875389249043415]
  大規模言語モデル(LLM)は、自然言語処理とマルチモーダルコンテンツ生成において前例のない能力を導入し、人工知能に革命をもたらした。 本稿では,LLMサプライチェーンの総合的な研究課題を初めて提示し,重要な課題と機会を特定するための構造的アプローチを提案する。
  論文  参考訳（メタデータ） (2024-04-19T09:29:53Z)
• Large Language Models for Blockchain Security: A Systematic Literature Review [32.36531880327789]
  大規模言語モデル(LLM)は、サイバーセキュリティの様々な領域にまたがる強力なツールとして登場した。 本研究の目的は,既存の研究を包括的に分析し,LLMがブロックチェーンシステムのセキュリティ向上にどのように貢献するかを明らかにすることである。
  論文  参考訳（メタデータ） (2024-03-21T10:39:44Z)
• Rethinking Machine Unlearning for Large Language Models [85.92660644100582]
  大規模言語モデル(LLM)の領域における機械学習の研究 このイニシアチブは、望ましくないデータの影響(機密情報や違法情報など)と関連するモデル機能を排除することを目的としている。
  論文  参考訳（メタデータ） (2024-02-13T20:51:58Z)
• Knowledge Fusion of Large Language Models [73.28202188100646]
  本稿では,大規模言語モデル(LLM)における知識融合の概念を紹介する。 我々は、それらの集合的知識と独特な強みを外部化し、それによってターゲットモデルの能力が、どのソースLLMよりも高められるようにします。 この結果から,LLMの融合により,推論やコモンセンス,コード生成など,対象モデルの性能が向上することが確認された。
  論文  参考訳（メタデータ） (2024-01-19T05:02:46Z)
• Risk Taxonomy, Mitigation, and Assessment Benchmarks of Large Language Model Systems [29.828997665535336]
  大規模言語モデル(LLM)は、多様な自然言語処理タスクを解く上で強力な能力を持つ。 しかし、LLMシステムの安全性とセキュリティの問題は、その広範な応用にとって大きな障害となっている。 本稿では,LLMシステムの各モジュールに関連する潜在的なリスクを体系的に分析する包括的分類法を提案する。
  論文  参考訳（メタデータ） (2024-01-11T09:29:56Z)
• A Comprehensive Overview of Large Language Models [68.22178313875618]
  大規模言語モデル(LLM)は、最近自然言語処理タスクにおいて顕著な機能を示した。 本稿では, LLM関連概念の幅広い範囲について, 既存の文献について概説する。
  論文  参考訳（メタデータ） (2023-07-12T20:01:52Z)
• How Can Recommender Systems Benefit from Large Language Models: A Survey [82.06729592294322]
  大きな言語モデル(LLM)は、印象的な汎用知性と人間のような能力を示している。 我々は,実世界のレコメンデータシステムにおけるパイプライン全体の観点から,この研究の方向性を包括的に調査する。
  論文  参考訳（メタデータ） (2023-06-09T11:31:50Z)
• On the Risk of Misinformation Pollution with Large Language Models [127.1107824751703]
  本稿では,現代大規模言語モデル (LLM) の誤用の可能性について検討する。 本研究は, LLMが効果的な誤情報発生器として機能し, DOQAシステムの性能が著しく低下することを明らかにする。
  論文  参考訳（メタデータ） (2023-05-23T04:10:26Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。