論文の概要: A First Look at GPT Apps: Landscape and Vulnerability

• arxiv url: http://arxiv.org/abs/2402.15105v1
• Date: Fri, 23 Feb 2024 05:30:32 GMT
• ステータス: 処理完了
• システム内更新日: 2024-02-26 15:41:37.506051
• Title: A First Look at GPT Apps: Landscape and Vulnerability
• Title（参考訳）: GPTアプリの初見:ランドスケープと脆弱性
• Authors: Zejun Zhang, Li Zhang, Xin Yuan, Anlan Zhang, Mengwei Xu, Feng Qian
• Abstract要約: 我々は,GPT ストアの先駆的な探索を行い,GPT アプリケーション内の脆弱性や盗作について調査する。 GPT作成に対するユーザや開発者の熱意は,GPT作成者やクリエーターの急速な増加によって証明された。 しかし, GPT内部の保護が困難であることや, システムプロンプトの90%近くが容易に保護され, GPT間にかなりの盗作と重複が生じていることも判明した。
• 参考スコア（独自算出の注目度）: 15.756329034041872
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: With the advancement of Large Language Models (LLMs), increasingly sophisticated and powerful GPTs are entering the market. Despite their popularity, the LLM ecosystem still remains unexplored. Additionally, LLMs' susceptibility to attacks raises concerns over safety and plagiarism. Thus, in this work, we conduct a pioneering exploration of GPT stores, aiming to study vulnerabilities and plagiarism within GPT applications. To begin with, we conduct, to our knowledge, the first large-scale monitoring and analysis of two stores, an unofficial GPTStore.AI, and an official OpenAI GPT Store. Then, we propose a TriLevel GPT Reversing (T-GR) strategy for extracting GPT internals. To complete these two tasks efficiently, we develop two automated tools: one for web scraping and another designed for programmatically interacting with GPTs. Our findings reveal a significant enthusiasm among users and developers for GPT interaction and creation, as evidenced by the rapid increase in GPTs and their creators. However, we also uncover a widespread failure to protect GPT internals, with nearly 90% of system prompts easily accessible, leading to considerable plagiarism and duplication among GPTs.
• Abstract（参考訳）: LLM(Large Language Models)の進歩に伴い、より高度で強力なGPTが市場に参入している。 その人気にもかかわらず、llmエコシステムはまだ未調査のままである。 さらに、LSMの攻撃に対する感受性は、安全と盗作に対する懸念を高める。 そこで本研究では,GPT ストアの先駆的な探索を行い,GPT アプリケーションにおける脆弱性や盗作について検討する。 まず、私たちの知るところでは、2つの店舗、非公式のgptstore.ai、公式のopenai gptストアの大規模な監視と分析を行います。 次に,GPT内部抽出のためのTriLevel GPT Reversing(T-GR)戦略を提案する。 これら2つのタスクを効率的に完了するために,Webスクレイピングのためのツールと,GPTをプログラム的に操作するためのツールを開発する。 以上の結果から,GPTとクリエーターの急速な増加が示すように,GPTインタラクションと創造に対するユーザと開発者の大きな熱意が明らかになった。 しかし,GPT内部の保護が困難であることや,システム全体の90%近くが容易にアクセスでき,GPT間にかなりの盗作や重複が生じていることも判明した。

関連論文リスト

• Exploring ChatGPT App Ecosystem: Distribution, Deployment and Security [3.0924093890016904]
  ChatGPTは、サードパーティ開発者がChatGPTの機能を拡張するプラグインを作成することを可能にする。 われわれはChatGPTアプリのエコシステムを総合的に調査し、研究コミュニティの景観を照らすことを目的としている。 ChatGPTプラグインの間に不均一な機能の分布が発見され、広く普及し、新たなトピックが浮かび上がっています。
  論文  参考訳（メタデータ） (2024-08-26T15:31:58Z)
• GPTZoo: A Large-scale Dataset of GPTs for the Research Community [5.1875389249043415]
  GPTZooは730,420のGPTインスタンスからなる大規模データセットである。 それぞれのインスタンスには、その特性を記述した21の属性と、開発中に使用される命令、ナレッジファイル、サードパーティサービスを含む豊富なメタデータが含まれている。
  論文  参考訳（メタデータ） (2024-05-24T15:17:03Z)
• MapGPT: Map-Guided Prompting with Adaptive Path Planning for Vision-and-Language Navigation [73.81268591484198]
  GPTを装備した身体的エージェントは、様々なタスクにまたがる異常な意思決定と一般化能力を示した。 本稿では,グローバルな探索を促進するオンライン言語地図を提供するMapGPTという,地図誘導型GPTエージェントについて紹介する。 本設計の利点を生かして,地図に基づく多段階経路計画を行うエージェントを支援する適応型計画手法を提案する。
  論文  参考訳（メタデータ） (2024-01-14T15:34:48Z)
• Opening A Pandora's Box: Things You Should Know in the Era of Custom GPTs [27.97654690288698]
  我々はOpenAIによるカスタムGPTプラットフォームから生じるセキュリティとプライバシの問題を包括的に分析する。 本研究は,攻撃シナリオを悪質なアクターの役割に基づいた3つの脅威モデルに分類する。 我々は26の潜在的な攻撃ベクトルを特定し、19は実世界の環境で部分的にまたは完全に検証されている。
  論文  参考訳（メタデータ） (2023-12-31T16:49:12Z)
• KnowGPT: Knowledge Graph based Prompting for Large Language Models [28.605161596626875]
  本稿では,知識グラフに基づく PrompTing フレームワーク,すなわち KnowGPT を導入し,ドメイン知識で大規模言語モデルを強化する。 KnowGPTには、KGから最も情報性の高い知識を抽出する知識抽出モジュールと、抽出した知識を自動的に効果的なプロンプトに変換するコンテキスト対応プロンプト構築モジュールが含まれている。 KnowGPTはOpenbookQAのリーダーボードで92.6%の精度を実現している。
  論文  参考訳（メタデータ） (2023-12-11T07:56:25Z)
• ChatGPT's One-year Anniversary: Are Open-Source Large Language Models Catching up? [71.12709925152784]
  ChatGPTは、AIのランドスケープ全体において、地震的な変化をもたらした。 モデルは人間の質問に答え、幅広いタスクのパネルで指示に従うことができることを示した。 クローズドソースのLLMは一般的にオープンソースよりも優れていますが、後者の進歩は急速に進んでいます。 これは研究だけでなく、ビジネスにも重要な意味を持つ。
  論文  参考訳（メタデータ） (2023-11-28T17:44:51Z)
• GPT4Vis: What Can GPT-4 Do for Zero-shot Visual Recognition? [82.40761196684524]
  本稿では,ゼロショット視覚認識タスクにおけるGPT-4の言語的・視覚的能力の評価に焦点を当てる。 我々は、画像、ビデオ、点群にわたるGPT-4の性能を評価するための広範な実験を行った。 言語記述が充実したGPT-4はゼロショット認識を著しく改善した。
  論文  参考訳（メタデータ） (2023-11-27T11:29:10Z)
• Unlocking the Potential of Prompt-Tuning in Bridging Generalized and Personalized Federated Learning [49.72857433721424]
  Vision Transformer (ViT) と Visual Prompt Tuning (VPT) は、様々なコンピュータビジョンタスクの効率を改善して最先端のパフォーマンスを実現する。 本稿では,GFL(Generalized FL)とPFL(Personalized FL)を組み合わせた新しいアルゴリズムSGPTを提案する。
  論文  参考訳（メタデータ） (2023-10-27T17:22:09Z)
• One Small Step for Generative AI, One Giant Leap for AGI: A Complete Survey on ChatGPT in AIGC Era [95.2284704286191]
  GPT-4(別名ChatGPT Plus)は、生成型AI(GAI)の1つの小さなステップであるが、人工知能(AGI)の1つの大きな飛躍である。 2022年11月に公式リリースされて以来、ChatGPTは急速に多くのユーザーを惹きつけてきた。 この研究は、ChatGPTを基盤技術、アプリケーション、課題に関する包括的なレビューで調査した初めてのものである。
  論文  参考訳（メタデータ） (2023-04-04T06:22:09Z)
• Emerging App Issue Identification via Online Joint Sentiment-Topic Tracing [66.57888248681303]
  本稿では,MERITという新しい問題検出手法を提案する。 AOBSTモデルに基づいて、1つのアプリバージョンに対するユーザレビューに否定的に反映されたトピックを推測する。 Google PlayやAppleのApp Storeで人気のアプリに対する実験は、MERITの有効性を実証している。
  論文  参考訳（メタデータ） (2020-08-23T06:34:05Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。