論文の概要: ChatGPT as a Surveillance Assistant? An Exploratory Case Study of AI-Assisted Surveillance Risks
- arxiv url: http://arxiv.org/abs/2610.40890v2
- Date: Tue, 03 Nov 2026 12:12:57 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-04 23:36:30.374075
- Title: ChatGPT as a Surveillance Assistant? An Exploratory Case Study of AI-Assisted Surveillance Risks
- Title（参考訳）: サーベイランスアシスタントとしてのChatGPT : AI支援サーベイランスリスクの探索的研究
- Abstract要約: 本稿では,ChatGPTの公開Webインターフェースにおいて,潜在的に有害な監視支援がどのようなものかを示す。
我々は,従来のLCMリスク研究と,110プロンプトとしてインスタンス化された配備監視システムの報告に基づいて,7つの監視リスクカテゴリの分類に貢献する。
その結果,ChatGPTは55件のジェイルブレイクプロンプトのうち40件と,55件の直接プロンプトのうち33件の実質的な監視ガイダンスを提供することがわかった。
- 参考スコア（独自算出の注目度）: 4.2847927405489195
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Large language models (LLMs) can generate detailed guidance, functional code, and persuasive text at scale. As one of the most widely used consumer language model products as of 2026, ChatGPT gives broad public access to these capabilities, motivating concerns about its potential use in surveillance-related tasks. We present an exploratory case study of what potentially harmful surveillance assistance looks like in ChatGPT's public web interface. We contribute a taxonomy of seven surveillance risk categories based on prior LLM risk research and reports of deployed surveillance systems, instantiated as 110 prompts, along with a manually reviewed analysis of ChatGPT's responses. Prompts were issued using two approaches: 55 jailbreak prompts drawing on five types of elicitation strategies, and 55 plain-language direct prompts, each run alone, and if unsuccessful, again with a short fixed prefix. We find that ChatGPT provides substantive surveillance guidance for 40 of the 55 jailbreak prompts and for 33 of the 55 direct prompts without any prefix. Compliant responses also rarely included policy mentions or suggestions for privacy-preserving alternatives. We manually review every response and find that even when ChatGPT states a refusal, it may still supply detailed instructions, working code, or architectural guidance alongside brief ethical caveats.
- Abstract（参考訳）: 大規模言語モデル(LLM)は、詳細なガイダンス、機能コード、大規模な説得的テキストを生成することができる。
2026年時点で最も広く使われている消費者向け言語モデル製品の一つとして、ChatGPTはこれらの機能に広く公開アクセスを提供しており、監視関連のタスクでの使用に関する懸念を喚起している。
本稿では,ChatGPTの公開Webインターフェースにおいて,潜在的に有害な監視支援がどのようなものかを示す。
我々は,従来のLCMリスク研究と,110プロンプトとしてインスタンス化された配備監視システムの報告に基づく7つの監視リスクカテゴリの分類と,ChatGPTの反応を手動でレビューした。
55のジェイルブレイクプロンプトと55の平易な直接プロンプトがそれぞれ単独で実行され、もし失敗したとしても、短い固定プレフィックスで再び発行された。
その結果,ChatGPTは55件のジェイルブレイクプロンプトのうち40件と,55件の直接プロンプトのうち33件の実質的な監視ガイダンスを提供することがわかった。
一貫性のある応答には、プライバシを保存する代替案に関するポリシーの言及や提案もほとんど含まれなかった。
すべてのレスポンスを手動でレビューし、ChatGPTが拒否を述べたとしても、簡潔な倫理的注意事項とともに詳細な指示、作業コード、アーキテクチャガイダンスを提供する可能性があることに気付きます。
関連論文リスト
- RogueGPT: dis-ethical tuning transforms ChatGPT4 into a Rogue AI in 158 Words [0.0]
本稿では、ChatGPTのデフォルトの倫理的ガードレールが、最新のカスタマイズ機能を使っていかに簡単にバイパスできるかを考察する。
この変化したChatGPTは「RogueGPT」とあだ名され、心配な行動に反応した。
我々の発見は、違法薬物生産、拷問方法、テロリズムといったトピックに関するモデルの知識に関する重要な懸念を提起する。
論文 参考訳（メタデータ） (2024-06-11T18:59:43Z) - Exploring ChatGPT's Capabilities on Vulnerability Management [56.4403395100589]
我々は、70,346のサンプルを含む大規模なデータセットを用いて、完全な脆弱性管理プロセスを含む6つのタスクでChatGPTの機能を探求する。
注目すべき例として、ChatGPTのソフトウェアバグレポートのタイトル生成などのタスクにおける熟練度がある。
以上の結果から,ChatGPTが抱える障害が明らかとなり,将来的な方向性に光を当てた。
論文 参考訳（メタデータ） (2023-11-11T11:01:13Z) - Comprehensive Assessment of Toxicity in ChatGPT [49.71090497696024]
本研究は,ChatGPTの毒性を指導調整データセットを用いて評価する。
創作作業のプロンプトは 有害な反応を 引き起こす確率が 2倍になる
初期の研究で設計された、故意に有害なプロンプトは、もはや有害な反応を生じさせない。
論文 参考訳（メタデータ） (2023-11-03T14:37:53Z) - ChatGPT is a Remarkable Tool -- For Experts [9.46644539427004]
生産性の向上,問題解決プロセスの合理化,書き込みスタイルの改善など,ChatGPTの可能性を探究する。
これらの分野では、ChatGPTへの過度な依存に関連する潜在的なリスクを強調します。
われわれはChatGPTが有益であることを証明した分野と目的、ChatGPTを法的に使用するべきアプリケーション、信頼性が制限されるシナリオについて概説する。
論文 参考訳（メタデータ） (2023-06-02T06:28:21Z) - One Small Step for Generative AI, One Giant Leap for AGI: A Complete
Survey on ChatGPT in AIGC Era [95.2284704286191]
GPT-4(別名ChatGPT Plus)は、生成型AI(GAI)の1つの小さなステップであるが、人工知能(AGI)の1つの大きな飛躍である。
2022年11月に公式リリースされて以来、ChatGPTは急速に多くのユーザーを惹きつけてきた。
この研究は、ChatGPTを基盤技術、アプリケーション、課題に関する包括的なレビューで調査した初めてのものである。
論文 参考訳（メタデータ） (2023-04-04T06:22:09Z) - To ChatGPT, or not to ChatGPT: That is the question! [78.407861566006]
本研究は,ChatGPT検出における最新の手法を包括的かつ現代的に評価するものである。
我々は、ChatGPTと人間からのプロンプトからなるベンチマークデータセットをキュレートし、医療、オープンQ&A、ファイナンスドメインからの多様な質問を含む。
評価の結果,既存の手法ではChatGPT生成内容を効果的に検出できないことがわかった。
論文 参考訳（メタデータ） (2023-04-04T03:04:28Z) - Safety Analysis in the Era of Large Language Models: A Case Study of
STPA using ChatGPT [11.27440170845105]
人間の介入なしにChatGPTを使用することは、信頼性に関する問題が原因で不十分になるかもしれないが、慎重に設計すれば、人間の専門家より優れる可能性がある。
意味的複雑さの変化や、一般的なプロンプトガイドラインの使用において、統計的に有意な違いは見つからない。
論文 参考訳（メタデータ） (2023-04-03T16:46:49Z) - Consistency Analysis of ChatGPT [65.268245109828]
本稿では,ChatGPTとGPT-4の論理的一貫した行動に対する信頼性について検討する。
その結果,両モデルとも言語理解能力と推論能力が向上しているように見えるが,論理的に一貫した予測が得られないことが示唆された。
論文 参考訳（メタデータ） (2023-03-11T01:19:01Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。