論文の概要: Fundamental Risks in the Current Deployment of General-Purpose AI Models: What Have We (Not) Learnt From Cybersecurity?

• arxiv url: http://arxiv.org/abs/2501.01435v1
• Date: Thu, 19 Dec 2024 14:44:41 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-01-12 04:13:43.515807
• Title: Fundamental Risks in the Current Deployment of General-Purpose AI Models: What Have We (Not) Learnt From Cybersecurity?
• Title（参考訳）: 汎用AIモデルの現在の展開における基本的なリスク:サイバーセキュリティから学んだこと
• Authors: Mario Fritz,
• Abstract要約: 大規模言語モデル(LLM)は、幅広いユースケースで急速にデプロイされている。 OpenAIs Alteraは、自律性の向上、データアクセス、実行機能の一例に過ぎない。 これらの方法には、さまざまなサイバーセキュリティ上の課題が伴う。
• 参考スコア（独自算出の注目度）: 60.629883024152576
• License:
• Abstract: General Purpose AI - such as Large Language Models (LLMs) - have seen rapid deployment in a wide range of use cases. Most surprisingly, they have have made their way from plain language models, to chat-bots, all the way to an almost ``operating system''-like status that can control decisions and logic of an application. Tool-use, Microsoft co-pilot/office integration, and OpenAIs Altera are just a few examples of increased autonomy, data access, and execution capabilities. These methods come with a range of cybersecurity challenges. We highlight some of the work we have done in terms of evaluation as well as outline future opportunities and challenges.
• Abstract（参考訳）: 汎用AI(Large Language Models (LLMs)など)は、幅広いユースケースで急速にデプロイされている。 もっとも驚くべきことに、彼らは、平易な言語モデルからチャットボットまで、アプリケーションの決定やロジックを制御できるほぼ‘運用システム’のような状態に至りました。 ツールユース、Microsoftのコパイロット/オフィス統合、OpenAIs Alteraなどは、自律性の向上、データアクセス、実行機能の一例に過ぎない。 これらの方法には、さまざまなサイバーセキュリティ上の課題が伴う。 我々は、評価の観点から行った仕事のいくつかを強調し、将来の機会と課題を概説する。

関連論文リスト

• $π_0$: A Vision-Language-Action Flow Model for General Robot Control [77.32743739202543]
  本稿では,インターネット規模のセマンティック知識を継承するために,事前学習された視覚言語モデル(VLM)上に構築された新しいフローマッチングアーキテクチャを提案する。 我々は,事前訓練後のタスクをゼロショットで実行し,人からの言語指導に追従し,微調整で新たなスキルを習得する能力の観点から,我々のモデルを評価した。
  論文  参考訳（メタデータ） (2024-10-31T17:22:30Z)
• OS-Copilot: Towards Generalist Computer Agents with Self-Improvement [48.29860831901484]
  オペレーティングシステム(OS)の包括的要素と対話可能な汎用エージェントを構築するためのフレームワークであるOS-Copilotを紹介する。 我々はOS-Copilotを使って、汎用コンピュータタスクを自動化する自己改善型実施エージェントであるFRIDAYを開発した。 一般的なAIアシスタントのベンチマークであるGAIAでは、FRIDAYが従来の手法を35%上回り、以前のタスクから蓄積したスキルを通じて、目に見えないアプリケーションへの強力な一般化を示している。
  論文  参考訳（メタデータ） (2024-02-12T07:29:22Z)
• General Purpose Artificial Intelligence Systems (GPAIS): Properties, Definition, Taxonomy, Societal Implications and Responsible Governance [16.030931070783637]
  汎用人工知能システム(GPAIS)は、これらのAIシステムを指すものとして定義されている。 これまで、人工知能の可能性は、まるで人間であるかのように知的タスクを実行するのに十分強力であり、あるいはそれを改善することさえ可能であり、いまだに願望、フィクションであり、我々の社会にとっての危険であると考えられてきた。 本研究は,GPAISの既存の定義について論じ,その特性や限界に応じて,GPAISの種類間で段階的な分化を可能にする新しい定義を提案する。
  論文  参考訳（メタデータ） (2023-07-26T16:35:48Z)
• HuggingGPT: Solving AI Tasks with ChatGPT and its Friends in Hugging Face [85.25054021362232]
  大規模言語モデル(LLM)は、言語理解、生成、相互作用、推論において例外的な能力を示した。 LLMは、複雑なAIタスクを解決するために既存のAIモデルを管理するコントローラとして機能する可能性がある。 本稿では,機械学習コミュニティのさまざまなAIモデルを接続するLLMエージェントであるHuggingGPTを紹介する。
  論文  参考訳（メタデータ） (2023-03-30T17:48:28Z)
• TaskMatrix.AI: Completing Tasks by Connecting Foundation Models with Millions of APIs [71.7495056818522]
  私たちは、基礎モデルと数百万のAPIを結合してタスク補完を行う、新しいAIエコシステムとしてTaskMatrix.AIを紹介します。 このようなエコシステムを構築するためのビジョンを示し、それぞれの重要なコンポーネントを説明し、このビジョンの実現可能性と次に取り組むべき主な課題の両方を説明するために研究ケースを使用します。
  論文  参考訳（メタデータ） (2023-03-29T03:30:38Z)
• Operationalising Responsible AI Using a Pattern-Oriented Approach: A Case Study on Chatbots in Financial Services [11.33499498841489]
  責任AI(Responsible AI)は、人間、社会、環境に利益をもたらす方法でAIシステムを開発し、利用するプラクティスである。 さまざまな責任あるAI原則が最近リリースされたが、これらの原則は非常に抽象的で実用的ではない。 ギャップを埋めるために、パターン指向のアプローチを採用し、責任あるAIパターンカタログを構築します。
  論文  参考訳（メタデータ） (2023-01-03T23:11:03Z)
• XAI for Cybersecurity: State of the Art, Challenges, Open Issues and Future Directions [16.633632244131775]
  AIモデルは、開発者が特定の決定の背後にある理由の説明や追跡ができないブラックボックスとして現れることが多い。 説明可能なAI(XAI)は、情報を抽出し、結果を視覚化するのに役立つ、急速に成長する研究分野である。 本報告では,サイバーセキュリティと攻撃形態について概説する。 次に、従来のAI技術の使用とその関連する課題について議論し、様々なアプリケーションでXAIを使用するための扉を開く。
  論文  参考訳（メタデータ） (2022-06-03T02:15:30Z)
• Proceedings of the Artificial Intelligence for Cyber Security (AICS) Workshop at AAAI 2022 [55.573187938617636]
  ワークショップは、サイバーセキュリティの問題へのAIの適用に焦点を当てる。 サイバーシステムは大量のデータを生成し、これを効果的に活用することは人間の能力を超えます。
  論文  参考訳（メタデータ） (2022-02-28T18:27:41Z)
• Structured access to AI capabilities: an emerging paradigm for safe AI deployment [0.0]
  AIシステムをオープンに普及させる代わりに、開発者はAIシステムとの制御された腕の長さのインタラクションを促進する。 Aimは、危険なAI能力が広くアクセスされることを防ぐと同時に、安全に使用できるAI機能へのアクセスを保護することを目的としている。
  論文  参考訳（メタデータ） (2022-01-13T19:30:16Z)
• Thinking Fast and Slow in AI: the Role of Metacognition [35.114607887343105]
  最先端のAIには、(人間)インテリジェンスの概念に自然に含まれる多くの能力がない。 私たちは、人間がこれらの能力を持つことができるメカニズムをよりよく研究することで、これらの能力でAIシステムを構築する方法を理解するのに役立ちます。
  論文  参考訳（メタデータ） (2021-10-05T06:05:38Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。