論文の概要: I'm Sorry Dave: How the old world of personnel security can inform the new world of AI insider risk

• arxiv url: http://arxiv.org/abs/2504.00012v2
• Date: Sat, 05 Apr 2025 08:25:06 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-04-08 14:08:07.782653
• Title: I'm Sorry Dave: How the old world of personnel security can inform the new world of AI insider risk
• Title（参考訳）: I'm Sorry Dave:AIインサイダーのリスクを、旧来の人事安全の世界がいかに知らしめることができるか
• Authors: Paul Martin, Sarah Mercer,
• Abstract要約: 急速に進化するAIの領域と、従来の人事セキュリティの世界との間には、意味のある相互作用はない。 人間のインサイダーによる複雑なリスクは、何十年もの努力にもかかわらず、理解と管理が難しい。 AIインサイダーによるセキュリティリスクの増大は、さらに不透明だ。
• 参考スコア（独自算出の注目度）: 0.51795041186793
• License:
• Abstract: Organisations are rapidly adopting artificial intelligence (AI) tools to perform tasks previously undertaken by people. The potential benefits are enormous. Separately, some organisations deploy personnel security measures to mitigate the security risks arising from trusted human insiders. Unfortunately, there is no meaningful interplay between the rapidly evolving domain of AI and the traditional world of personnel security. This is a problem. The complex risks from human insiders are hard enough to understand and manage, despite many decades of effort. The emerging security risks from AI insiders are even more opaque. Both sides need all the help they can get. Some of the concepts and approaches that have proved useful in dealing with human insiders are also applicable to the emerging risks from AI insiders.
• Abstract（参考訳）: 組織は、以前人々が行っていたタスクを実行するために、人工知能(AI)ツールを急速に採用している。 潜在的な利益は巨大である。 同時に、信頼された人間内部から生じるセキュリティリスクを軽減するために、人事安全対策を展開している組織もある。 残念ながら、急速に進化するAIの領域と、従来の人事セキュリティの世界との間には意味のある相互作用はない。 これは問題です。 人間のインサイダーによる複雑なリスクは、何十年もの努力にもかかわらず、理解と管理が難しい。 AIインサイダーによるセキュリティリスクの増大は、さらに不透明だ。 双方とも、あらゆる助けを必要としている。 人間のインサイダーを扱う上で有用であることが証明された概念やアプローチは、AIインサイダーの出現するリスクにも適用できる。

関連論文リスト

• Fully Autonomous AI Agents Should Not be Developed [58.88624302082713]
  本稿では,完全自律型AIエージェントを開発すべきではないと主張している。 この立場を支持するために、我々は、従来の科学文献と現在の製品マーケティングから、異なるAIエージェントレベルを規定するために構築する。 分析の結果,システムの自律性によって人へのリスクが増大することが明らかとなった。
  論文  参考訳（メタデータ） (2025-02-04T19:00:06Z)
• Imagining and building wise machines: The centrality of AI metacognition [78.76893632793497]
  AIシステムは知恵を欠いている。 AI研究はタスクレベルの戦略に焦点を当てているが、メタ認知はAIシステムでは未発達である。 メタ認知機能をAIシステムに統合することは、その堅牢性、説明可能性、協力性、安全性を高めるために不可欠である。
  論文  参考訳（メタデータ） (2024-11-04T18:10:10Z)
• AI Safety: Necessary, but insufficient and possibly problematic [1.6797508081737678]
  この記事では、AI安全性に関する最近の誇大広告について批判的に考察する。 AIの安全性」とは実際に何を意味するのかを考察し、AIの安全性のデジタルフットプリントが持つ支配的な概念を概説する。 私たちは、AIの安全性が、悪用され有害なAIに安全を害することで、構造的危害を助長するAIを正規化する方法に関する懸念を共有します。
  論文  参考訳（メタデータ） (2024-03-26T06:18:42Z)
• Keep the Future Human: Why and How We Should Close the Gates to AGI and Superintelligence, and What We Should Build Instead [0.20919309330073077]
  AIの進歩は、AIをニッチな学術分野から、世界最大の企業の中核的なビジネス戦略へと変えた。 このエッセイでは、人間よりも賢く自律的で汎用的なAIに「ゲート」を閉じることで、未来の人間を維持するべきだと論じています。 代わりに私たちは、個人を力づけ、最善を尽くすための人間の社会の能力を変革的に改善できる、強力で信頼できるAIツールに焦点を当てるべきです。
  論文  参考訳（メタデータ） (2023-11-15T23:41:12Z)
• Managing extreme AI risks amid rapid progress [171.05448842016125]
  我々は、大規模社会被害、悪意のある使用、自律型AIシステムに対する人間の制御の不可逆的な喪失を含むリスクについて説明する。 このようなリスクがどのように発生し、どのように管理するかについては、合意の欠如があります。 現在のガバナンスイニシアチブには、誤用や無謀を防ぎ、自律システムにほとんど対処するメカニズムや制度が欠けている。
  論文  参考訳（メタデータ） (2023-10-26T17:59:06Z)
• AI Potentiality and Awareness: A Position Paper from the Perspective of Human-AI Teaming in Cybersecurity [18.324118502535775]
  我々は、人間とAIのコラボレーションはサイバーセキュリティに価値があると論じている。 私たちは、AIの計算能力と人間の専門知識を取り入れたバランスのとれたアプローチの重要性を強調します。
  論文  参考訳（メタデータ） (2023-09-28T01:20:44Z)
• An Overview of Catastrophic AI Risks [38.84933208563934]
  本稿では,破滅的なAIリスクの主な要因について概説し,その要因を4つのカテゴリに分類する。 個人やグループが意図的にAIを使用して危害を及ぼす悪用; 競争環境がアクターに安全でないAIを配置させたり、AIに制御を強制するAIレース。 組織的リスクは 人的要因と複雑なシステムが 破滅的な事故の 可能性を高めることを示しています 不正なAIは、人間よりもはるかにインテリジェントなエージェントを制御することの難しさを説明する。
  論文  参考訳（メタデータ） (2023-06-21T03:35:06Z)
• Proceedings of the Artificial Intelligence for Cyber Security (AICS) Workshop at AAAI 2022 [55.573187938617636]
  ワークショップは、サイバーセキュリティの問題へのAIの適用に焦点を当てる。 サイバーシステムは大量のデータを生成し、これを効果的に活用することは人間の能力を超えます。
  論文  参考訳（メタデータ） (2022-02-28T18:27:41Z)
• Cybertrust: From Explainable to Actionable and Interpretable AI (AI2) [58.981120701284816]
  Actionable and Interpretable AI (AI2)は、AIレコメンデーションにユーザの信頼度を明確に定量化し視覚化する。 これにより、AIシステムの予測を調べてテストすることで、システムの意思決定に対する信頼の基盤を確立することができる。
  論文  参考訳（メタデータ） (2022-01-26T18:53:09Z)
• Trustworthy AI: A Computational Perspective [54.80482955088197]
  我々は,信頼に値するAIを実現する上で最も重要な6つの要素,(i)安全とロバスト性,(ii)非差別と公正,(iii)説明可能性,(iv)プライバシー,(v)説明可能性と監査性,(vi)環境ウェルビーイングに焦点をあてる。 各次元について、分類学に基づく最近の関連技術について概観し、実世界のシステムにおけるそれらの応用を概説する。
  論文  参考訳（メタデータ） (2021-07-12T14:21:46Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。