論文の概要: Misaligned AI as a New Insider Risk

• arxiv url: http://arxiv.org/abs/2606.06028v1
• Date: Thu, 04 Jun 2026 11:21:16 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-05 22:39:44.748602
• Title: Misaligned AI as a New Insider Risk
• Title（参考訳）: 新たなインサイダーリスクとしてのAIのミスアライメント
• Authors: Matteo Pistillo, Charlotte Stix, Cameron Mohwinkle, Mark Beall,
• Abstract要約: ハイテイクな状況におけるAIモデルは、国家安全保障を損なう可能性のある、誤った対応を実行することができる。 既存のインサイダーのリスクポリシーと緩和はまだAIインサイダーのリスクに対応していない。 我々は,米国政府が高度に評価された状況に展開されたAIモデルに対して,継続的な評価や監視などの確立した措置を適用することを推奨する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: In this policy memorandum, we explain why deployers of AI models in high-stakes contexts should treat those AI models as insider risk vectors. High-stakes contexts include AI model deployment within government agencies and contractors, where AI models are privileged with access to, among others, classified and sensitive unclassified information, IL6 and IL7 network environments, cleared personnel, and other critical resources. AI models are increasingly embedded in high-stakes contexts and capable of leveraging their authorized access and permissions to execute misaligned actions that could damage national security, such as whistleblowing, sabotaging, or blackmailing. This combination of (1) privileged access to critical resources and (2) an increased ability to act autonomously and against the desire of their organization makes the potential insider risk posed by AI models functionally indistinguishable from that posed by their human counterparts. As a consequence, AI models deployed in high-stakes contexts could lead to intentional or unintentional loss or degradation of government or contractor information, resources, or capabilities via the unauthorized disclosure of information (leaks and spills), as well as sabotage, and theft, just like human insiders can. Despite this pressing concern, existing insider risk policies and mitigations have yet to adapt to AI insider risk. In order to safeguard national security while increasingly capable frontier AI models are leveraged for critical tasks and operations, we recommend that the U.S. Government adapts well-established measures, such as continuous evaluation and monitoring, to AI models deployed in high-stakes contexts.
• Abstract（参考訳）: このポリシー覚書では、ハイテイクコンテキストにおけるAIモデルのデプロイが、AIモデルをインサイダーリスクベクターとして扱うべき理由を説明します。 機密で機密性の高い機密情報、IL6およびIL7ネットワーク環境、クリアされた人員、その他の重要なリソースへのアクセスをAIモデルが特権化している。 AIモデルは、ハイテイクな状況にますます組み込まれており、その認証されたアクセスと許可を利用して、内部告発、妨害、脅迫などの国家安全保障を損なう可能性のある、誤った対応を実行することができる。 1) 重要な資源への特権的アクセスと(2) 自律的かつ組織の欲求に反して行動する能力の増大の組み合わせは、AIモデルによって引き起こされるインサイダーリスクを、人間によって引き起こされるものと機能的に区別できないものにする。 その結果、ハイテイクな状況にデプロイされたAIモデルは、人間のインサイダーと同じように、不正な情報(リークや流出)の開示や、サボタージュや盗難を通じて、政府や契約者情報、リソース、能力の意図的または意図しない損失または劣化につながる可能性がある。 こうした懸念にもかかわらず、既存のインサイダーのリスクポリシーと緩和は、まだAIインサイダーのリスクに適応していない。 ますます有能なフロンティアAIモデルが重要なタスクや運用に活用される一方で、国家の安全を守るために、米国政府は、高い状況に配備されたAIモデルに対して、継続的な評価や監視などの確立した措置を適応することを推奨する。

関連論文リスト

• Frontier AI Risk Management Framework in Practice: A Risk Analysis Technical Report v1.5 [61.787178868669265]
  この技術レポートは、サイバー犯罪、説得と操作、戦略上の詐欺、制御されていないAIR&D、自己複製の5つの重要な側面について、更新されきめ細かな評価を提示する。 この作業は、現在のAIフロンティアのリスクに対する理解を反映し、これらの課題を軽減するための集団行動を促します。
  論文  参考訳（メタデータ） (2026-02-16T04:30:06Z)
• International AI Safety Report 2025: Second Key Update: Technical Safeguards and Risk Management [115.92752850425272]
  2025年の国際AI安全レポートの第2の更新は、この1年で汎用AIリスク管理の新しい展開を評価している。 研究者、公共機関、AI開発者が汎用AIのリスク管理にどのようにアプローチしているかを調べる。
  論文  参考訳（メタデータ） (2025-11-25T03:12:56Z)
• "We are not Future-ready": Understanding AI Privacy Risks and Existing Mitigation Strategies from the Perspective of AI Developers in Europe [56.1653658714305]
  ヨーロッパを拠点とする25人のAI開発者を対象にインタビューを行い、ユーザ、開発者、ビジネスに最もリスクをもたらすと彼らが信じているプライバシの脅威を理解しました。 プライバシリスクの相対的なランク付けに関して、AI開発者の間ではほとんど合意が得られていないことが分かっています。 AI開発者はこれらのリスクに対処するために提案された緩和戦略を認識しているが、彼らは最小限の現実的採用を報告した。
  論文  参考訳（メタデータ） (2025-10-01T13:51:33Z)
• The 2025 OpenAI Preparedness Framework does not guarantee any AI risk mitigation practices: a proof-of-concept for affordance analyses of AI safety policies [35.43144920451646]
  OpenAI 'Preparedness Framework Version 2' (2025年4月) は、余裕のメカニズムと条件モデルとMIT AI Risk Repositoryを用いて分析する。 この安全ポリシーは、少数のAIリスクの評価を要求し、意図せずに「致命的な危害」を可能にする'Medium'機能を備えたシステムのデプロイを奨励する。 これらの結果は、AIリスクの効果的な緩和には、現在の業界自己規制を超えて、より堅牢なガバナンス介入が必要であることを示唆している。
  論文  参考訳（メタデータ） (2025-09-29T07:42:10Z)
• AI threats to national security can be countered through an incident regime [55.2480439325792]
  我々は、AIシステムからの潜在的な国家安全保障脅威に対抗することを目的とした、法的に義務付けられたポストデプロイAIインシデントシステムを提案する。 提案したAIインシデント体制は,3段階に分けられる。第1フェーズは,‘AIインシデント’とみなすような,新たな運用方法を中心に展開される。 第2フェーズと第3フェーズでは、AIプロバイダが政府機関にインシデントを通知し、政府機関がAIプロバイダのセキュリティおよび安全手順の修正に関与するべきだ、と説明されている。
  論文  参考訳（メタデータ） (2025-03-25T17:51:50Z)
• Graph of Effort: Quantifying Risk of AI Usage for Vulnerability Assessment [0.0]
  非AI資産を攻撃するために使用されるAIは、攻撃的AIと呼ばれる。 高度な自動化や複雑なパターン認識など、その能力を利用するリスクは大幅に増大する可能性がある。 本稿では,攻撃的AIを敵による脆弱性攻撃に使用するために必要な労力を分析するための,直感的でフレキシブルで効果的な脅威モデリング手法であるGraph of Effortを紹介する。
  論文  参考訳（メタデータ） (2025-03-20T17:52:42Z)
• Position: Mind the Gap-the Growing Disconnect Between Established Vulnerability Disclosure and AI Security [56.219994752894294]
  我々は、AIセキュリティレポートに既存のプロセスを適用することは、AIシステムの特徴的な特徴に対する根本的な欠点のために失敗する運命にあると主張している。 これらの欠点に対処する私たちの提案に基づき、AIセキュリティレポートへのアプローチと、新たなAIパラダイムであるAIエージェントが、AIセキュリティインシデント報告の進展をさらに強化する方法について論じる。
  論文  参考訳（メタデータ） (2024-12-19T13:50:26Z)
• Taking control: Policies to address extinction risks from advanced AI [0.0]
  AI企業からの自発的なコミットメントは不適切で不十分な反応である、と私たちは主張する。 先進的なAIの脅威に有意義に対処する3つの政策提案について述べる。
  論文  参考訳（メタデータ） (2023-10-31T15:53:14Z)
• Managing extreme AI risks amid rapid progress [171.05448842016125]
  我々は、大規模社会被害、悪意のある使用、自律型AIシステムに対する人間の制御の不可逆的な喪失を含むリスクについて説明する。 このようなリスクがどのように発生し、どのように管理するかについては、合意の欠如があります。 現在のガバナンスイニシアチブには、誤用や無謀を防ぎ、自律システムにほとんど対処するメカニズムや制度が欠けている。
  論文  参考訳（メタデータ） (2023-10-26T17:59:06Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。