論文の概要: AI Safety: Not Optional, Not Later

• arxiv url: http://arxiv.org/abs/2609.10630v1
• Date: Wed, 09 Sep 2026 06:36:05 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-11 23:53:35.079634
• Title: AI Safety: Not Optional, Not Later
• Title（参考訳）: AIの安全性:オプションではなく、後で
• Abstract要約: 我々は,Scientist AIのようなモデルレベルの監視と,足場やハーネスに対するシステムレベルの制御を組み合わせた安全設計保証アーキテクチャを提案する。
• 参考スコア（独自算出の注目度）: 55.71477360134284
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Incidents show that AI safety failures often arise across multiple layers. We present a safety-by-design assurance architecture combining model-level supervision, such as Scientist AI, with system-level controls over scaffolds and harnesses, independent verification, monitoring, and evidence infrastructure, supported by governance for accountability and evidence interoperability.
• Abstract（参考訳）: インシデントは、AIの安全性の障害が複数の層にまたがって発生することを示している。 我々は,Scientist AIのようなモデルレベルの監視と,足場やハーネスに対するシステムレベルの制御,独立した検証,監視,エビデンスインフラストラクチャを組み合わせた安全設計保証アーキテクチャを提案する。

関連論文リスト

• Toward Secure AI-Powered Penetration Testing Agents: Security Threats, Guardrails, and Architectural Perspectives [0.0]
  LLMを動力とする自律エージェントは、動的で多段階の攻撃的セキュリティで浸透試験空間を変革している。 しかし、永続的なメモリを持ち、現実世界で行動し、長期にわたる推論を行う能力は、質的に異なるセキュリティ上の懸念を引き起こす。 既存の会話型AIのガードレール機構は、それに応じて自律型AIペンテスティングエージェントを確保するのに十分ではないかもしれない。
  論文  参考訳（メタデータ） (2026-09-15T06:19:50Z)
• Trustworthy Agentic AI: A Comprehensive Cybersecurity and Systems Survey on Threat Landscapes, Defense Architectures, and Open Challenges [0.0]
  この調査は、信頼できるエージェントAIのための総合的なシステムセキュリティリファレンスフレームワークを提供する。 汎用エージェントアーキテクチャをステートフルな5タプルとして形式化し,セキュリティ,安全性,プライバシ,説明可能性,公正性,説明責任を網羅した6次元信頼性分類を確立した。
  論文  参考訳（メタデータ） (2026-09-12T05:51:27Z)
• Towards Trustworthy Embodied Intelligence: A Systems Framework and Graded Trustworthiness Levels [53.63220028820581]
  身体的知性は、学習した知覚と意思決定をリアルタイムの計算、制御、物理的相互作用と統合する。 我々は,信頼に値するインテリジェンスを,特定のタスクを確実に実行するための持続能力として定義する。
  論文  参考訳（メタデータ） (2026-07-28T17:50:44Z)
• Towards trustworthy agentic AI: a comprehensive survey of safety, robustness, privacy, and system security [57.35851886874902]
  エージェントAIシステムは、複雑なタスクを自律的に実行するが、その多段階の軌道には、信頼性に挑戦する新たな障害モードが導入されている。 この調査では、リスクの高いデプロイメントに不可欠な2つのコアディメンションを通じて、信頼できるエージェントAIを精査する。 各次元について、重要な概念を明確にし、エージェントワークフローに沿ってリスクが発生する場所を特定し、ステージ目標の緩和戦略を要約する。
  論文  参考訳（メタデータ） (2026-05-17T10:26:37Z)
• Connected Dependability Cage: Run-Time Function and Anomaly Monitoring for the Development and Operation of Safe Automated Vehicles [4.255452662944005]
  Connected Dependability Cageは、AI対応の知覚システムにおける階層的なフェールオペレーショナル動作を可能にする。 システムは優雅な劣化をサポートし、究極的には最小リスクの操作戦略への移行を可能にする。
  論文  参考訳（メタデータ） (2026-04-30T11:20:39Z)
• Safety in Embodied AI: A Survey of Risks, Attacks, and Defenses [168.50301366360344]
  Embodied AI (Embodied AI) は、知覚、認知、計画、相互作用を、安全クリティカルな環境で機能するエージェントに統合する。 デジタルAIシステムとは異なり、エンボディエージェントは不確実な検知、不完全な知識、動的な人間とロボットの相互作用の下で行動しなければならない。 この調査は、エンボディされたAIにおける安全性研究の包括的なレビューを提供し、完全なエンボディされたパイプラインにわたる攻撃と防御を調査している。
  論文  参考訳（メタデータ） (2026-03-28T13:21:44Z)
• Trust as Monitoring: Evolutionary Dynamics of User Trust and AI Developer Behaviour [59.27481013639016]
  我々は、安全と安全でないAIのユーザー信頼戦略と開発者選択が、異なるレベルの監視コストと制度体制の下でどのように共存するかを研究する。 安全でない開発への採用、安全でないが広く採用されているシステム、そして広く採用されている安全なシステムです。
  論文  参考訳（メタデータ） (2026-03-25T19:04:23Z)
• Constructing Safety Cases for AI Systems: A Reusable Template Framework [10.44708664414503]
  安全ケース、つまりシステムが確実に安全であるという構造化された議論は、AIシステムのガバナンスの中心になりつつある。 航空や原子力工学の伝統的な安全ケースのプラクティスは、明確に定義されたシステムの境界、安定したアーキテクチャ、既知の障害モードに依存している。 本研究では、AIシステムにおける安全ケースの構築方法と、古典的アプローチがこれらのダイナミクスを捉えることができない理由について検討する。
  論文  参考訳（メタデータ） (2026-01-30T09:53:22Z)
• BlueGlass: A Framework for Composite AI Safety [0.2999888908665658]
  本稿では,統合されたインフラストラクチャを提供することで,AIの安全性を促進するためのフレームワークであるBlueGlassを紹介する。 本フレームワークの有用性を実証するために,視覚言語評価における安全性指向の3つの分析法を提案する。 より広い範囲で、この研究は、より堅牢で信頼性の高いAIシステムを構築するためのインフラストラクチャと発見に貢献している。
  論文  参考訳（メタデータ） (2025-07-14T09:45:34Z)
• Engineering Risk-Aware, Security-by-Design Frameworks for Assurance of Large-Scale Autonomous AI Models [0.0]
  本稿では,大規模自律型AIシステムを対象とした企業レベルのリスク認識型セキュリティ・バイ・デザイン手法を提案する。 敵的および運用的ストレス下でのモデル動作の証明可能な保証を提供する統一パイプラインについて詳述する。 国家安全保障、オープンソースモデルガバナンス、産業自動化におけるケーススタディは、脆弱性とコンプライアンスのオーバーヘッドの計測可能な削減を実証している。
  論文  参考訳（メタデータ） (2025-05-09T20:14:53Z)
• AISafetyLab: A Comprehensive Framework for AI Safety Evaluation and Improvement [73.0700818105842]
  我々は、AI安全のための代表的攻撃、防衛、評価方法論を統合する統合されたフレームワークとツールキットであるAISafetyLabを紹介する。 AISafetyLabには直感的なインターフェースがあり、開発者はシームレスにさまざまなテクニックを適用できる。 我々はヴィクナに関する実証的研究を行い、異なる攻撃戦略と防衛戦略を分析し、それらの比較効果に関する貴重な洞察を提供する。
  論文  参考訳（メタデータ） (2025-02-24T02:11:52Z)
• Landscape of AI safety concerns -- A methodology to support safety assurance for AI-based autonomous systems [0.0]
  AIは重要な技術として登場し、さまざまなアプリケーションにまたがる進歩を加速している。 AIコンポーネントを組み込んだシステムの安全性を確保するという課題は、極めて重要である。 本稿では,AIシステムにおける安全保証事例作成を支援する新しい手法を提案する。
  論文  参考訳（メタデータ） (2024-12-18T16:38:16Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。