論文の概要: AI Safety is Stuck in Technical Terms -- A System Safety Response to the International AI Safety Report

• arxiv url: http://arxiv.org/abs/2503.04743v1
• Date: Wed, 05 Feb 2025 22:37:53 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-03-16 11:16:17.041020
• Title: AI Safety is Stuck in Technical Terms -- A System Safety Response to the International AI Safety Report
• Title（参考訳）: AIの安全性 - 国際AI安全レポートに対するシステム安全対応
• Authors: Roel Dobbe,
• Abstract要約: 安全は、支配的なAIガバナンスの取り組みが形成される中心的な価値となっている。 このレポートは、汎用AIと利用可能な技術的緩和アプローチの安全性リスクに焦点を当てている。 システム安全性の規律は、何十年もの間、ソフトウェアベースのシステムの安全性リスクに対処してきた。
• 参考スコア（独自算出の注目度）: 0.0
• License:
• Abstract: Safety has become the central value around which dominant AI governance efforts are being shaped. Recently, this culminated in the publication of the International AI Safety Report, written by 96 experts of which 30 nominated by the Organisation for Economic Co-operation and Development (OECD), the European Union (EU), and the United Nations (UN). The report focuses on the safety risks of general-purpose AI and available technical mitigation approaches. In this response, informed by a system safety perspective, I refl ect on the key conclusions of the report, identifying fundamental issues in the currently dominant technical framing of AI safety and how this frustrates meaningful discourse and policy efforts to address safety comprehensively. The system safety discipline has dealt with the safety risks of software-based systems for many decades, and understands safety risks in AI systems as sociotechnical and requiring consideration of technical and non-technical factors and their interactions. The International AI Safety report does identify the need for system safety approaches. Lessons, concepts and methods from system safety indeed provide an important blueprint for overcoming current shortcomings in technical approaches by integrating rather than adding on non-technical factors and interventions. I conclude with why building a system safety discipline can help us overcome limitations in the European AI Act, as well as how the discipline can help shape sustainable investments into Public Interest AI.
• Abstract（参考訳）: 安全は、支配的なAIガバナンスの取り組みが形成される中心的な価値となっている。 近年、国際AI安全レポート(International AI Safety Report)が96名の専門家によって作成され、その内30名はOECD(Organisation for Economic Co-operation and Development)、EU(EU)、国連(UN)によってノミネートされた。 このレポートは、汎用AIと利用可能な技術的緩和アプローチの安全性リスクに焦点を当てている。 この回答では、システムの安全性の観点から、私はこのレポートの重要な結論を熟考し、現在支配的なAI安全性の技術的フレーミングにおける根本的な問題を特定し、それが安全に包括的に対処する意味のある言論と政策の取り組みをいかにフラストレーションさせるかを確認します。 システム安全の規律は、何十年にもわたってソフトウェアベースのシステムの安全性リスクに対処し、AIシステムの安全性リスクを社会技術として理解し、技術的および非技術的要因とその相互作用を考慮しなければならない。 国際AI安全レポートは、システム安全アプローチの必要性を特定している。 システム安全性からの教訓、概念、手法は、非技術的要因や介入を追加するのではなく、統合することで、技術的アプローチの現在の欠点を克服するための重要な青写真を提供する。 システム安全性の規律を構築することが、欧州AI法における制限を克服するのに役立つ理由と、この規律がPublic Interest AIへの持続可能な投資を形成するのにどのように役立つのかを結論付けています。

関連論文リスト

• AI Safety for Everyone [3.440579243843689]
  AIの安全性に関する最近の議論と研究は、AIの安全性と高度なAIシステムからの現実的リスクとの深いつながりを強調している。 このフレーミングは、AIの安全性にコミットしているが、異なる角度から分野にアプローチする研究者や実践者を排除する可能性がある。 私たちは、現在のAIシステムに対する即時的で実践的な懸念に対処する、数多くの具体的な安全作業を見つけました。
  論文  参考訳（メタデータ） (2025-02-13T13:04:59Z)
• Open Problems in Machine Unlearning for AI Safety [61.43515658834902]
  特定の種類の知識を選択的に忘れたり、抑圧したりするマシンアンラーニングは、プライバシとデータ削除タスクの約束を示している。 本稿では,アンラーニングがAI安全性の包括的ソリューションとして機能することを防止するための重要な制約を特定する。
  論文  参考訳（メタデータ） (2025-01-09T03:59:10Z)
• Landscape of AI safety concerns -- A methodology to support safety assurance for AI-based autonomous systems [0.0]
  AIは重要な技術として登場し、さまざまなアプリケーションにまたがる進歩を加速している。 AIコンポーネントを組み込んだシステムの安全性を確保するという課題は、極めて重要である。 本稿では,AIシステムにおける安全保証事例作成を支援する新しい手法を提案する。
  論文  参考訳（メタデータ） (2024-12-18T16:38:16Z)
• Trustworthy, Responsible, and Safe AI: A Comprehensive Architectural Framework for AI Safety with Challenges and Mitigations [15.946242944119385]
  AI安全性は、AIシステムの安全な採用とデプロイにおいて重要な領域である。 私たちの目標は、AI安全研究の進歩を促進し、究極的には、デジタルトランスフォーメーションに対する人々の信頼を高めることです。
  論文  参考訳（メタデータ） (2024-08-23T09:33:48Z)
• Safetywashing: Do AI Safety Benchmarks Actually Measure Safety Progress? [59.96471873997733]
  我々は、より有意義な安全指標を開発するための実証的な基盤を提案し、機械学習研究の文脈でAIの安全性を定義する。 我々は、AI安全研究のためのより厳格なフレームワークを提供し、安全性評価の科学を前進させ、測定可能な進歩への道筋を明らかにすることを目指している。
  論文  参考訳（メタデータ） (2024-07-31T17:59:24Z)
• AI Risk Management Should Incorporate Both Safety and Security [185.68738503122114]
  AIリスクマネジメントの利害関係者は、安全とセキュリティの間のニュアンス、シナジー、相互作用を意識すべきである、と私たちは主張する。 我々は、AIの安全性とAIのセキュリティの違いと相互作用を明らかにするために、統一された参照フレームワークを導入する。
  論文  参考訳（メタデータ） (2024-05-29T21:00:47Z)
• Towards Guaranteed Safe AI: A Framework for Ensuring Robust and Reliable AI Systems [88.80306881112313]
  我々は、AI安全性に対する一連のアプローチを紹介し、定義する。 これらのアプローチの中核的な特徴は、高保証の定量的安全性保証を備えたAIシステムを作ることである。 これら3つのコアコンポーネントをそれぞれ作成するためのアプローチを概説し、主な技術的課題を説明し、それらに対する潜在的なソリューションをいくつか提案します。
  論文  参考訳（メタデータ） (2024-05-10T17:38:32Z)
• Managing extreme AI risks amid rapid progress [171.05448842016125]
  我々は、大規模社会被害、悪意のある使用、自律型AIシステムに対する人間の制御の不可逆的な喪失を含むリスクについて説明する。 このようなリスクがどのように発生し、どのように管理するかについては、合意の欠如があります。 現在のガバナンスイニシアチブには、誤用や無謀を防ぎ、自律システムにほとんど対処するメカニズムや制度が欠けている。
  論文  参考訳（メタデータ） (2023-10-26T17:59:06Z)
• Leveraging Traceability to Integrate Safety Analysis Artifacts into the Software Development Process [51.42800587382228]
  安全保証ケース(SAC)は、システムの進化中に維持することが困難である。 本稿では,ソフトウェアトレーサビリティを活用して,関連するシステムアーチファクトを安全解析モデルに接続する手法を提案する。 安全ステークホルダーがシステム変更が安全性に与える影響を分析するのに役立つように、システム変更の合理性を設計する。
  論文  参考訳（メタデータ） (2023-07-14T16:03:27Z)
• System Safety and Artificial Intelligence [0.0]
  社会的領域にまたがるAIの新たな応用には、新たなハザードが伴う。 システム安全の分野は、安全クリティカルシステムにおける事故や危害に対処してきた。 この章はシステムの安全性の先駆者であるナンシー・リーブソンに敬意を表しています。
  論文  参考訳（メタデータ） (2022-02-18T16:37:54Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。