論文の概要: Robust AI Security and Alignment: A Sisyphean Endeavor?

• arxiv url: http://arxiv.org/abs/2512.10100v1
• Date: Wed, 10 Dec 2025 21:44:10 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-12-12 16:15:42.07423
• Title: Robust AI Security and Alignment: A Sisyphean Endeavor?
• Title（参考訳）: ロバストなAIセキュリティとアライメント:シシフィアの努力?
• Authors: Apostol Vassilev,
• Abstract要約: この原稿は、Gdelの不完全性定理をAIに拡張することにより、AIセキュリティとアライメントの堅牢性に関する情報理論上の制限を確立する。 これらの制限を認識し、それらがもたらす課題に備えることが、AIテクノロジの採用に責任を負う上で極めて重要である。
• 参考スコア（独自算出の注目度）: 0.03691941137525625
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: This manuscript establishes information-theoretic limitations for robustness of AI security and alignment by extending Gödel's incompleteness theorem to AI. Knowing these limitations and preparing for the challenges they bring is critically important for the responsible adoption of the AI technology. Practical approaches to dealing with these challenges are provided as well. Broader implications for cognitive reasoning limitations of AI systems are also proven.
• Abstract（参考訳）: この写本は、ゲーデルの不完全性定理をAIに拡張することにより、AIセキュリティとアライメントの堅牢性に関する情報理論上の制限を確立する。 これらの制限を認識し、それらがもたらす課題に備えることが、AIテクノロジの採用に責任を負う上で極めて重要である。 これらの課題に対処するための実践的なアプローチも提供されます。 AIシステムの認知的推論の限界に対するより広い意味も証明されている。

関連論文リスト

• Responsible Development of Offensive AI [0.0]
  本研究は、リスクに対する社会的利益のバランスをとるための優先順位を確立することを目的とする。 この研究で評価された攻撃的AIの2つの形態は、Capture-The-Flag問題を解決する脆弱性検出エージェントとAIを利用したマルウェアである。
  論文  参考訳（メタデータ） (2025-04-03T15:37:38Z)
• Position: Mind the Gap-the Growing Disconnect Between Established Vulnerability Disclosure and AI Security [56.219994752894294]
  我々は、AIセキュリティレポートに既存のプロセスを適用することは、AIシステムの特徴的な特徴に対する根本的な欠点のために失敗する運命にあると主張している。 これらの欠点に対処する私たちの提案に基づき、AIセキュリティレポートへのアプローチと、新たなAIパラダイムであるAIエージェントが、AIセキュリティインシデント報告の進展をさらに強化する方法について論じる。
  論文  参考訳（メタデータ） (2024-12-19T13:50:26Z)
• Towards Guaranteed Safe AI: A Framework for Ensuring Robust and Reliable AI Systems [88.80306881112313]
  我々は、AI安全性に対する一連のアプローチを紹介し、定義する。 これらのアプローチの中核的な特徴は、高保証の定量的安全性保証を備えたAIシステムを作ることである。 これら3つのコアコンポーネントをそれぞれ作成するためのアプローチを概説し、主な技術的課題を説明し、それらに対する潜在的なソリューションをいくつか提案します。
  論文  参考訳（メタデータ） (2024-05-10T17:38:32Z)
• Explainable AI for Safe and Trustworthy Autonomous Driving: A Systematic Review [12.38351931894004]
  本稿では,安全かつ信頼性の高い自動運転のための説明可能な手法に関する,最初の体系的な文献レビューを紹介する。 我々は、ADにおける安全で信頼性の高いAIに対するXAIの5つの重要な貢献を特定し、それらは解釈可能な設計、解釈可能な代理モデル、解釈可能なモニタリング、補助的な説明、解釈可能な検証である。 我々は、これらのコントリビューションを統合するためにSafeXと呼ばれるモジュラーフレームワークを提案し、同時にAIモデルの安全性を確保しながら、ユーザへの説明提供を可能にした。
  論文  参考訳（メタデータ） (2024-02-08T09:08:44Z)
• Predictable Artificial Intelligence [77.1127726638209]
  本稿では予測可能なAIのアイデアと課題を紹介する。 それは、現在および将来のAIエコシステムの重要な妥当性指標を予測できる方法を探る。 予測可能性を達成することは、AIエコシステムの信頼、責任、コントロール、アライメント、安全性を促進するために不可欠である、と私たちは主張する。
  論文  参考訳（メタデータ） (2023-10-09T21:36:21Z)
• Beyond XAI:Obstacles Towards Responsible AI [0.0]
  説明可能性の方法とその評価戦略は、現実世界の文脈に多くの制限を与える。 本稿では、これらの制限について検討し、責任あるAIの搭乗者コンテキストにおけるそれらの影響について論じる。
  論文  参考訳（メタデータ） (2023-09-07T11:08:14Z)
• The Role of AI in Drug Discovery: Challenges, Opportunities, and Strategies [97.5153823429076]
  この分野でのAIのメリット、課題、欠点についてレビューする。 データ拡張、説明可能なAIの使用、従来の実験手法とAIの統合についても論じている。
  論文  参考訳（メタデータ） (2022-12-08T23:23:39Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。