論文の概要: The Watchtower Imperative: Lifespan-Calibrated Evaluation for Frontier AI

• arxiv url: http://arxiv.org/abs/2610.35725v1
• Date: Mon, 26 Oct 2026 16:44:50 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-27 22:27:14.114789
• Title: The Watchtower Imperative: Lifespan-Calibrated Evaluation for Frontier AI
• Title（参考訳）: Watchtower Imperative:フロンティアAIのライフスパン校正評価
• Abstract要約: AI能力の展開と安全性の保証のギャップは構造的であり、内部評価だけでは閉じられません。 6つのライフステージにまたがってライフスパンマトリックスを構成する5つの発達モデレーターを導入する。 本稿では、既存の児童保護機器を一般化したライフスパン設計原則と、制度に依存しない3層外部評価フレームワークを提案する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: The gap between AI capability deployment and safety assurance is structural and cannot be closed through internal evaluations alone. Analyzing documented harms (2017-2026) across the human lifespan reveals that disparate incidents --- from voice assistants endangering children to AI companions implicated in adolescent suicide and automated care denials for the elderly --- reflect a single failure: evaluating systems against an implicit adult user model. We introduce five developmental moderators structured into a Lifespan Vulnerability Matrix across six life stages. The matrix reveals a nonmonotonic risk distribution: vulnerability peaks at both ends of the lifespan, governance coverage is asymmetrical, and authority to convert model errors into real-world impact is scrutinized least. We then propose a set of lifespan design principles generalizing existing child-protective instruments, and an institution-agnostic, three-tier external evaluation framework --- comprising automated simulation, expert red teaming, and post-deployment monitoring --- indexed directly to matrix risk cells.
• Abstract（参考訳）: AI能力の展開と安全性の保証のギャップは構造的であり、内部評価だけでは閉じられません。 子どもを危険にさらす音声アシスタントから、青少年の自殺や高齢者の自動介護拒否に関係のあるAI仲間まで、さまざまな事件が、暗黙の成人ユーザーモデルに対するシステム評価の単一障害を反映していることが明らかになった。 ライフスパン脆弱性マトリックスを構成する5つの発達モデレーターを6つのライフステージに導入する。 脆弱性は寿命の両端でピークに達し、ガバナンスのカバレッジは非対称であり、モデルエラーを現実のインパクトに変換する権限は最小限に精査される。 次に, 既存の児童保護機器を一般化したライフスパン設計原則と, 自動シミュレーション, エキスパート・レッド・チーム化, およびポスト・デプロイ監視を含む, 組織に依存しない3段階の外部評価フレームワークを, マトリックス・リスク・セルに直接インデックス化して提案する。

関連論文リスト

• Safety in Self-Evolving LLM Agent Systems: Threats, Amplification, and Case Studies [62.65225104423404]
  自己進化エージェントシステムは、敵の影響力が永久に符号化される、質的に新しい脅威の風景を導入します。 モジュール・ライフサイクル・アタック・サーフェス・マトリックスを中心に組織化されたセキュリティとプライバシの分析を行った。 その結果, 自己進化は, 既知のすべての攻撃カテゴリをセッションバウンドからラインパーシスタントに変換することがわかった。
  論文  参考訳（メタデータ） (2026-06-22T09:23:50Z)
• Safety, Security, and Cognitive Risks in World Models [0.0]
  世界モデルは環境力学の内部シミュレーターを学習する。 世界モデルは、ロボット工学、自動運転車、エージェントAIにおいて、自律的な意思決定の基礎となってきています。 本稿では,世界モデル景観を調査し,軌跡の持続性と表現的リスクの形式的定義を紹介する。 本稿では,GRUベースのRSSMに対するトラジェクティブ・パーシスタント・アタックを実証する実証的概念証明を提案する。
  論文  参考訳（メタデータ） (2026-04-01T19:57:33Z)
• Safety in Embodied AI: A Survey of Risks, Attacks, and Defenses [168.50301366360344]
  Embodied AI (Embodied AI) は、知覚、認知、計画、相互作用を、安全クリティカルな環境で機能するエージェントに統合する。 デジタルAIシステムとは異なり、エンボディエージェントは不確実な検知、不完全な知識、動的な人間とロボットの相互作用の下で行動しなければならない。 この調査は、エンボディされたAIにおける安全性研究の包括的なレビューを提供し、完全なエンボディされたパイプラインにわたる攻撃と防御を調査している。
  論文  参考訳（メタデータ） (2026-03-28T13:21:44Z)
• NuHF Claw: A Risk Constrained Cognitive Agent Framework for Human Centered Procedure Support in Digital Nuclear Control Rooms [5.422759428026345]
  本研究は,デジタル原子力事業におけるリスク管理型人間中心自律性を実現する,持続的認知リスクエージェントフレームワークであるNuHF Clawを提案する。 その中核となる方法論的革新は、リスク制約されたエージェントランタイムの導入であり、これは認知状態の推測と確率論的安全性の評価とを密に結合している。 結果は、自動化駆動運転から認知認識自律への根本的なシフトを強調し、次世代の核制御環境へのインテリジェントエージェントの安全な統合のための原則化された経路を提供する。
  論文  参考訳（メタデータ） (2026-03-23T07:47:42Z)
• Automated Self-Testing as a Quality Gate: Evidence-Driven Release Management for LLM Applications [51.56484100374058]
  我々は,エビデンスに基づくリリース決定を伴う品質ゲートを導入する自動自己テストフレームワークを提案する。 内部展開型多エージェント対話型AIシステムの縦型ケーススタディにより,本フレームワークの評価を行った。
  論文  参考訳（メタデータ） (2026-03-13T20:44:15Z)
• Cybersecurity AI: Humanoid Robots as Attack Vectors [0.448741371377488]
  本報告では,Unitree G1ヒューマノイドのセキュリティ評価について述べる。 同時に秘密監視ノードとして機能し、アクティブなサイバー運用プラットフォームとして利用することができる。
  論文  参考訳（メタデータ） (2025-09-17T16:18:53Z)
• ANNIE: Be Careful of Your Robots [48.89876809734855]
  エンボディドAIシステムに対する敵の安全攻撃に関する最初の体系的研究について述べる。 すべての安全カテゴリーで攻撃の成功率は50%を超えている。 結果は、実証済みのAIシステムにおいて、これまで未調査だったが、非常に連続的な攻撃面を露呈する。
  論文  参考訳（メタデータ） (2025-09-03T15:00:28Z)
• AILuminate: Introducing v1.0 of the AI Risk and Reliability Benchmark from MLCommons [62.374792825813394]
  本稿ではAI製品リスクと信頼性を評価するための業界標準ベンチマークとして,AIluminate v1.0を紹介する。 このベンチマークは、危険、違法、または望ましくない行動を12の危険カテゴリーで引き起こすように設計されたプロンプトに対するAIシステムの抵抗を評価する。
  論文  参考訳（メタデータ） (2025-02-19T05:58:52Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。