論文の概要: The Moral Check: Strategic AI Governance for the Pacing Problem
- arxiv url: http://arxiv.org/abs/2609.22869v1
- Date: Sat, 19 Sep 2026 08:17:56 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-23 18:04:03.91106
- Title: The Moral Check: Strategic AI Governance for the Pacing Problem
- Title（参考訳）: モラルチェック:ペイシング問題に対する戦略的AIガバナンス
- Abstract要約: 戦略は、目的と判断が計算資本に先行しなければならないという規則を定め、運営する。
調整されたペーシングレートは、未確認のスケーリングをチェックし、安全性を保証し、アライメント社会が保証された信頼を与えることができるモデルを構築するために必須である。
私たちは、130の実証的研究を合成したPRISMA 2020レビューと、SAGE-X(Strategic AI Governance Ex-Ante Framework)という2つのコントリビューションを提供します。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Technology cannot steer itself. Strategy provides that steering, establishing the rule that purpose and judgment must precede compute capital. As the frontier artificial intelligence (AI) ecosystem accelerates exponentially, the pacing problem induces severe cognitive tunneling in engineering teams, prioritizing scalar throughput over human judgment. A calibrated pacing rate is imperative to check unchecked scaling, guarantee safety, and build models in whose alignment society can place warranted confidence. Traditional oversight fails through retrospective checklists, a pathology of performative governance exhibiting high procedural maturity but alarming scientific immaturity. We deliver a dual contribution: a PRISMA 2020 review synthesizing 130 empirical studies (MMAT-appraised across 18 benchmarks; total corpus N = 130 empirical studies across 178 reference foundations), and the Strategic AI Governance Ex-Ante Framework (SAGE-X). Our synthesis exposes two systemic vulnerabilities: the Recursive Assurance Paradox (correlated, ungrounded evaluator confidence) and the Durability Deficit (guardrail decay under multi-turn shifts). Grounded in MIT Strategic Computing doctrines, SAGE-X operationalizes Four Strategic Mindset Pillars: (1) Intent over Execution (mitigating velocity myopia); (2) Ruthless Trade-offs (deterministic tripwires eliminating moral hazard); (3) Outcomes over Outputs (auditing empirical hazard endpoints); and (4) Proactive Alignment (synchronizing ex-ante gates with runtime telemetry). Governed by a calculable Moral Check Index (MCI) with an unbypassable tripwire, SAGE-X delivers an operational Enterprise Lifecycle Audit Instrument (the "Moral Check Audit Card") on Stanford WebProtégé, ensuring exponential progress never outpaces deliberative moral judgment, human agency, and societal trust.
- Abstract（参考訳）: 技術自体を操ることはできない。
戦略は、目的と判断が計算資本に先行しなければならないという規則を定め、運営する。
フロンティア人工知能(AI)エコシステムが指数関数的に加速するにつれて、ペーシング問題はエンジニアリングチームにおいて深刻な認知トンネルを誘発し、人間の判断よりもスカラースループットを優先する。
調整されたペーシングレートは、未確認のスケーリングをチェックし、安全性を保証し、アライメント社会が保証された信頼を与えることができるモデルを構築するために必須である。
従来の監視は、手続きの成熟度が高いが、科学的未熟さを警告するパフォーマンスガバナンスの病理である振り返りチェックリストを通じて失敗する。
私たちは2つのコントリビューションを提供している: PRISMA 2020のレビューでは、130の実証的研究(18のベンチマークでMMATを評価)、合計コーパスN = 130の実証研究が178の参照基盤で行われ、ストラテジックAIガバナンスエグゼクティブフレームワーク(SAGE-X)を合成しています。
我々は,再帰的保証パラドックス(相関的,非基底的評価器の信頼性)と耐久性欠陥(マルチターンシフト下でのガードレール崩壊)の2つのシステム的脆弱性を明らかにした。
SAGE-XはMITストラテジック・コンピューティングの教義に基づいて、4つの戦略的マインドセット・ピラーを運用している: 1) 実行時(ベロシティ・ミオピアの軽減)、(2) ルースレストレードオフ(モラルハザードの排除)、(3) アウトプット(経験的ハザードエンドポイントの監査)、(4) アクティブアライメント(実行時テレメトリーによる元アンティーゲートの同期)。
計算不可能なモラルチェック指標(MCI)と通過不能なトリップワイヤにより、SAGE-XはStanford WebProtégéにエンタープライズライフサイクル監査装置("Moral Check Audit Card")を運用し、指数的な進歩を保証することは、熟考的道徳判断、人事、社会的信頼を上回りません。
関連論文リスト
- pAI-Econ-claude: A Gated Human-in-the-Loop Multi-Agent Architecture for AI-Assisted Economic Theory Development [15.442870614597451]
pAI-Econ-claudeは、AI支援経済理論開発のための、有能なマルチエージェントアーキテクチャである。
エージェントは、検査可能な中間レコードの共有ワークスペースを介して調整する。
特殊なゲートは、ターゲットの障害モードを診断し、正当性を証明せずにループバックを推奨する。
論文 参考訳（メタデータ） (2026-07-23T12:40:47Z) - The Cognitive Penalty: Ablating System 1 and System 2 Reasoning in Edge-Native SLMs for Decentralized Consensus [0.0]
本稿では,Qwen-3.5-9B 上で厳密なモデル内アブレーションを実行する 840-inference 実験フレームワーク Sentinel-Bench を紹介する。
システム1は、100%対逆ロバスト性、100%法線の整合性、および状態の整合性を13秒未満で達成した。
システム2の推論は破滅的な不安定を招き、基本的に26.7%の反響非収束(認知的崩壊)率によって引き起こされた。
論文 参考訳（メタデータ） (2026-04-18T08:46:37Z) - Trustworthy AI Posture (TAIP): A Framework for Continuous AI Assurance of Agentic Systems at Horizontal and Vertical scale [1.0896567381206714]
ポイント・イン・タイムの文書ベースの監査では、決定論的でない振る舞いには対応できない。
垂直的には、ガバナンスとコントロールの義務は、フレームワークが運用できるものよりも速く変化します。
リスクベースの規制は、現在進行中のコントロールの妥当性と効果を示す必要がある。
本稿では,信頼度を静的証明書ではなく,連続的に発生する信号として再設定する。
論文 参考訳（メタデータ） (2026-02-15T10:49:47Z) - Incentive-Aware AI Safety via Strategic Resource Allocation: A Stackelberg Security Games Perspective [31.55000083809067]
私たちは、ゲーム理論による抑止がAIを積極的に監視し、リスクを認識し、操作に対して回復力を与える方法を示します。
本稿では,(1)データ/フィードバック中毒に対するトレーニング時間監査,(2)制約されたレビュアーリソースによる事前デプロイ評価,(3)敵環境における堅牢なマルチモデル展開について報告する。
論文 参考訳（メタデータ） (2026-02-06T23:20:26Z) - AI Deception: Risks, Dynamics, and Controls [153.71048309527225]
このプロジェクトは、AI偽装分野の包括的で最新の概要を提供する。
我々は、動物の偽装の研究からシグナル伝達理論に基づく、AI偽装の正式な定義を同定する。
我々は,AI偽装研究の展望を,偽装発生と偽装処理の2つの主要な構成要素からなる偽装サイクルとして整理する。
論文 参考訳（メタデータ） (2025-11-27T16:56:04Z) - Making LLMs Reliable When It Matters Most: A Five-Layer Architecture for High-Stakes Decisions [51.56484100374058]
現在の大規模言語モデル(LLM)は、実行前にアウトプットをチェックできるが、不確実な結果を伴う高い戦略決定には信頼性が低い検証可能な領域で優れている。
このギャップは、人間と人工知能(AI)システムの相互認知バイアスによって引き起こされ、そのセクターにおける評価と投資の持続可能性の保証を脅かす。
本報告では、7つのフロンティアグレードLDMと3つの市場向けベンチャーヴィグネットの時間的圧力下での系統的質的評価から生まれた枠組みについて述べる。
論文 参考訳（メタデータ） (2025-11-10T22:24:21Z) - Never Compromise to Vulnerabilities: A Comprehensive Survey on AI Governance [211.5823259429128]
本研究は,本質的セキュリティ,デリバティブ・セキュリティ,社会倫理の3つの柱を中心に構築された,技術的・社会的次元を統合した包括的枠組みを提案する。
我々は,(1)防衛が進化する脅威に対して失敗する一般化ギャップ,(2)現実世界のリスクを無視する不適切な評価プロトコル,(3)矛盾する監視につながる断片的な規制,の3つの課題を特定する。
私たちのフレームワークは、研究者、エンジニア、政策立案者に対して、堅牢でセキュアなだけでなく、倫理的に整合性があり、公的な信頼に値するAIシステムを開発するための実用的なガイダンスを提供します。
論文 参考訳（メタデータ） (2025-08-12T09:42:56Z) - Bench-2-CoP: Can We Trust Benchmarking for EU AI Compliance? [2.010294990327175]
現在のAI評価プラクティスは、確立されたベンチマークに大きく依存しています。
この研究は、この「ベンチマーク・規制ギャップ」を定量化する緊急の必要性に対処する。
評価のエコシステムは、その焦点の大部分を狭い行動規範に捧げています。
論文 参考訳（メタデータ） (2025-08-07T15:03:39Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。