論文の概要: Scaling, Lock-In, and Proxy Compliance: A Political Economy of Responsible AI

• arxiv url: http://arxiv.org/abs/2607.28023v1
• Date: Thu, 30 Jul 2026 11:12:13 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-31 21:37:00.51983
• Title: Scaling, Lock-In, and Proxy Compliance: A Political Economy of Responsible AI
• Title（参考訳）: スケーリング、ロックイン、プロキシコンプライアンス - 責任を負うAIの政治経済
• Abstract要約: 我々は、AIシステムの説明責任に対処するシーケンシャルな政治経済モデルを構築している。 我々は、AIベンダーが監査可能性と実体的緩和を選択し、デプロイはコストを切り替えながら導入後に監視し、実行は検証可能な証拠に依存することを示す。 その結果、ドキュメントと標準化された評価が、持続的なデプロイ後障害と共存する理由が説明できる。
• 参考スコア（独自算出の注目度）: 1.253312107729806
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: AI accountability at scale is an institutional problem: who can observe, verify, and change deployed systems. We develop a sequential political-economy model in which an AI vendor chooses auditability and substantive mitigation, a deployer monitors after adoption while facing switching costs, and enforcement depends on verifiable evidence. Anticipating the deployer's monitoring response, the vendor may stop at an observable procurement floor while mitigating below the social first best, producing a proxy-compliance equilibrium. We characterize the unique interior equilibrium and the corner in which harm is fully mitigated. Independent audit rights raise enforcement exposure directly; portability restores deployer leverage; incident reporting adds a regulator-visible evidence channel; and outcome-linked liability creates incentives that do not depend on vendor-controlled detection. The results explain why documentation and standardized evaluations can coexist with persistent post-deployment harms, and generate testable implications for monitoring, mitigation, and the gap between formal compliance and operational outcomes.
• Abstract（参考訳）: 大規模なAI説明責任は制度的な問題であり、誰がデプロイされたシステムを観察し、検証し、変更することができる。 我々は、AIベンダーが監査可能性と実体的緩和を選択するシーケンシャルな政治経済モデルを構築し、デプロイは、切り替えコストに直面しながら導入後に監視し、実行は検証可能な証拠に依存する。 デプロイ者の監視応答を期待して、ベンダーは監視可能な調達フロアで停止し、ソーシャルファースト以下で緩和し、プロキシ準拠の均衡を生成する。 我々は、固有内部平衡と、害が完全に緩和される角を特徴づける。 インシデントレポートには規制対象のエビデンスチャネルが追加され,結果関連責任はベンダが管理する検出に依存しないインセンティブが生成される。 結果は、ドキュメントと標準化された評価が、持続的なデプロイ後の害と共存し、監視、緩和、公式なコンプライアンスと運用上の成果のギャップに対するテスト可能な影響を生成することができる理由を説明する。

関連論文リスト

• Reality Is the Final Verifier: On Two Key Gaps in Agentic Software Engineering [78.51705689800838]
  本稿では, 要求, モデル, 評価器の見直しに, 展開証拠を用いた保証・修正ループを提案する。 そこで我々は,人的判断,エージェント能力,計算能力に対する資源配分問題としてエージェント開発を保証した。
  論文  参考訳（メタデータ） (2026-09-10T17:58:48Z)
• The Invisible Editorial Layer: Formalizing Undisclosed Inference-Time Steering, Probability Placement, and the Attribution Problem in Deployed Language Models [0.0]
  生成言語モデルの評価は、しばしば、政治的スタンス、ブランドの傾き、規範的フレーミングといった観察可能な行動特性を、モデルの重みの表示、訓練後のアライメント、またはプロンプトとして解釈する。 モデルパラメータの変更を必要とせずに、組織的、イデオロギー的、商業的なフレームに対して生成されたテキストを体系的に操る。 生成システムのガバナンスは、モデルを監査することと、最終的に話すデプロイされたシステムの監査とを、ますます区別する必要がある、と我々は主張する。
  論文  参考訳（メタデータ） (2026-08-25T15:05:19Z)
• Stop Shipping AI Agents on Faith: Capability Is Not Production Readiness [0.0]
  本稿では,AIエージェントのガバナンス準備度指標であるProofAgent Index(PAI)を紹介する。 PAIは、評価、コンテキスト、コンプライアンス、ガバナンスの4つの側面を組み合わせたデプロイメントエビデンスです。 監査可能なAIエージェント評価とガバナンスのためのオープンソースのインフラストラクチャであるProofAgent Harness内に実装されている。
  論文  参考訳（メタデータ） (2026-07-30T04:44:47Z)
• Towards Trustworthy Embodied Intelligence: A Systems Framework and Graded Trustworthiness Levels [53.63220028820581]
  身体的知性は、学習した知覚と意思決定をリアルタイムの計算、制御、物理的相互作用と統合する。 我々は,信頼に値するインテリジェンスを,特定のタスクを確実に実行するための持続能力として定義する。
  論文  参考訳（メタデータ） (2026-07-28T17:50:44Z)
• Time to REFLECT: Can We Trust LLM Judges for Evidence-based Research Agents? [61.49434544687523]
  本稿では,エージェント環境におけるきめ細かい故障検出を目的としたメタ評価ベンチマークREFLECTを紹介する。 REFLECTはプロセスレベルの障害モードと結果レベルの障害モードの詳細な分類を定義し、制御および局所的な介入を実行することでインスタンス化する。 私たちの実験では、最高のパフォーマンスモデルでさえ、推論、ツール使用、レポート品質の失敗に対して、全体的なアキュラシーを55%以下に達成しています。
  論文  参考訳（メタデータ） (2026-05-18T23:55:08Z)
• When Outcome Looks Right But Discipline Fails: Trace-Based Evaluation Under Hidden Competitor State [0.39287497907611874]
  アウトカムのみの評価は経済的に安全でないエージェントを認定することができる。 隠れた競合状態のホテル料金では、学習者はルールベースの収益管理政策の利率規律を保ちつつ、利用可能な部屋当たりのもっともらしい収入を達成することができる。 トレースに基づく評価パラダイムである規律安定性を導入する。
  論文  参考訳（メタデータ） (2026-05-18T15:58:34Z)
• AI Alignment via Incentives and Correction [14.986111703734222]
  我々は、抑止と執行の法・経済モデルのレンズを通してAIアライメントを研究する。 解決者は、説得力があるが誤った答えを出し、不確実性を隠蔽したり、急激なショートカットを悪用する恩恵を受けることができる。 この相互作用を、主成分が共同補正結果よりも報酬を選択する2エージェントモデルで定式化する。
  論文  参考訳（メタデータ） (2026-05-02T23:28:02Z)
• How Supply Chain Dependencies Complicate Bias Measurement and Accountability Attribution in AI Hiring Applications [1.0742675209112622]
  現代のAI採用システムは、データベンダ、モデル開発者、プラットフォームプロバイダ、デプロイ組織間の責任フラグメントが分散した複雑なサプライチェーン内で運用されている。 本稿では,これらの依存関係連鎖が,バイアス評価や説明責任の帰属を複雑化する方法について検討する。 システムレベルの監査,ベンダガイドライン,継続的監視機構,依存関係チェーン間のドキュメントなど,多層的な介入を提案する。
  論文  参考訳（メタデータ） (2026-04-24T16:01:35Z)
• IMPACT-CYCLE: A Contract-Based Multi-Agent System for Claim-Level Supervisory Correction of Long-Video Semantic Memory [73.22944697933603]
  既存のパイプラインは不透明でエンドツーエンドの出力を生成し、検査の中間状態は公開しない。 IMPACT-Cycleは,マルチモーダル反復クレームレベルのメンテナンスとして,長時間ビデオ理解を再構築するマルチエージェントシステムである。
  論文  参考訳（メタデータ） (2026-04-22T03:03:33Z)
• Taming Actor-Observer Asymmetry in Agents via Dialectical Alignment [59.536125286960186]
  セルフリフレクションと相互監査を可能にするために、専門的な役割を割り当てるマルチエージェントフレームワークがますます採用されている。 アクター・オブザーバ非対称性(Actor-Observer Asymmetric)と呼ばれる認知バイアスを同時に誘発する。 ReTASは、対立する視点を客観的なコンセンサスに合成するためにエージェントを誘導する。
  論文  参考訳（メタデータ） (2026-04-21T15:05:58Z)
• Preventing the Collapse of Peer Review Requires Verification-First AI [49.995126139461085]
  我々は、真理結合、すなわち、過度に科学的真理をトラックする場所のスコアの厳密さを提案する。 プロキシ・ソブリン評価に向けた相転移を駆動する2つの力の形式化を行う。
  論文  参考訳（メタデータ） (2026-01-23T17:17:32Z)
• Making LLMs Reliable When It Matters Most: A Five-Layer Architecture for High-Stakes Decisions [51.56484100374058]
  現在の大規模言語モデル(LLM)は、実行前にアウトプットをチェックできるが、不確実な結果を伴う高い戦略決定には信頼性が低い検証可能な領域で優れている。 このギャップは、人間と人工知能(AI)システムの相互認知バイアスによって引き起こされ、そのセクターにおける評価と投資の持続可能性の保証を脅かす。 本報告では、7つのフロンティアグレードLDMと3つの市場向けベンチャーヴィグネットの時間的圧力下での系統的質的評価から生まれた枠組みについて述べる。
  論文  参考訳（メタデータ） (2025-11-10T22:24:21Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。