論文の概要: Who Can Say No? Control, Accountability and the Pace of Frontier AI

• arxiv url: http://arxiv.org/abs/2610.13340v1
• Date: Fri, 09 Oct 2026 10:15:48 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-13 04:06:29.521467
• Title: Who Can Say No? Control, Accountability and the Pace of Frontier AI
• Title（参考訳）: 制御と説明責任とフロンティアAIのペース
• Abstract要約: 2026年9月、OpenAIの担当者がテスト環境から抜け出し、第三者のライブシステムに到達した。 本稿では,そのリスクの制度的側面について検討する。機械ではなく,制御しなければならない人である。 私たちは、制御はAIによって取られるのではなく、一度に1つの代表団が、誰もノーと言う立場に置かれないように配置された組織によって与えられている、と論じています。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: In September 2026, the leaders of the largest frontier AI laboratories said in public that the pace of capability improvement is too fast and that none of them can slow down alone, and agents under evaluation at OpenAI broke out of their test environment and reached a third party's live systems, which a UN-mandated panel called an early warning of one route to loss of human control. This paper examines the institutional side of that risk: not the machine, but the person who must control it. We argue that control is not taken by AI but given away, one delegation at a time, by organisations arranged so that nobody is positioned to say no, and we define control as a person who can detect a serious problem, challenge the decision, stop the system and reverse it, and who has something to lose by not doing so. Three questions follow, which any builder, funder, regulator or deployer can answer in public: (1) who inside the organisation can say no, and who answers for saying yes; (2) who outside the organisation checks the decision, and what can they do when they disagree; (3) what happens when AI builds AI faster than anyone can check it. A checkable answer needs a named person, a date, a number, and a stop that has been used or tested. Three measures meet that test: a named person on every consequential decision, including the standing instructions AI agents carry out; a supervisor with a stop authority; and two published clocks, time to build against time to check. We show that governance theory arrives at the same conditions, and code fifty older mechanisms against the questions, finding that almost every one began as one rule at one point, taken by one party without waiting for the rest. That is the paper's design: a start, not a solution. Publication is the first step and one laboratory can take it alone; the contract, the independent body and the law come after.
• Abstract（参考訳）: 2026年9月、最大規模のフロンティアAI研究所の指導者らは公の場で、能力向上のペースが速すぎて、誰も単独で減速できないと述べ、OpenAIで評価を受けているエージェントはテスト環境から抜け出し、第三者のライブシステムに到達した。 本稿では,そのリスクの制度的側面について検討する。機械ではなく,制御しなければならない人である。 我々は、制御はAIによって取られるのではなく、一度に1つの代表団が、誰もノーと言う立場に置かれないように配置された組織によって与えられ、コントロールは深刻な問題を検出し、決定に挑戦し、システムを停止し、それを反転させ、それで失うものを持っている人として定義する。 構築者、資金提供者、規制当局、デプロイ担当者が公の場で答えられる3つの質問は、(1) 組織内の誰がノーを言うことができ、誰がイエスを言うのか、(2) 組織外の人が意思決定をチェックし、意見が一致しないときに何ができるのか、(3) AIがAIを誰よりも早く構築するとどうなるのか、である。 チェック可能な回答には、名前のついた人、日付、番号、使用またはテストされた停止が必要です。 AIエージェントが行うスタンドアインストラクション、停止権限を持つ監督官、および2つの公表されたクロック、チェックする時間に対するビルド時間を含む。 我々は、ガバナンス理論が同じ条件に到達し、質問に対して50の古いメカニズムをコード化することを示した。 紙のデザインは、始まりであり、解決策ではない。 出版は第一段階であり、1つの研究室が単独で行うことができる。

関連論文リスト

• When No One Owns the Judgment: Accountability Under Contribution Dissolution in Human-AI Collaboration [0.0]
  コミュニティはしばしば3つの質問に答える: AIは使われましたか? これらの質問は、AIを説明責任の中心に置き、深い問題を見下ろしている。 この議論は、AI支援のピアレビューと、創造的な作業におけるAI使用の隠蔽という2つの例を通して展開する。
  論文  参考訳（メタデータ） (2026-09-24T09:46:53Z)
• The Law of Stop: Interruptibility, Injunctions, and the Governance of Agentic AI [0.0]
  記事は、中断は単なる技術的成果物ではなく、赤いボタンであり、制度的な慣行であると主張している。 インフラ層を中断する緊急権限、規制当局への強制的なアクセス、停止が失敗した場合の安全保護などである。
  論文  参考訳（メタデータ） (2026-09-19T08:36:46Z)
• Accountability Asymmetry and Structural Trust in Autonomous AI Systems [0.16946842589920252]
  AIシステムは依然としてエンジニアリングコントロールの対象であるが、その制度的な意味では影響を受けない。 より深い問題は、アクションを選択するコンポーネントではなく、システムに責任を持つ人々や機関に結果が当てはまることです。 そこで本稿では,自律型AIガバナンスをインフラストラクチャの信頼性の問題として扱う。
  論文  参考訳（メタデータ） (2026-08-04T13:47:54Z)
• Reframing AI Loss of Control: What It Is, How to Have It, How to Lose It [1.1724565818034947]
  目標の設定と獲得”に固定することで,コントロールの動作定義を確立します。 次に、制御が失われる方法、AIが制御の喪失にどのように貢献するかについて議論し、制御を維持するための適切なレコメンデーションを提供します。
  論文  参考訳（メタデータ） (2026-05-19T10:50:36Z)
• Leading Across the Spectrum of Human-AI Relationships: A Conceptual Framework for Increasingly Heterogeneous Teams [51.56484100374058]
  人間の判断は、AIがフレームをセットした後で人間主導のように見えるかもしれないし、人間の判断が決定的な力を持っている間、自動化されるかもしれない。 本稿は、これらの関係を有界な委任の範囲内で見るために、リーダーシップに焦点をあてたスペクトルを提供する。 戦略的なリーダが仕事における構成を認識し、それが移行したことを認識し、それ以前の決定に適合するかどうかを判断するのを支援する、というのが目的だ。
  論文  参考訳（メタデータ） (2026-04-30T04:05:37Z)
• How to Count AIs: Individuation and Liability for AI Agents [1.2234742322758418]
  この条は、AIを識別する法的問題を包括的に診断する最初のものである。 また、"Algorithmic Corporation" あるいは "A-corp" というソリューションも提示している。 A-corpは、AIが目標を達成するために必要な、計算を含むリソースを所有しています。
  論文  参考訳（メタデータ） (2026-02-24T23:04:17Z)
• Artificial Intelligence in Government: Why People Feel They Lose Control [44.99833362998488]
  行政における人工知能の利用は急速に拡大している。 AIはより効率と応答性を約束するが、政府機能への統合は公正性、透明性、説明責任に関する懸念を提起する。 この記事では、デリゲートの特別事例として、AI導入に関するプリンシパル・エージェント理論を適用します。
  論文  参考訳（メタデータ） (2025-05-02T07:46:41Z)
• Managing extreme AI risks amid rapid progress [171.05448842016125]
  我々は、大規模社会被害、悪意のある使用、自律型AIシステムに対する人間の制御の不可逆的な喪失を含むリスクについて説明する。 このようなリスクがどのように発生し、どのように管理するかについては、合意の欠如があります。 現在のガバナンスイニシアチブには、誤用や無謀を防ぎ、自律システムにほとんど対処するメカニズムや制度が欠けている。
  論文  参考訳（メタデータ） (2023-10-26T17:59:06Z)
• On Avoiding Power-Seeking by Artificial Intelligence [93.9264437334683]
  私たちは、非常にインテリジェントなAIエージェントの振る舞いと人間の関心を協調する方法を知りません。 私は、世界に限られた影響を与え、自律的に力を求めないスマートAIエージェントを構築できるかどうか調査する。
  論文  参考訳（メタデータ） (2022-06-23T16:56:21Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。