論文の概要: The Ineliminable Anchor: Human Judgment as a Structural Requirement of Autonomous Artificial Intelligence Systems
- arxiv url: http://arxiv.org/abs/2610.41682v1
- Date: Fri, 30 Oct 2026 12:49:37 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-02 22:05:31.710637
- Title: The Ineliminable Anchor: Human Judgment as a Structural Requirement of Autonomous Artificial Intelligence Systems
- Title（参考訳）: 自律型人工知能システムの構造的要件としての人間の判断
- Abstract要約: 監視はまず、ゴールドリフトを評価するのに必要な基準を特定するべきだ、と私たちは主張する。
ゴールドリフトはシステムの内部記録から認証することは不可能である。
人間の目的に奉仕するAIシステムにとって、人間の判断は決定不可能な構造的要件である。
- 参考スコア（独自算出の注目度）: 18.926591626873837
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: As artificial intelligence (AI) agents carry out longer chains of tasks, oversight must establish whether their behavior still serves an authorized goal. Here, we introduce the anchor: the point at which reference information and human-authorized standards enter an autonomous system. We argue that oversight design should first identify the reference needed to assess goal drift and whether the system's internal record can supply it, then decide who checks and how often, and finally specify who may revise the goal. Goal drift can be impossible to certify from a system's internal record. The missing reference must come from outside that record. Combining a reliability model of checkpoint spacing with evidence from training, execution, and multi-agent coordination, we develop a task taxonomy to guide anchor placement and decisions about which checks to automate. For AI systems that serve human purposes, human judgment is an ineliminable structural requirement in authorizing and revising the purposes and standards that govern autonomous operation, even when routine checking and execution are automated.
- Abstract（参考訳）: 人工知能(AI)エージェントは、より長い一連のタスクを実行するため、彼らの行動がまだ承認された目標であるかどうかを監督する必要がある。
ここでは、基準情報と人間認可基準が自律システムに入る点について紹介する。
オーバー監視設計はまず、まずゴールドリフトを評価するのに必要な基準と、システムの内部記録がそれを供給することができるかどうかを特定し、次に、誰がどのチェックを行い、どれくらい頻度でゴールを修正できるかを判断し、最終的に誰がゴールを修正できるかを特定すべきである、と論じる。
ゴールドリフトはシステムの内部記録から認証することは不可能である。
欠落した参照は、そのレコードの外から来なければならない。
チェックポイントの信頼性モデルとトレーニング,実行,マルチエージェント調整のエビデンスを組み合わさって,アンカー配置を案内するタスク分類法を開発し,どのチェックを自動化するかを決定する。
人間の目的に奉仕するAIシステムにとって、人間の判断は、定期的なチェックと実行が自動化された場合でも、自律的な操作を管理する目的と標準を認可し、修正する上で、決定不可能な構造的要件である。
関連論文リスト
- Self-Evolving AI for Humanoids: Mechanisms, Safety, and Evaluation of Post-Deployment Self-Improvement [48.47465597427111]
自己進化型ロボットは、自国の展開後体験からシステムを改善することを目的としている。
まず、ヒューマノイドの自己進化を定義し、生涯の目標を持つ緩やかな外ループを用いて展開するロボットを表現した。
次に、文献を4つの相補的な自己進化機構に整理し、自律性の向上を図った。
論文 参考訳（メタデータ） (2026-09-02T13:38:43Z) - Aspire: Can Models Self-Evolve from Vague Goals? [61.65007006747275]
我々はあいまいなゴール駆動型自己進化のベンチマークであるASPIREを紹介する。
ASPIREは、統一された対話環境におけるモデルウェイトとエージェントハーネスの進化をサポートする。
実験の結果,曖昧な目標が探索努力を目標解釈に向けることが示唆された。
論文 参考訳（メタデータ） (2026-08-31T17:14:59Z) - Towards Trustworthy Embodied Intelligence: A Systems Framework and Graded Trustworthiness Levels [53.63220028820581]
身体的知性は、学習した知覚と意思決定をリアルタイムの計算、制御、物理的相互作用と統合する。
我々は,信頼に値するインテリジェンスを,特定のタスクを確実に実行するための持続能力として定義する。
論文 参考訳（メタデータ） (2026-07-28T17:50:44Z) - Defining AI-Native Systems: Autonomy as Revision Authority [6.865922711712499]
「AIネイティブ」は、正確な技術的定義を持たないマーケティング用語である。
私たちは、システム自身の決定に対するオーソリティという、単一の軸に沿って、AIネイティブ性を定義します。
さらに、エスカレーション検出器、検証手順、検証されたフォールバックが必要である。
論文 参考訳（メタデータ） (2026-07-22T22:58:18Z) - From Knowing to Acting: Benchmarking Self-Awareness Capability of LLM Agents [69.07911499189129]
エージェントのメタ認知判断(Knowing)を自発的実行(Acting)から切り離して認知行動アライメントを評価するフレームワークであるKAPROを紹介する。
実験の結果,自己認識能力はタスク成功と強く相関するが,内部能力設定では著しく低下することがわかった。
プロプライエタリで推論指向のモデルは、より信頼性の高い認知ゲーティングを示します。
論文 参考訳（メタデータ） (2026-06-09T17:17:08Z) - Intentionality is a Design Decision: Measuring Functional Intentionality for Accountable AI Systems [3.4217039995100555]
本稿では,目的,前見,意志,時間的コミットメント,一貫性を特徴とする行動プロファイルとして意図性を定義した。
機能的意図性テスト(FIT)は,5次元にわたって意図的な振る舞いを定量化する多次元フレームワークである。
本研究では,意図の抽出と評価のための構造化評価プロトコルであるFIT-Evalを提案する。
論文 参考訳（メタデータ） (2026-05-06T21:53:40Z) - Institutional AI: A Governance Framework for Distributional AGI Safety [1.3763052684269788]
AIモデルのコア特性から生じる3つの構造的問題を同定する。
ソリューションはInstitutional AIであり、AIエージェント集団の効果的なガバナンスの問題としてアライメントを扱うシステムレベルのアプローチである。
論文 参考訳（メタデータ） (2026-01-15T17:08:26Z) - From Human Intention to Action Prediction: A Comprehensive Benchmark for Intention-driven End-to-End Autonomous Driving [67.23302649816466]
現在の自律運転システムは、単純な操縦命令に従うように、インテリジェンスレベルで動作する。
Intention-Driveは、高レベルの人間の意図を安全かつ正確な運転行動に変換する能力を評価するために設計された最初の総合的なベンチマークである。
論文 参考訳（メタデータ） (2025-12-13T11:59:51Z) - Can Large Reasoning Models Self-Train? [51.0277533541394]
多数決投票を簡単な自己フィードバック機構として利用し、強化学習において自己学習が持続できるかどうかを検討する。
この基本的なアプローチは、モデルの推論性能だけでなく、次のRLイテレーションでより良い品質フィードバックを生成する能力も改善します。
しかし、我々の分析では、このような自己学習パラダイムの限界も明らかにしています - 自己回帰の長いRLは、報酬のハッキングにつながるため、突然、そして完全なパフォーマンスが崩壊します。
論文 参考訳（メタデータ） (2025-05-27T17:16:00Z) - Towards a Framework for Certification of Reliable Autonomous Systems [3.3861948721202233]
計算システムは、人間の監督や制御なしに独自の決定を下したり、独自の行動を取ることができる場合、自律的である。
例えば、無人航空システムを民間空域で自律的に使用するために、どうやって認定できるのか?
ここでは、自律システムの信頼性の高い動作を提供するために、何が必要なのかを分析する。
我々は、研究者、技術者、規制当局への挑戦を含む規制ガイドラインの策定に向けたロードマップを提案する。
論文 参考訳（メタデータ） (2020-01-24T18:18:35Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。