論文の概要: Cybernetic and Epistemic: A Missing Vocabulary for Trustworthy Agentic Delegation
- arxiv url: http://arxiv.org/abs/2610.00961v1
- Date: Thu, 01 Oct 2026 02:46:49 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-03 01:19:23.854373
- Title: Cybernetic and Epistemic: A Missing Vocabulary for Trustworthy Agentic Delegation
- Title（参考訳）: サイバーネティックと疫学 : 信頼できるエージェントデリゲーションのための欠落した語彙
- Abstract要約: CS教育の研究者たちは、コードを書くことから、それを書くシステムを監視することへのシフトを、名付け始めている。
このシフトは語彙的ギャップを露呈する: フィールドは2つの言語がデリゲートチャネルで行う機能的な区別なしに「人間の監視」を求める。
本稿では,既存の技術的信頼特性と並行して,エージェントシステムガバナンスの基準を提案する。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: As code generation is increasingly delegated to AI systems, the bottleneck is shifting from writing code to supervising the systems that write it --- a shift CS-education researchers have begun to name. This shift exposes a vocabulary gap: the field asks for "human oversight" without a working distinction between the two things language does in a delegation channel --- coordinate action (cybernetic: words succeed when the world comes to match them) and coordinate understanding (epistemic: they succeed when they answer to the world and a hearer can check that they do). The failure this names is not cybernetic language but epistemic-form language doing cybernetic work: explanation-shaped output calibrated for approval rather than truth. Oversight that checks only whether an output was approved is satisfiable by rubber-stamping; oversight that holds an agent accountable requires the reasoning behind its work be retrievable and checkable. We present three delegation episodes --- illustrations, not controlled evidence --- in which epistemic engagement proved practicable while remaining auditable, one public record where a recommendation was withdrawn on its own stated terms, and one failure case illustrating oversight that requires no reasons for its discretionary choices. We propose a criterion for agentic-system governance, alongside existing technical trust properties: every consequential choice should carry the condition under which it would have gone otherwise, in a form a third party can test. Without such a condition, a third party cannot distinguish a decision from a rubber stamp. We give the criterion an operational form --- a two-part reconstruction test scoring a delegation record by whether a second reader can predict what the agent does under a perturbation --- and a deliberation-recording convention, ORRCF, that makes the condition a required component of every recorded choice.
- Abstract（参考訳）: コード生成がAIシステムに委譲されるに従って、ボトルネックはコード記述からそれを書くシステム監視へとシフトしている。
このシフトはボキャブラリのギャップを露呈する: フィールドは2つの言語がデリゲートチャネルで行うことの間の作業的な区別なしに「人間の監視」を求めます -- コーディネートアクション(サイバネティック: 世界がそれに一致するときに単語が成功する)とコーディネート理解(直感: 世界に答えて、聞き手がそれをチェックできる)。
この名前の失敗はサイバネティック言語ではなく、サイバネティックな作業を行う疫学的な形式の言語である。
アウトプットが承認されたかどうかのみをチェックする監視は、ゴムスタンピングによって満足される; 説明責任を持つエージェントを保持する監視には、その作業の背後にある理由を検索し、確認する必要がある。
本報告では、3つの代表例(図示、制御された証拠ではない)を提示する。そこでは、被験者が聴取中に実践可能であることを証明し、自明の条件でレコメンデーションが取り下げられた1つの公開記録と、決定的な選択のために何の理由も必要としない過度な監視を説明できる1つの失敗事例を提示する。
我々は,既存の技術的信頼特性と並行して,エージェントシステムガバナンスの基準を提案する。
このような条件がなければ、第三者はゴムスタンプと決定を区別することはできない。
我々は、第2の読者が摂動下でエージェントが何をするかを予測できるかどうかを判断し、デリゲートレコードをスコアする2部構成の再構築テスト -- と、条件が記録されたすべての選択の必須コンポーネントとなる熟考記録規約であるORRCF – を運用形式として与える。
関連論文リスト
- PIA: A Personal Intelligence Agent Turning Health Conversations into Records and Records into Understanding [41.32158161225706]
我々は、消費者健康エージェントと共に展開される個人情報エージェントであるPIAを提示する。
PIAはエージェントの自然言語要求を受信し、会話の書き方や読み方を決め、タイプされた臨床記録や記録をユーザーの合成された理解に変換する。
論文 参考訳（メタデータ） (2026-09-25T13:32:20Z) - MNIST-PRO: MNIST is Back as a Partially Observable World for AI Agents [74.83535434786145]
MNIST-PRO (MNIST-PRO) は、MNISTの桁認識を、ルックバック制約付きシーケンシャルな視線に基づく検索タスクに変換することで、エージェント認識を分離するベンチマークである。
生の視覚履歴、テキスト状態、構造化されたメートル法グリッドマップ、統合された視覚キャンバスを含む4つの記憶表現の10つのマルチモーダルモデルを評価する。
論文 参考訳（メタデータ） (2026-08-31T16:05:39Z) - Claude Code Complete User Handbook [0.0]
Claude Codeは、未検証アクセス、シェル実行、ブラウザ制御、スケジュールおよびクラウド実行を備えたループで動作する言語モデルである。
この本は、そのシステムを安全かつ生産的に運用するためのタスク指向の参照である。
論文 参考訳（メタデータ） (2026-08-27T07:32:14Z) - Governing Agentic AI in FinTech [3.731168012111834]
金融機関は、エージェントAIシステムに連続的な決定を委譲している。
我々は、バインディングガバナンスの制約は能力ではなく、検証可能であると主張している。
我々はエージェントAIのためのマルチレベルガバナンス理論を開発する。
論文 参考訳（メタデータ） (2026-08-11T18:52:09Z) - Fantastic Adaptive Taxonomies and How to Use Them [100.20614173157708]
AdaMASTは、実行トレースをコンパクトでエビデンスに基づく障害分類に変換する。
コードには手書きのコードはなく、人間による注釈もない。
エージェント・システム・サーチでは、失敗候補の分類コード診断が自由形式より優れている。
論文 参考訳（メタデータ） (2026-07-17T17:41:16Z) - CANONIC: Governance Is Compilation [0.0]
CANONIC: デジタルアーティファクトを大規模にエビデンス台帳にコンパイルする管理されたインテリジェンス。
CanONICは、コンテントがコーパスに入るかどうかを、コンパイラがプログラムが適切に構成されているかどうかを決定するように管理する。
信頼できないコンテンツと信頼できないコンテンツを確実に分離する散文読解ゲートは存在しない。
論文 参考訳（メタデータ） (2026-06-10T04:48:42Z) - Framing, Judging, Steering: An Assessable Competency Model for Teach-ing Students to Reason With Generative AI [47.027290803102666]
生産的AI利用を3つの評価可能なスキルに分解する能力モデルであるCoRe-3(Co-Reasoning)を提案する。
理論上のスキルを基盤として、5つのテスト可能な提案を述べ、それらをCoReasoningLabでインスタンス化します。
人為的な合意と成果が次々に行われます。私たちは、計測器、データ、プロトコルをリリースします。
論文 参考訳（メタデータ） (2026-06-04T10:25:31Z) - Interpretation, Learning, and Empathy as One Constraint: A Residual-Adequacy Architecture with Accountable Abstention [0.0]
一つの量から限界が生じる小さな認知アーキテクチャを開発する。
解釈決定ユニット(IDU)は、コンテントベクトルをレギュレーションのファミリを通じて解釈し、ライセンスするアクションを決定する。
任意のコンテンツと固定構成に対して、ユニークな端末証人を持つ有限個の有界コストステップで停止する。
論文 参考訳（メタデータ） (2026-05-24T10:57:28Z) - AI Knows What's Wrong But Cannot Fix It: Helicoid Dynamics in Frontier LLMs Under High-Stakes Decisions [51.56484100374058]
ヘリコイド力学(Helicoid dynamics)は、その2番目のドメインの特定の障害状態に与えられる名前である。
システムは巧みに働き、エラーに陥り、何がうまくいかなかったかを正確に名付け、さらに高度な技術で同じパターンを再現する。
この先進的な事例シリーズは、7つの主要なシステムにまたがる体制を文書化する。
論文 参考訳（メタデータ） (2026-03-12T05:25:49Z) - Agents of Chaos [50.53354213047402]
実験室環境に展開する自律言語モデルを用いたエージェントの探索的再チームの研究を報告する。
20人のAI研究者が、良心的および敵対的な条件下でエージェントと対話した。
我々の発見は、現実的なデプロイメント設定におけるセキュリティ、プライバシ、ガバナンスに関連する脆弱性の存在を確立します。
論文 参考訳（メタデータ） (2026-02-23T16:28:48Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。