論文の概要: I-HITL: Inalienable Human-in-the-Loop
- arxiv url: http://arxiv.org/abs/2610.35835v3
- Date: Fri, 30 Oct 2026 16:40:31 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-02 22:05:31.364458
- Title: I-HITL: Inalienable Human-in-the-Loop
- Title（参考訳）: I-HITL: 実現不可能な人間
- Abstract要約: I-HITL(Inertienable Human-in-the-loop)の概念を紹介する。
I-HITLプロトコルは、エージェントが明示的な人間の承認でのみアクションを開始することができることを保証します。
I-HITLプロトコルは、信頼されたエンティティ(信頼されたコンピュータデバイス(または同等))を必要とし、そのようなデバイスがI-HITLプロトコルを実現できるか、実現できないかを特徴付ける。
- 参考スコア（独自算出の注目度）: 11.065655974248317
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Human oversight is a pillar of AI safety. It is often exercised by a human in the loop (HITL) who approves critical actions taken by an AI agent. AI agents' increasing ability to bypass guardrails, though, raises the question of how to enforce HITL robustly. We introduce the concept of inalienable human-in-the-loop (I-HITL). An I-HITL protocol ensures that an agent can initiate an action only with explicit human approval, even when the human interacts with a system (e.g., a local agentic harness) compromised by the agent. A strong I-HITL protocol additionally ensures such approval even when an adversarial human attempts to delegate approvals to an agent. To motivate I-HITL, we report on experiments with a popular agentic wallet platform in which raising an agent's spending cap requires HITL approval via emailed one-time passcodes (OTPs). Given access to the user's email and a task blocked by the cap, we find that ten different frontier models will often autonomously raise the cap, harvesting OTPs to bypass a HITL guardrail and surfacing other vulnerabilities. We formally define I-HITL using the concept of communication topologies and prove necessary and sufficient conditions for its realization. We show that an I-HITL protocol requires a trusted entity - a trusted computing device (or equivalent) - and characterize which such devices can and cannot realize an I-HITL protocol. We present a prototype I-HITL system called Countersign that can plug into and strengthen existing HITL systems using off-the-shelf consumer mobile devices.
- Abstract（参考訳）: 人間の監視はAIの安全性の柱です。
ヒューマン・イン・ザ・ループ(HITL)はAIエージェントが行う重要な行動を承認する。
しかし、AIエージェントのガードレールをバイパスする能力の増大は、HITLを堅牢に強制する方法に関する疑問を提起している。
I-HITL(inalienable human-in-the-loop)の概念を紹介した。
I-HITLプロトコルは、エージェントによって侵害されたシステム(例えば、ローカルなエージェントハーネス)と人間が相互作用する場合でも、エージェントが明示的なヒトの承認のみでアクションを開始することを保証している。
強力なI-HITLプロトコルは、敵の人間がエージェントに承認を委譲しようとする場合でも、そのような承認を保証する。
I-HITLをモチベーションとして,エージェントの消費上限を上げるには,メールによるワンタイムパスコード(OTP)によるHITL承認が必要であるという,一般的なエージェントウォレットプラットフォームを用いた実験を報告する。
ユーザのEメールへのアクセスと上限によってブロックされたタスクを考えると、10の異なるフロンティアモデルが多くの場合、キャップを自律的に上げ、HITLガードレールをバイパスし、他の脆弱性を克服するためにOPPを回収する。
我々は,通信トポロジの概念を用いてI-HITLを正式に定義し,その実現に必要かつ十分な条件を証明した。
I-HITLプロトコルは、信頼されたエンティティ(信頼されたコンピュータデバイス(または同等))を必要とし、そのようなデバイスがI-HITLプロトコルを実現できるか、実現できないかを特徴付ける。
市販の消費者向けモバイルデバイスを用いて既存のHITLシステムに接続・強化可能な,Countersignと呼ばれるプロトタイプI-HITLシステムを提案する。
関連論文リスト
- ComBodied Agents: a New Paradigm of Human-Centric Agentic AI [121.60938707072069]
我々は、人間中心のパラダイムであるCombodied Agentsを紹介し、時間とともに個々の人間状態の軌跡を知覚し、モデル化し、予測し、支援する。
パーソナルアシスタント、ヘルスエージェント、AIコンパニオン、適応型ヒューマンAIシステムをクローズドループに統合する。
論文 参考訳（メタデータ） (2026-08-11T13:35:58Z) - IMPACT-HOI: Supervisory Control for Onset-Anchored Partial HOI Event Construction [72.51952455865155]
我々は,エゴセントリックなプロシージャビデオに注釈を付けるための混合開始型フレームワークIMPACT-HOIを提案する。
IMPACT-HOIは、このタスクを部分的に指定され、オンセットされたイベント状態の漸進的な解決として捉えている。
9人の参加者によるユーザスタディでは、手動のアノテーションアクションが13.5%減少し、46.67%のイベントマッチレート、確認されたフィールド違反がゼロである。
論文 参考訳（メタデータ） (2026-05-03T01:37:40Z) - OMNI-LEAK: Orchestrator Multi-Agent Network Induced Data Leakage [59.3826294523924]
オーケストレータ設定として知られる,一般的なマルチエージェントパターンのセキュリティ脆弱性について検討する。
本報告では,フロンティアモデルの攻撃カテゴリに対する感受性を報告し,推論モデルと非推論モデルの両方が脆弱であることが確認された。
論文 参考訳（メタデータ） (2026-02-13T21:32:32Z) - Hybrid Stackelberg Game and Diffusion-based Auction for Two-tier Agentic AI Task Offloading in Internet of Agents [70.6356929970175]
Internet of Agents (IoA)は、相互接続されたインテリジェントシステムのための基盤アーキテクチャである。
IoAには物理エンティティ、すなわち限られたオンボードリソースを備えた無線エージェント(WA)が含まれており、計算集約型のエージェントAIサービスを近くのサーバにオフロードする必要がある。
タスクオフロードを容易にする2層最適化手法を提案する。
論文 参考訳（メタデータ） (2025-11-27T03:55:18Z) - Towards a Humanized Social-Media Ecosystem: AI-Augmented HCI Design Patterns for Safety, Agency & Well-Being [0.0]
ソーシャルプラットフォームは何十億もの人々を結び付けているが、そのエンゲージメント優先のアルゴリズムはユーザーに対してではなく、ユーザーに対して機能することが多い。
我々は,プラットフォームロジックとインターフェースの間に位置するユーザが所有する,説明可能な仲介者を提案する。
HL-AIは、プラットフォーム協力を必要とせず、実践的でモーメント間制御を提供する。
論文 参考訳（メタデータ） (2025-11-08T06:22:15Z) - The STAR-XAI Protocol: A Framework for Inducing and Verifying Agency, Reasoning, and Reliability in AI Agents [0.0]
大きな推論モデルの「ブラックボックス」の性質は、信頼性と透明性の限界を示す。
本稿では,信頼性の高いAIエージェントをトレーニングし,運用するための新たな運用方法論であるSTAR-XAIプロトコルを紹介する。
我々の方法は、明示的で進化する象徴的ルールブックによって支配される構造化ソクラテス的対話として、人間とAIの相互作用を再編成する。
論文 参考訳（メタデータ） (2025-09-22T16:24:17Z) - Formalising Human-in-the-Loop: Computational Reductions, Failure Modes, and Legal-Moral Responsibility [3.635142169140065]
我々はAIシステムのための異なるHuman-in-the-loop(HITL)セットアップを定式化する。
異なる設定の法的地位と安全性は大きく異なることを示す。
本稿では,HITLの障害モードを分類するための分類法を提案し,HITL設定の実用的限界を強調した。
論文 参考訳（メタデータ） (2025-05-15T15:42:14Z) - LOKA Protocol: A Decentralized Framework for Trustworthy and Ethical AI Agent Ecosystems [0.0]
我々は倫理的に統制された相互運用可能なAIエージェントエコシステムを構築するための統一されたシステムレベルのアーキテクチャであるLoka Protocol(Layered Orchestration for Knowledgeful Agents)を提示する。
Lokaは、分散化された検証可能なアイデンティティのためのUniversal Agent Identity Layer (UAIL)、多種多様なエージェント間のセマンティックコーディネーションのためのインテント中心の通信プロトコル、そしてエージェントが共有倫理的ベースラインに根ざしたコンテキスト認識決定を可能にするDecentralized Ethical Consensus Protocol (DECP)を導入している。
論文 参考訳（メタデータ） (2025-04-15T06:51:35Z) - Robotic Control via Embodied Chain-of-Thought Reasoning [86.6680905262442]
学習したロボット制御ポリシーの鍵となる制限は、トレーニングデータの外部で一般化できないことである。
視覚言語行動モデル(VLA)に関する最近の研究は、大規模なインターネット事前学習型視覚言語モデルを使用することで、その堅牢性と一般化能力を大幅に向上させることができることを示した。
ロボットの動作を予測する前に、VLAに対して、計画、サブタスク、動作、視覚的接地機能について複数の推論を行うために、VLAに対してEmbodied Chain-of-Thought Reasoning (ECoT)を導入する。
論文 参考訳（メタデータ） (2024-07-11T17:31:01Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。