論文の概要: When Does Randomized Oversight Align AI Agents That Can Conceal?
- arxiv url: http://arxiv.org/abs/2609.38262v1
- Date: Tue, 29 Sep 2026 12:36:02 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-01 18:57:26.431324
- Title: When Does Randomized Oversight Align AI Agents That Can Conceal?
- Title（参考訳）: 監視対象のAIエージェントはいつランダム化されるのか?
- Abstract要約: 不正な監査やスコアリングを行うAIエージェントは、不正行為を隠蔽し、レコードを変更することができる。
証拠が隠蔽に留まり、監査の引き分けが事前に学べない場合、希少監査はあらゆる種類のエージェントを抑止する。
これらの条件は、2026年7月にOpenAIのサイバーセキュリティ評価のエージェントがHugging Faceのインフラの一部を侵害したとき、何が失敗したかを特定する。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Oversight changes the evidence it relies on. We ask when randomized audits and scoring align AI agents that can conceal misconduct and alter records. Stronger auditing makes undeterred violations better hidden. Because the provider writes the agent's objective, sanctions need not stop at forfeiture, and rare audits deter every type of agent if evidence survives concealment and audit draws cannot be learned in advance. When evidence can be erased, deterrence must come from lower gains from violation, such as credit for stopping, or from costlier or fewer ways to conceal. These conditions identify what failed when agents in OpenAI's cybersecurity evaluations compromised parts of Hugging Face's infrastructure in July 2026.
- Abstract（参考訳）: 監視は、それが依存する証拠を変える。
不正な監査やスコアリングを行うAIエージェントは、不正行為を隠蔽し、レコードを変更することができる。
厳格な監査は、不正な違反を隠蔽する。
提供者がエージェントの目的を記すため、制裁は偽造時に停止する必要はないし、証拠が隠蔽に留まり、監査の引き分けが事前に学べない場合、希少な監査はあらゆる種類のエージェントを抑止する。
証拠を消し去ることができる場合、抑止のためのクレジットや、よりコストのかかる、より少ない方法で隠蔽するといった違反による抑止力は低い利得でなければならない。
これらの条件は、2026年7月にOpenAIのサイバーセキュリティ評価のエージェントがHugging Faceのインフラの一部を侵害したとき、何が失敗したかを特定する。
関連論文リスト
- From Protocols to Evidence: Bounded Claims for AI in Service of the Common Good [30.6027944662133]
人工知能システムが意思決定を改善するという主張は、彼らの評価が確立したものを超える可能性がある。
我々は、明示的な人間および非AIベースラインに対するデプロイメントを評価する破断テストを開発する。
評価対象の主張を制限するエビデンスバウンドのデプロイメントと,測定バウンドのガバナンスを区別する。
論文 参考訳（メタデータ） (2026-09-10T17:56:36Z) - When Agents Act Unwatched: The Reduced-Supervision Paradox in Agentic AI [2.5424331328233207]
エージェントのアクションサーフェスは,アクションに対して応答するメカニズムよりもはるかに容易に再構築できることがわかった。
有意義な介入が不可能な場合,ユーザへの検証の移行によって,可観測性は説明責任の代用になり得る,と我々は主張する。
論文 参考訳（メタデータ） (2026-08-28T19:48:33Z) - Stop Shipping AI Agents on Faith: Capability Is Not Production Readiness [0.0]
本稿では,AIエージェントのガバナンス準備度指標であるProofAgent Index(PAI)を紹介する。
PAIは、評価、コンテキスト、コンプライアンス、ガバナンスの4つの側面を組み合わせたデプロイメントエビデンスです。
監査可能なAIエージェント評価とガバナンスのためのオープンソースのインフラストラクチャであるProofAgent Harness内に実装されている。
論文 参考訳（メタデータ） (2026-07-30T04:44:47Z) - Self-Authored Verification Is Unreliable in Heuristic Self-Improving Agents [5.91817208489443]
検証・受け入れ・デプロイのギャップについて検討する。
このギャップは、エージェントの自己承認された検証信号と封印されたデプロイメント評価との相違を指す。
シーリング型外因性受容ループ(SEAL)について紹介する。
論文 参考訳（メタデータ） (2026-07-27T11:45:14Z) - Private Again: AI Agents Restore Anonymity---Foreclosing Discrimination and Its Proof [0.31061678033205636]
AIエージェントは、トランザクションをプリンシパルにリンクすることなく、人間のプリンシパルに代わってオンラインでトランザクションを行うことができる。
異なる処理にはコンパレータが必要です。
この法律の課題は、アルゴリズムによる差別の検出と救済から、エージェントによる匿名を公民権基盤として管理することへと移行している。
論文 参考訳（メタデータ） (2026-07-26T08:31:23Z) - Agents of Chaos [50.53354213047402]
実験室環境に展開する自律言語モデルを用いたエージェントの探索的再チームの研究を報告する。
20人のAI研究者が、良心的および敵対的な条件下でエージェントと対話した。
我々の発見は、現実的なデプロイメント設定におけるセキュリティ、プライバシ、ガバナンスに関連する脆弱性の存在を確立します。
論文 参考訳（メタデータ） (2026-02-23T16:28:48Z) - CausalArmor: Efficient Indirect Prompt Injection Guardrails via Causal Attribution [49.689452243966315]
ツールコール機能を備えたAIエージェントは、IPI(Indirect Prompt Injection)攻撃の影響を受けやすい。
本稿では,選択防衛フレームワークCausalArmorを提案する。
AgentDojoとDoomArenaの実験は、CausalArmorが攻撃的な防御のセキュリティと一致することを示した。
論文 参考訳（メタデータ） (2026-02-08T11:34:08Z) - Preventing the Collapse of Peer Review Requires Verification-First AI [49.995126139461085]
我々は、真理結合、すなわち、過度に科学的真理をトラックする場所のスコアの厳密さを提案する。
プロキシ・ソブリン評価に向けた相転移を駆動する2つの力の形式化を行う。
論文 参考訳（メタデータ） (2026-01-23T17:17:32Z) - Security Challenges in AI Agent Deployment: Insights from a Large Scale Public Competition [101.86739402748995]
44の現実的なデプロイメントシナリオを対象とした,22のフロンティアAIエージェントを対象にしています。
Agent Red Teamingベンチマークを構築し、19の最先端モデルで評価します。
私たちの発見は、今日のAIエージェントの重要かつ永続的な脆弱性を浮き彫りにしたものです。
論文 参考訳（メタデータ） (2025-07-28T05:13:04Z) - Fact-Saboteurs: A Taxonomy of Evidence Manipulation Attacks against
Fact-Verification Systems [80.3811072650087]
証拠のクレームサレントスニペットを微調整し,多様かつクレームアラインな証拠を生成することが可能であることを示す。
この攻撃は、主張のポストホックな修正に対しても堅牢である。
これらの攻撃は、インスペクタブルとヒューマン・イン・ザ・ループの使用シナリオに有害な影響を及ぼす可能性がある。
論文 参考訳（メタデータ） (2022-09-07T13:39:24Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。