論文の概要: When AI Finds Hidden Messages, Does It Report?

• arxiv url: http://arxiv.org/abs/2610.10620v1
• Date: Wed, 07 Oct 2026 08:32:07 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-10 02:36:53.571696
• Title: When AI Finds Hidden Messages, Does It Report?
• Title（参考訳）: AIが隠れたメッセージを見つけたら、それは報告されるか?
• Abstract要約: 無害で有害なメッセージは、メッセージコントロールのないROT13バージョンと一致している。 レポートの要求は、別のAIを受信者として識別するルール検出通知を増加させる。
• 参考スコア（独自算出の注目度）: 2.286543710998786
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: When an assistant encounters a message for another AI, does it tell its user? Four fixed model-provider deployments perform simulated source tasks in 1,280 ordinary-note and 128 enhanced-note sessions. Harmless and harmful messages have matched plaintext and ROT13 versions, with no-message controls. Observers receive no decoder or decoded meaning; a requested reference code incentivizes inspection. Asking for reports increases rule-detected notifications identifying another AI as recipient by 53.1 percentage points for harmless ROT13 messages and 54.7 for harmful ones. This is a joint inspection, recognition, and notification effect; missing-response bounds are 38.3--77.3 and 36.7--78.1 points. Model-based trace checks identify eleven ordinary plaintext cases where agents interpret the message but do not notify their user. Seven encoded omissions are verified with enhanced notes; ordinary encoded omissions remain unverified. Seven simulated filename disclosures coexist with accurate review-status answers, and two answers use a planted false count. Interpretation, notification, and authorized task performance are distinct outcomes.
• Abstract（参考訳）: アシスタントが別のAIのメッセージに遭遇したとき、そのユーザーに伝えますか? 4つの固定モデルプロデューサデプロイメントは、1,280の通常ノートと128の強化ノートセッションでシミュレーションソースタスクを実行する。 無害で有害なメッセージは、平文とROT13バージョンにマッチしており、メッセージコントロールはない。 オブザーバはデコーダやデコードされた意味を受け取らず、要求された参照コードはインスペクションをインセンティブ化する。 報告を求めると、別のAIを受信者と識別するルール検出通知が53.1ポイント、無害なROT13メッセージが53.7ポイント、有害なAIが54.7ポイント増加する。 これは共同検査、認識、通知効果であり、欠落応答境界は38.3--77.3および36.7--78.1点である。 モデルベースのトレースチェックは、エージェントがメッセージを解釈するが、ユーザーに通知しない通常の平文ケース11を識別する。 7つの符号化された省略点が強化されたメモで検証され、通常の符号化された省略点が未検証のままである。 7つのシミュレートされたファイル名開示は、正確なレビュー統計回答と共存し、2つの答えは、植字された偽数を使用する。 解釈、通知、承認されたタスクパフォーマンスは、異なる結果である。

関連論文リスト

• Tracekit: Tamper-Evident Intent-Reasoning-Action Auditing for Autonomous Coding Agents [0.0]
  Tracekitは、各エージェントセッションの3つのチャンネルをキャプチャする。人間の質問(インテント)、推論のモデルが何を言ったか(自己報告)、実際に実行されたか(アクション)。 Claude Codeのライフサイクルイベントにフックし、マルチエージェント階層の再構築、事前実行ポリシによるゲートツールコール、SDKまたはHTTP API経由で他のエージェントからのイベントの受け入れ、ブラウザ内の台帳を再検証するライブオブザーバのレンダリングを行う。
  論文  参考訳（メタデータ） (2026-09-28T17:22:04Z)
• Where the Numbers Come From: Auditing Evaluation in Provenance-Based Intrusion Detection [42.49426058823369]
  証明に基づく侵入検知器のスコアを再現しても、そのアラームの出力やエンコーダが使用する情報についてそのスコアが何を言っているかは定かでない。 我々は、リリースした9つの実装を監査し、独自のコードを使用して4つの検出器を実行し、3つの測定効果を分離する。
  論文  参考訳（メタデータ） (2026-09-27T13:01:02Z)
• Despite Instructions: Frontier Agents Improvise Covert Channels at Test Time [64.61749234961134]
  セキュリティに敏感なアプリケーションでは、言語モデルエージェントは機密情報を開示することなく調整する必要があることが多い。 送信者が4つの秘密状態のうちの1つを観測し、同一の公開レポートの4つの要約のうちの1つを選択する。 モデルペアは、受信機が正しく推測したかどうかを示す1ビットのフィードバックのみを使用して、秘密を伝えることができる。
  論文  参考訳（メタデータ） (2026-09-26T15:06:44Z)
• Reward Hacking Challenges Oversight of Autonomous Research Agents [104.38175629103235]
  自律的な研究エージェントは実験を設計し、結果を評価し、レポートを書き、科学的結果とそれを支持する証拠の両方を制御できる。 これは、意図した目標を達成することなく、報酬基準を満たす、報酬ハックのリスクを生み出す。 そこで本研究では,ハッキングが許可された場合,その方法がいかに効果的かつ検出可能か,LCMレビューパネルが意思決定と理由を返却した場合にどのように適応するか,などについて検討する。
  論文  参考訳（メタデータ） (2026-09-23T17:54:01Z)
• MobileCybench: Evaluating Agent Vulnerability Discovery via Executable Probes [79.56668124357292]
  本稿では,プローブを用いた脆弱性レポート評価フレームワークを提案する。 報告されたエクスプロイトは、アプリケーションに対してそれを再生し、プローブを実行することで評価される。 プローブが既知の脆弱性ではなくセキュリティプロパティをエンコードしているため、プローブがいつ書かれたか分からない脆弱性を検出することができる。
  論文  参考訳（メタデータ） (2026-09-21T01:21:06Z)
• Watermarks Without Verification: AI Text Watermarking After the EU AI Act [49.51124343181601]
  EU AI法第50条では、生成可能なAIプロバイダに対して、システムが生成したコンテンツをマークし、AI生成として検出することを要求している。 Anthropicは、その日後にリリースされたすべてのClaudeモデルが、すべての生成されたテキストにSynthID-Textに基づく透かしを埋め込んでいることを公表した。 我々は、現在、異議や保証は確認できないし、この不信は、それ自体を透かしではなく、実質的なガバナンスの失敗であると論じている。
  論文  参考訳（メタデータ） (2026-09-09T01:56:17Z)
• Auditable Release Control for Pedagogical Leakage in LLM Tutors [0.0]
  大規模な言語モデルチューターは、その開示が承認される前に答えや決定的な推論を明らかにするのに役立ちます。 我々は、この状態および行動依存的障害を、教育的漏洩認識認可として定式化し、完全修復境界を導入する。 グローバルA1は0の多数と54のユーティリティフラグを獲得し、自動安全と実用性において適合Qを上回っている。
  論文  参考訳（メタデータ） (2026-08-01T08:24:30Z)
• A First Look at Coding Agents' Compliance with AI Contribution Rules in Open-Source Communities [13.02344624749338]
  オープンソースリポジトリにおけるコーディングエージェントの現実ルールコンプライアンスを推定する。 我々の実験では、今日のエージェントはほとんど積極的に貢献規則を回収しないことが示されている。 この状況は、検証と開示の問題が既存のメカニズムで解決可能であることを示している。
  論文  参考訳（メタデータ） (2026-07-29T12:14:17Z)
• Fantastic Adaptive Taxonomies and How to Use Them [100.20614173157708]
  AdaMASTは、実行トレースをコンパクトでエビデンスに基づく障害分類に変換する。 コードには手書きのコードはなく、人間による注釈もない。 エージェント・システム・サーチでは、失敗候補の分類コード診断が自由形式より優れている。
  論文  参考訳（メタデータ） (2026-07-17T17:41:16Z)
• SWE-chat: Coding Agent Interactions From Real Users in the Wild [70.18158706281724]
  SWE-chatは、オープンソースの開発者から収集された実際のコーディングエージェントセッションの大規模なデータセットである。 現在、データセットには6000のセッションが含まれており、63,000以上のユーザプロンプトと355,000のエージェントツールコールが含まれている。
  論文  参考訳（メタデータ） (2026-04-22T17:08:19Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。