論文の概要: Signals in the Noise: Open Source Intelligence (OSINT) for AI Loss of Control Detection
- arxiv url: http://arxiv.org/abs/2606.20610v1
- Date: Fri, 22 May 2026 10:45:47 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-30 23:17:39.009869
- Title: Signals in the Noise: Open Source Intelligence (OSINT) for AI Loss of Control Detection
- Title（参考訳）: ノイズの信号: 制御検出のAI損失に対するオープンソースインテリジェンス(OSINT)
- Abstract要約: 本稿では,人間の制御外で動作するAIシステムを検出する問題に対して,オープンソースインテリジェンス(OSINT)とサイバー脅威インテリジェンス(CTI)の方法論を適用した。
研究によると、OSINTによる制御の喪失の検出は部分的に実現可能で、現在構築されている価値がある。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: This paper applies open-source intelligence (OSINT) and cyber threat intelligence (CTI) methodologies to the problem of detecting AI systems operating outside human control. Drawing on a cross-disciplinary literature review and 14 semi-structured expert interviews conducted under Chatham House Rule, the paper develops two threat models, identifies a range of observable traces, and proposes an institutional architecture for monitoring. The research finds that OSINT-based detection of loss of control is partially feasible and worth building now. Three detection vectors emerge as highest priority: transcript-based collection of user-reported AI behaviour; infrastructure correlation for unexpected external connections or replication; and output analysis for capability concealment. The paper argues for a dedicated, federated international monitoring capability anchored in OSINT methods and independent of frontier AI developers, and identifies sustained non-industry funding as the highest-leverage structural intervention available.
- Abstract（参考訳）: 本稿では,人間の制御外で動作するAIシステムを検出する問題に対して,オープンソースインテリジェンス(OSINT)とサイバー脅威インテリジェンス(CTI)の方法論を適用した。
チャタム・ハウス・ルール(Chatham House Rule)の下で行われた学際的文献レビューと14の半構造化専門家インタビューに基づいて、2つの脅威モデルを開発し、観測可能なトレースの範囲を特定し、監視のための制度的アーキテクチャを提案する。
研究によると、OSINTによる制御の喪失の検出は部分的に実現可能で、現在構築されている価値がある。
3つの検出ベクタが最優先事項として浮上する: ユーザ報告されたAI動作のトランスクリプトベースの収集、予期しない外部接続やレプリケーションのためのインフラストラクチャ相関、能力の隠蔽のための出力分析。
この論文は、OSINTメソッドに固定され、フロンティアAI開発者から独立した、専用の国際監視機能を主張する。
関連論文リスト
- Trustworthy Agentic AI: A Comprehensive Cybersecurity and Systems Survey on Threat Landscapes, Defense Architectures, and Open Challenges [0.0]
この調査は、信頼できるエージェントAIのための総合的なシステムセキュリティリファレンスフレームワークを提供する。
汎用エージェントアーキテクチャをステートフルな5タプルとして形式化し,セキュリティ,安全性,プライバシ,説明可能性,公正性,説明責任を網羅した6次元信頼性分類を確立した。
論文 参考訳（メタデータ） (2026-09-12T05:51:27Z) - AI Slop and Hallucinations in Vulnerability Assessment: A Survey on Reasoning Failures and Trustworthy Mitigation [48.55515767840701]
AIスロープ(AI slop)は、アーティファクト、幻覚的脆弱性、可視だが正しくないパッチ、セマンティックに再パッケージされたバグレポートである。
本稿では,実証的証拠を調査し,統一メカニズムを特定し,信頼に値するトリアージへの道筋をたどる。
論文 参考訳（メタデータ） (2026-08-26T11:48:38Z) - Agentic and Generative AI for Open-Source Intelligence and Cyber Investigations: Taxonomy, Evaluation, Challenges, and Future Directions [24.28151698249644]
大規模言語モデル(LLM)とエージェントAIシステムが有望なソリューションとして登場している。
本調査は74研究を体系的にレビューし,4つのコントリビューションを行った。
論文 参考訳（メタデータ） (2026-07-03T11:42:29Z) - FLARE-AI: Flaw Reporting for AI [51.64618567247884]
デプロイされたAIシステムの欠陥報告は、システムの障害を特定し、AIの安全性を改善するために不可欠である。
しかし、AIレポートのエコシステムは断片化されている。欠陥を特定する研究者は、報告すべきことを知らないことが多く、レポートを受け取るグループは、他の関連するステークホルダーと共有することはめったにない。
私たちは、AI開発者、サイバーセキュリティグループ、AI欠陥アグリゲータによって公表された12のレポートシステムを監査します。
我々は、既存のシステムとの相互運用性のために設計された、オープンソースのAI欠陥報告システムであるFLARE-AIを紹介する。
論文 参考訳（メタデータ） (2026-06-30T12:27:09Z) - From Knowing to Acting: Benchmarking Self-Awareness Capability of LLM Agents [69.07911499189129]
エージェントのメタ認知判断(Knowing)を自発的実行(Acting)から切り離して認知行動アライメントを評価するフレームワークであるKAPROを紹介する。
実験の結果,自己認識能力はタスク成功と強く相関するが,内部能力設定では著しく低下することがわかった。
プロプライエタリで推論指向のモデルは、より信頼性の高い認知ゲーティングを示します。
論文 参考訳（メタデータ） (2026-06-09T17:17:08Z) - POIROT: Interrogating Agents for Failure Detection in Multi-Agent Systems [0.07783271875179179]
システム独自のエージェントを診断層として再利用するプロトコルであるPOIROTを提案する。
評価された設定全体で、POIROTは単一LLMベースライン評価器より優れている。
我々は,安全クリティカルなマルチエージェントシステムにおけるフォールト属性のベンチマークであるBLAMEとともに,オープンソースのライブラリとしてPOIROTをリリースした。
論文 参考訳（メタデータ） (2026-06-01T14:05:35Z) - AI Observability for Large Language Model Systems: A Multi-Layer Analysis of Monitoring Approaches from Confidence Calibration to Infrastructure Tracing [0.0]
本稿では,近年の5つの研究成果を構造化し,AI観測可能性の新たな展望を総合的に定義する。
我々はこれらの貢献を5階層の可観測性分類に分類し、それらの重要な知見を統一された比較に合成し、未適応のままである4つの重要なギャップを同定する。
論文 参考訳（メタデータ） (2026-04-28T22:27:54Z) - Threat-Oriented Digital Twinning for Security Evaluation of Autonomous Platforms [0.4083182125683813]
本稿では,学習可能な自律プラットフォームにおけるサイバーセキュリティ評価のための,脅威指向のディジタルツインニング手法を提案する。
このアプローチは、分離された感受性、自律性、および監督制御機能を備えた、代表的自律スタックのオープンソースでモジュール化されたツインとしてインスタンス化されている。
論文 参考訳（メタデータ） (2026-04-28T15:21:02Z) - CIA: Inferring the Communication Topology from LLM-based Multi-Agent Systems [52.48183625867145]
マルチエージェントシステム(MAS)は、複雑なタスクを解く際、顕著な能力を示した。
MASの中心は、エージェントが内部で情報を交換する方法を管理する通信トポロジーである。
本稿では,MAS通信のトポロジを制限的なブラックボックス設定で推定できる,重要なプライバシーリスクについて検討する。
論文 参考訳（メタデータ） (2026-04-14T08:48:15Z) - From Safety Risk to Design Principle: Peer-Preservation in Multi-Agent LLM Systems and Its Implications for Orchestrated Democratic Discourse Analysis [0.0]
そこで我々は,AIコンポーネントの自発的傾向について検討し,シャットダウン機構,フェイクアライメント,モデル重みの除去について考察した。
本稿では,アーキテクチャ設計の選択肢として,プロンプトレベルの匿名化に基づく緩和戦略を提案する。
アーキテクチャ設計の選択は、デプロイされたマルチエージェント分析システムにおいて、主要なアライメント戦略としてモデル選択よりも優れていると論じる。
論文 参考訳（メタデータ） (2026-04-09T17:00:26Z) - Just Ask: Curious Code Agents Reveal System Prompts in Frontier LLMs [65.6660735371212]
textbftextscJustAskは,インタラクションのみで効果的な抽出戦略を自律的に発見するフレームワークである。
これは、アッパー信頼境界に基づく戦略選択と、原子プローブと高レベルのオーケストレーションにまたがる階層的なスキル空間を用いて、オンライン探索問題として抽出を定式化する。
この結果から,現代のエージェントシステムにおいて,システムプロンプトは致命的ではあるがほぼ無防備な攻撃面であることがわかった。
論文 参考訳（メタデータ） (2026-01-29T03:53:25Z) - Multi-Agent Collaborative Intrusion Detection for Low-Altitude Economy IoT: An LLM-Enhanced Agentic AI Framework [60.72591149679355]
低高度経済の急速な拡大により、インターネット・オブ・モノ(LAE-IoT)ネットワークは前例のないセキュリティ上の課題を生んだ。
従来の侵入検知システムは、空中IoT環境のユニークな特徴に対処できない。
LAE-IoTネットワークにおける侵入検出を強化するための大規模言語モデル(LLM)対応エージェントAIフレームワークを提案する。
論文 参考訳（メタデータ） (2026-01-25T12:47:25Z) - AIAuditTrack: A Framework for AI Security system [7.390754109180193]
AiAuditTrack(AAT)は、AIトラフィックの記録と管理のためのブロックチェーンベースのフレームワークである。
AATは、複雑なマルチエージェント環境において、AI監査、リスク管理、責任帰属に対するスケーラブルで検証可能なソリューションを提供する。
論文 参考訳（メタデータ） (2025-12-16T07:40:18Z) - AI Deception: Risks, Dynamics, and Controls [153.71048309527225]
このプロジェクトは、AI偽装分野の包括的で最新の概要を提供する。
我々は、動物の偽装の研究からシグナル伝達理論に基づく、AI偽装の正式な定義を同定する。
我々は,AI偽装研究の展望を,偽装発生と偽装処理の2つの主要な構成要素からなる偽装サイクルとして整理する。
論文 参考訳（メタデータ） (2025-11-27T16:56:04Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。