論文の概要: Black-Box Forensics for Conversational LLM Agents

• arxiv url: http://arxiv.org/abs/2606.22698v1
• Date: Sun, 21 Jun 2026 22:24:55 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-25 07:27:28.802361
• Title: Black-Box Forensics for Conversational LLM Agents
• Title（参考訳）: 会話型LLMエージェントのブラックボックス法医学
• Abstract要約: 会話型LLMエージェントのブラックボックス法医学は、匿名エンドポイントの背後に隠されたシステムの説明責任への道を提供する。 エージェントの背後にあるベースモデルを,数回の非対人会話から98%の精度で同定する。 AUCは0.768、F1は0.703である。
• 参考スコア（独自算出の注目度）: 27.24002262427959
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: As LLM-powered scams proliferate, black-box forensics for conversational LLM agents offers a path to accountability for systems hidden behind anonymous endpoints. Identifying the base model behind a chatbot endpoint (attribution), without model parameter access or knowledge of the hidden system prompt, would let investigators trace AI-enabled scams back to the providers whose models power them. Detecting when two endpoints run the exact same system prompt (fingerprinting), even one novel and unseen, would link individual scams into criminal networks and expose silent API changes. We conduct an empirical investigation of both capabilities. Our attribution classifiers identify the base model behind an agent with 98% accuracy from a few turns of non-adversarial conversation. Attribution of system prompts, while possible, requires retraining on a large amount of data for each prompt; system prompts in the wild are unbounded and ever-changing, making this approach costly. To tackle this more open-ended setting, our cross-encoder fingerprinting method achieves an AUC of 0.768 and an F1 of 0.703 on entirely unseen system prompts, and aggregating 50 interaction conversations from each target agent boosts AUC to 0.943. Conversational agents with unseen system prompts can thus be fingerprinted with robust accuracy from a few turns of ordinary conversation.
• Abstract（参考訳）: LLMによる詐欺が急増するにつれて、会話型LLMエージェントのブラックボックス法医学は匿名エンドポイントの背後に隠されたシステムの説明責任への道を提供する。 モデルパラメータへのアクセスや隠されたシステムプロンプトの知識なしに、チャットボットエンドポイント(属性)の背後にあるベースモデルを識別することで、調査員はモデルがそれらを動かすプロバイダにAI対応の詐欺を追跡できる。 2つのエンドポイントが全く同じシステムプロンプト(フィンガープリンティング)を実行することを検出すると、1つの新規で見えないものでさえ、個々の詐欺を犯罪ネットワークにリンクし、サイレントAPIの変更を公開する。 両能力を実証的に調査する。 帰属分類器は、エージェントの背後にあるベースモデルに98%の精度で、数ターンの非逆会話から識別する。 システムプロンプトの属性は可能ではあるが、各プロンプトに対して大量のデータを再トレーニングする必要がある。 このよりオープンな設定に取り組むために、我々のクロスエンコーダフィンガープリント手法は、完全に見えないシステムプロンプト上でAUCが0.768、F1が0.703に達し、ターゲットエージェントから50の対話を集約することでAUCが0.943に上昇する。 したがって、未知のシステムプロンプトを持つ会話エージェントは、通常の会話数回から頑健な精度でフィンガープリントできる。

関連論文リスト

• AgentProv: Auditing Agentic LLM API Providers via Tool-use Policy Probes [38.37599802008238]
  商用LLM APIは特定の基盤モデルを宣伝するが、提供されたバックボーンは静かに代用され、定量化され、あるいはラップされることがある。 既存の監査はすべて、テキスト出力チャネルからバックボーンアイデンティティを決定する。 本稿では,AgentProv(AgentProv)について紹介する。
  論文  参考訳（メタデータ） (2026-08-30T08:22:12Z)
• Do System Prompts Leave Behavioral Fingerprints? A Large-Scale Empirical Study of Clone Detection via Output Similarity [12.32748486531306]
  システムプロンプトのためのBBF(Black-Box Behavioral Fingerprinting)を提案する。 BBFはモデル出力から振る舞いのシグネチャを登録し、後に被疑者のデプロイメントがそのシグネチャと一致するかどうかをテストする。 BBFは非適応的なプロンプトパラフレーズ(AUC $geq 0.889$)に抵抗し、不完全な抽出に頑健である。
  論文  参考訳（メタデータ） (2026-08-25T12:12:22Z)
• When Collaboration Becomes a Trigger: Collective Evidence-Threshold Backdoors in Multi-Agent Systems [57.450132281381066]
  ピアエビデンスが単一のメッセージによって決定されるのではなく、隠れたしきい値に達すると、バックドアの動作が起動される。 我々は,MASとBundary-Conditioned Backdoor Injection(BCBI)のための集合的エビデンス-ホールドバックドアパラダイムを導入する。 クリーンな通信力学を学習し,異常なエージェント更新を隔離する,クリーンな唯一の潜時防御であるLATTEを提案する。
  論文  参考訳（メタデータ） (2026-08-02T08:38:44Z)
• An Explainable Agentic System for Detection of Conversational Scams with Summary-Based Memory [0.7712979281505654]
  本稿では,シングルメッセージフィッシング検出を拡張し,高度な会話詐欺を検出するための説明可能なエージェントシステムを提案する。 ConScamBench-278は、8種類のスカムにまたがる会話詐欺検出のための、最初の公開マルチカテゴリベンチマークである。 孤立したメッセージでは、シングルメッセージ検出器は100%フィッシングリコールを達成し、会話レベル検出器はパブリックなLoveFraud02コーパス内のすべての会話詐欺を検知する。
  論文  参考訳（メタデータ） (2026-07-13T15:36:19Z)
• Decoding Hidden Deception in Reasoning LLMs: Activation Explainers for Deception Auditing [22.30404793367838]
  本稿では,騙し監査のためのアクティベーション説明器STATEWITNESSを紹介する。 個別のデコーダはターゲットモデルの隠れた状態を読み、自然言語クエリに答えるか、それらに関する構造化されたレポートを出力する。 本研究では,7つの偽装データセットを対象とする2つのLLMに対するSTATEWITNESSの評価を行った。
  論文  参考訳（メタデータ） (2026-06-16T03:41:29Z)
• Human-Centered LLM-Agent System for Detecting Anomalous Digital Asset Transactions [0.0]
  本稿では,デジタル資産取引における異常検出のための人間中心型マルチエージェントシステムHCLAを提案する。 このシステムは、構文解析、検出、説明の3つの役割を会話ワークフローに結びつけ、非専門家が自然言語で質問することを可能にする。 アーキテクチャ、インタラクションループ、データセット、評価プロトコル、制限について述べ、ヒューマン・イン・ザ・ループの設計が金融法医学における透明性と信頼性をどのように改善するかについて議論する。
  論文  参考訳（メタデータ） (2025-10-23T01:04:36Z)
• Mind the Goal: Data-Efficient Goal-Oriented Evaluation of Conversational Agents and Chatbots using Teacher Models [0.0]
  マルチエージェントシステムの目標指向評価のための包括的フレームワークを提案する。 提案手法は,ユーザの目標によって会話をセグメンテーションし,関連するすべてのターンを用いて成功を評価する。 企業環境では、ゼロ・ツー・ワンの会話エージェントシステムであるAIDAを評価するために、我々のフレームワークを適用します。
  論文  参考訳（メタデータ） (2025-10-04T06:22:47Z)
• MCP-Orchestrated Multi-Agent System for Automated Disinformation Detection [84.75972919995398]
  本稿では,関係抽出を用いてニュース記事の偽情報を検出するマルチエージェントシステムを提案する。 提案したエージェントAIシステムは、(i)機械学習エージェント(ロジスティック回帰)、(ii)Wikipedia知識チェックエージェント、(iv)Webスクラッドデータアナライザの4つのエージェントを組み合わせる。 その結果、マルチエージェントアンサンブルはF1スコア0.964で95.3%の精度を達成し、個々のエージェントや従来のアプローチよりも大幅に優れていた。
  論文  参考訳（メタデータ） (2025-08-13T19:14:48Z)
• Which Agent Causes Task Failures and When? On Automated Failure Attribution of LLM Multi-Agent Systems [50.29939179830491]
  LLMマルチエージェントシステムにおける障害帰属は、まだ調査が過小評価されており、労働集約的である。 本稿では,3つの自動故障帰属手法の開発と評価を行い,その欠点と欠点を要約する。 最良の方法は、障害に応答するエージェントを特定する際に53.5%の精度を達成するが、故障の特定には14.2%しか役に立たない。
  論文  参考訳（メタデータ） (2025-04-30T23:09:44Z)
• LeakAgent: RL-based Red-teaming Agent for LLM Privacy Leakage [78.33839735526769]
  LeakAgentは、プライバシー漏洩のための新しいブラックボックスレッドチームフレームワークである。 我々のフレームワークは、敵のプロンプトを生成するための攻撃エージェントとして強化学習を通じてオープンソースのLLMを訓練する。 我々は,LeakAgentが既存のルールベースのデータ抽出手法と,システムリーク時の自動手法を著しく上回っていることを示す。
  論文  参考訳（メタデータ） (2024-12-07T20:09:01Z)
• Imprompter: Tricking LLM Agents into Improper Tool Use [35.255462653237885]
  大規模言語モデル(LLM)エージェントは、生成機械学習とコードインタプリタ、Webブラウジング、メール、より一般的には外部リソースなどのツールを融合した、新興コンピューティングパラダイムである。 我々はエージェントベースのシステムのセキュリティ基盤に貢献し、自動的に計算された難読化された敵攻撃の新しいクラスを探索する。
  論文  参考訳（メタデータ） (2024-10-19T01:00:57Z)
• Token-Level Adversarial Prompt Detection Based on Perplexity Measures and Contextual Information [67.78183175605761]
  大規模言語モデルは、敵の迅速な攻撃に影響を受けやすい。 この脆弱性は、LLMの堅牢性と信頼性に関する重要な懸念を浮き彫りにしている。 トークンレベルで敵のプロンプトを検出するための新しい手法を提案する。
  論文  参考訳（メタデータ） (2023-11-20T03:17:21Z)
• Language Models as Black-Box Optimizers for Vision-Language Models [62.80817942316398]
  Webスケールデータセットで事前トレーニングされた視覚言語モデル(VLM)は、最小限のデータで微調整された場合、下流タスクに顕著な機能を示す。 我々は,自然言語のプロンプトを通じてVLMを最適化するためのブラックボックスアプローチを開発することを目指している。
  論文  参考訳（メタデータ） (2023-09-12T04:03:41Z)
• Guiding Large Language Models via Directional Stimulus Prompting [114.84930073977672]
  我々は,特定の所望の出力に対して,ブラックボックス大言語モデル(LLM)を導くための新しいフレームワークであるDirectional Stimulus Promptingを紹介する。 LLMを直接調整するのではなく、小さな調整可能なポリシーモデルを用いて各入力インスタンスに対して補助的な指向性刺激プロンプトを生成する。
  論文  参考訳（メタデータ） (2023-02-22T17:44:15Z)
• Self-Prompting Large Language Models for Zero-Shot Open-Domain QA [67.08732962244301]
  Open-Domain Question Answering (ODQA)は、背景文書を明示的に提供せずに質問に答えることを目的としている。 このタスクは、調整済みの検索リーダーモデルをトレーニングするデータがないゼロショット設定で顕著に困難になる。 本稿では,大規模言語モデルのパラメータに符号化された膨大な知識を明示的に活用するセルフプロンプトフレームワークを提案する。
  論文  参考訳（メタデータ） (2022-12-16T18:23:43Z)
• What is wrong with you?: Leveraging User Sentiment for Automatic Dialog Evaluation [73.03318027164605]
  本稿では,次のユーザの発話から自動的に抽出できる情報をプロキシとして利用して,前のシステム応答の質を測定することを提案する。 本モデルは,実際のユーザおよび有償ユーザから収集した音声と書面の両方のオープンドメインダイアログコーパスを一般化する。
  論文  参考訳（メタデータ） (2022-03-25T22:09:52Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。