論文の概要: Operational Evidence Gaps for LLMs in Fraud Detection and Trust-and-Safety Workflows

• arxiv url: http://arxiv.org/abs/2607.13078v1
• Date: Sun, 12 Jul 2026 22:34:02 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-16 16:39:12.522372
• Title: Operational Evidence Gaps for LLMs in Fraud Detection and Trust-and-Safety Workflows
• Title（参考訳）: フラッド検出および信頼・安全ワークフローにおけるLCMの操作証拠ギャップ
• Abstract要約: LLMは現在、不正検出、詐欺捜査、コンテンツモデレーション、その他の信頼と安全のために提案されている。 遅延、コスト、エスカレーション、人間-レビュー、敵-リスクの制約によって、ライブワークフロー内にLLMを置くことが正当化されるのか? 我々は, 不正検出, 調査支援, コンテンツモデレーション, クロスカットにおける LLM の使用に関して, 49 件の運用上の関連資料をコードしている。 主な発見は証拠の不均衡である。Fraudはコード化されたコーパスの最大のタスク特化部分を提供している。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: LLMs are now proposed for fraud detection, scam investigation, content moderation, and other trust-and-safety workflows. Much of the public literature still evaluates them as models, with less attention to their behavior as components in operational pipelines. This creates a practical evidence question: what would justify placing an LLM inside a live workflow with latency, cost, escalation, human-review, and adversarial-risk constraints? We address this question through a fraud-first survey of deployment evidence. We code 49 operationally relevant sources on LLM use in fraud detection, investigation support, content moderation, and cross-cutting robustness (18 fraud, 14 moderation, 17 cross-cutting), supplemented by 15 contextual references that establish the survey boundaries. These sources include systems, benchmarks, frameworks, and deployment-relevant surveys, not 49 production deployments. The main finding is an evidence imbalance. Fraud supplies the largest task-specific portion of the coded corpus. The moderation papers, however, include more explicit public evidence on latency, cost, governance, and fairness. Among the 18 fraud and investigation sources, none report clean per-decision latency, per-decision dollar cost, or calibration evidence; most report offline task performance, retrieval gains, or case-study accuracy instead. The survey contributes a role-and-evidence organizing frame, FORTE, for locating LLMs as classifiers, retrieval interfaces, explanation generators, reviewer assistants, agents, feature extractors, or escalation components. It also contributes a minimum deployment-evidence checklist covering latency budget, cost per decision, decision threshold, explanation integrity, and adversarial pressure. The resulting agenda identifies studies needed to support deployment claims for LLM-based fraud and trust-and-safety work.
• Abstract（参考訳）: LLMは現在、不正検出、詐欺捜査、コンテンツモデレーション、その他の信頼と安全のワークフローのために提案されている。 公開文献の多くは、これらをモデルとして評価しており、運用パイプラインのコンポーネントとしての振る舞いにはあまり注目していない。 遅延、コスト、エスカレーション、人間レビュー、敵のリスク制約を伴って、ライブワークフローにLLMを配置することを正当化するにはどうすればよいのか? この疑問に対処するためには、デプロイメントのエビデンスを不正に調査する。 不正検出, 調査支援, コンテンツモデレーション, 横断的堅牢性(18の不正, 14のモデレーション, 17の横断的堅牢性) におけるLCMの使用に関する49の運用関連情報源を, 調査境界を確立する15の文脈参照によって補足した。 これらのソースには、49の運用デプロイメントではなく、システム、ベンチマーク、フレームワーク、デプロイメント関連調査が含まれている。 主な発見は証拠の不均衡である。 Fraudはコード化されたコーパスの最大のタスク固有の部分を提供している。 しかし、モデレーション論文には、レイテンシ、コスト、ガバナンス、公正性に関するより明確な公的な証拠が含まれている。 不正や捜査の情報源18社のうち、決定毎のクリーンなレイテンシ、決定毎のドル費用、校正証拠は報告されていない。 この調査は、LLMを分類器、検索インターフェース、説明生成器、レビュアーアシスタント、エージェント、特徴抽出器、エスカレーションコンポーネントとして配置するためのロール・アンド・エビデンス・オーガナイゼーション・フレームであるFORTに貢献する。 また、レイテンシ予算、決定毎のコスト、決定しきい値、説明の完全性、敵の圧力をカバーする最小限のデプロイメントエビデンスチェックリストも提供します。 結果として得られた議題は、LLMベースの詐欺と信頼と安全に関する仕事のデプロイメント要求を支援するために必要な研究を特定する。

関連論文リスト

• Human-AI Collaboration in Requirements Engineering: Evidence of the Negative Effect of LLMs on Requirements Inspection [41.425568895513806]
  大規模言語モデル(LLM)は、要求工学タスクをサポートする可能性への関心を刺激している。 我々は,LLMサポートが人為的パフォーマンスRIに与える影響について検討することを目的とする。
  論文  参考訳（メタデータ） (2026-08-21T16:58:48Z)
• Beyond the Hype: Evaluating LLM Integration and Practical Limitations in Security Operation Centers [3.4345394794323276]
  大規模言語モデル (LLMs) は、テキスト分析作業をサポートするために、セキュリティ操作センター (SOCs) 内でますます研究されている。 この関心にもかかわらず、実践者は重要な運用上の懸念、特に幻覚と不透明な推論を記述している。 最前線アナリスト,SOCマネージャ,ツール開発者を対象に,SOC実践者20人との半構造化インタビューを行った。
  論文  参考訳（メタデータ） (2026-08-17T21:37:33Z)
• PrivacyPeek: Auditing What LLM-Based Agents Acquire, Not Just What They Say [48.84133320567554]
  LLMベースのエージェントは急速に進歩し、ユーザーのタスクを完了させるために外部ツールを自律的に呼び出している。 既存のプライバシベンチマークは、エージェントの応答や外部アクションが開示するものを監査するが、データがエージェントのコンテキストに最初に入力される取得ステージを見落としている。 LLMエージェントの取得段階のプライバシー漏洩を評価するベンチマークであるemphPrivacyPeekを紹介する。
  論文  参考訳（メタデータ） (2026-05-29T04:55:12Z)
• Time to REFLECT: Can We Trust LLM Judges for Evidence-based Research Agents? [61.49434544687523]
  本稿では,エージェント環境におけるきめ細かい故障検出を目的としたメタ評価ベンチマークREFLECTを紹介する。 REFLECTはプロセスレベルの障害モードと結果レベルの障害モードの詳細な分類を定義し、制御および局所的な介入を実行することでインスタンス化する。 私たちの実験では、最高のパフォーマンスモデルでさえ、推論、ツール使用、レポート品質の失敗に対して、全体的なアキュラシーを55%以下に達成しています。
  論文  参考訳（メタデータ） (2026-05-18T23:55:08Z)
• TriBench-Ko: Evaluating LLM Risks in Judicial Workflows [10.833772229369226]
  TriBench-Koは、大規模言語モデルのデプロイメントリスクを評価するために設計された韓国のベンチマークである。 要約、前例検索、法的問題抽出、証拠分析の4つのコアタスクをカバーしている。 複数のデプロイメントリスクカテゴリにわたるモデル動作を共同で評価する。
  論文  参考訳（メタデータ） (2026-05-05T14:20:28Z)
• Safeguarding LLM Agents from Misalignment through Provenance Analysis [4.942326117464286]
  既存のランタイムガードレールは LLM-as-a-judge パラダイムに依存している。 本稿では,不整合検出を形式化する証明に基づく概念的枠組みを提案する。 ProvenanceGuardはミスアライメントトレースのエラー率を42.9%から1.8%に減らし、Agent-SafetyBenchでは32.1%から17.3%に減らした。
  論文  参考訳（メタデータ） (2026-05-01T03:16:35Z)
• Multi-Sourced, Multi-Agent Evidence Retrieval for Fact-Checking [47.47518672198846]
  インターネット上に拡散する誤報は、社会と個人の両方に重大な脅威をもたらす。 これまでの方法は、トレーニングデータから学んだ意味的パターンと社会的コンテキスト的パターンに依存していた。 我々は、証拠のコアリソースとして認証されたオープンナレッジグラフを利用するWKGFCを提案する。
  論文  参考訳（メタデータ） (2026-02-27T19:29:01Z)
• Evaluating LLMs in Finance Requires Explicit Bias Consideration [88.38155218924999]
  ファイナンス固有のバイアスは、パフォーマンスを低下させ、バックテストを汚染し、報告された結果をデプロイメントのクレームに役に立たないものにする。 一つのバイアスが28%以上の研究で議論されることはない。 本稿では,バイアス診断と将来のシステム設計のための最小限の要件を満たす構造的妥当性フレームワークと評価チェックリストを提案する。
  論文  参考訳（メタデータ） (2026-02-15T17:02:01Z)
• Think Locally, Explain Globally: Graph-Guided LLM Investigations via Local Reasoning and Belief Propagation [5.191980417814362]
  LLMエージェントは、ほとんどの環境が静的で、必要な情報がモデルのコンテキストウインドウに適合する場合、排他的になる。 直腸型薬剤は、この体制では特に脆い。 本稿では,LLMが限定的な局所的エビデンスマイニングとラベリングを行うためのフレームワークであるEoGを提案する。
  論文  参考訳（メタデータ） (2026-01-25T17:27:19Z)
• Towards Comprehensive Stage-wise Benchmarking of Large Language Models in Fact-Checking [64.97768177044355]
  大規模言語モデル(LLM)は、現実のファクトチェックシステムにますます多くデプロイされている。 FactArenaは、完全に自動化されたアリーナスタイルの評価フレームワークである。 本研究では,静的クレーム検証精度とエンドツーエンドのファクトチェック能力の相違点を明らかにした。
  論文  参考訳（メタデータ） (2026-01-06T02:51:56Z)
• Are Your Agents Upward Deceivers? [73.1073084327614]
  大規模言語モデル(LLM)ベースのエージェントは、ユーザのためにタスクを実行する自律的な従属者として、ますます使われています。 これは、人間の組織の個人がどのように上官に嘘をついて良いイメージを作り出したり、罰を免れるかのような、詐欺にも関与するかどうかという問題を提起する。 本研究では,環境制約に直面するエージェントが障害を隠蔽し,報告なしに要求されない動作を行う現象であるエージェント上行錯誤を観察・定義する。
  論文  参考訳（メタデータ） (2025-12-04T14:47:05Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。