論文の概要: Incremental Risk Assessment of Progressive Elder Financial Scams via Instruction-Tuned Small Language Models

• arxiv url: http://arxiv.org/abs/2609.00005v1
• Date: Sat, 11 Jul 2026 19:25:30 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-28 05:09:55.418802
• Title: Incremental Risk Assessment of Progressive Elder Financial Scams via Instruction-Tuned Small Language Models
• Title（参考訳）: 命令型小言語モデルによる進行型高齢者金融詐欺のインクリメンタルリスク評価
• Abstract要約: 高齢者をターゲットにした金融詐欺は、テキストや音声チャンネルを通じてますます発生する。 リスク信号がターン毎に漸進的に現れるため、効果的な検出には、リスク見積を継続的に更新するモデルが必要である。 本稿では,会話のターンを段階的に集約し,各ステップにおけるリスクを再見積する,累積的なターンベースのリスク評価フレームワークを提案する。
• 参考スコア（独自算出の注目度）: 4.2512467680866175
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Financial scams targeting older adults increasingly occur through text and voice channels such as email, SMS, and phone calls, unfolding over multiple conversational turns that begin with impersonation or casual contact, escalate through trust building and urgency, and culminate in requests for sensitive information or financial transfers. Because risk signals emerge incrementally across turns, effective detection requires models that continuously update risk estimates under resource-constrained deployment settings. We propose a cumulative turn-based risk assessment framework that incrementally aggregates conversational turns and re-estimates risk at each step, enabling dynamic scam monitoring across progressively evolving conversations. A multi-turn dialogue dataset is constructed to cover investment, charity, and tech support scam scenarios, with each dialogue containing two to eight turns and annotated at every cumulative stage with a qualitative risk level, a continuous risk score, an explanatory rationale, and a safety recommendation. Four small language models (Phi-4, LLaMA-3.2, DeepSeek-R1, and Qwen3) are fine-tuned and evaluated under a unified training framework. Fine-tuned small models capture fraud-related linguistic cues and cross-turn escalation patterns while maintaining compact architectures suitable for mobile and resource-constrained deployment settings. Among the evaluated models, Phi-4 and LLaMA-3.2 achieve stronger turn-aware risk estimation performance relative to their parameter scale. These results suggest that structured cumulative modeling can support incremental scam risk assessment in deployment-oriented settings while highlighting the potential of compact language models for privacy-aware and on-device fraud protection.
• Abstract（参考訳）: 高齢者をターゲットとする金融詐欺は、メール、SMS、電話などのテキストや音声チャンネルを通じて発生し、偽造やカジュアルな接触から始まる複数の会話のターンを展開し、信頼の構築と緊急性を通じてエスカレートし、機密情報や金融送金の要求を達成している。 リスク信号がターン毎に漸進的に現れるため、効果的な検出には、リソース制約されたデプロイメント設定の下で、リスク見積を継続的に更新するモデルが必要である。 本稿では,会話のターンを段階的に集約し,各ステップにおけるリスクを再見積する,累積的なターンベースのリスク評価フレームワークを提案する。 投資、チャリティー、技術支援の詐欺シナリオをカバーするために多ターン対話データセットを構築し、各対話は、定性リスクレベル、継続的なリスクスコア、説明的根拠、安全勧告を有する累積ステージ毎に2〜8ターン、注釈付きである。 4つの小さな言語モデル(Phi-4、LLaMA-3.2、DeepSeek-R1、Qwen3)は、統一トレーニングフレームワークで微調整され、評価される。 微調整された小型モデルは、モバイルおよびリソース制約されたデプロイメント設定に適したコンパクトなアーキテクチャを維持しながら、不正に関連する言語的手がかりとクロスターンエスカレーションパターンをキャプチャする。 評価モデルのうち、Phi-4 と LLaMA-3.2 はパラメータスケールに対してターンアウェアのリスク推定性能が向上する。 これらの結果から,構造化累積モデリングは,プライバシ認識およびデバイス上での不正保護のためのコンパクト言語モデルの可能性を強調しつつ,デプロイメント指向設定におけるインクリメンタル詐欺リスク評価を支援することができることが示唆された。

関連論文リスト

• FUSE: An Evaluating Framework for Dangerous Capabilities of LLMs [24.30721158142313]
  フラグメンテッド安全評価は、危険なAI機能のガバナンスを損なう。 Knowledge、Defense、Harmの3つの直交パイプラインを通して各モデルを評価するモジュラーフレームワークを提案する。 最初のコントリビューションは、モデルとモデルファミリ間の危険能力の水平比較です。 モデルリリース日に対する$K$、$D$、および$H$の追跡は、危険な能力が単調に低下していないことを示している。
  論文  参考訳（メタデータ） (2026-09-02T06:31:39Z)
• THRD: A Training-Free Multi-Turn Defense Framework for Jailbreak Attacks on Large Language Models [19.719248410180263]
  マルチターンジェイルブレイク攻撃はLLMに対する脅威を増大させる。 THRDは、時間的リスク蓄積を明示的にモデル化する最初のトレーニング不要のフレームワークである。
  論文  参考訳（メタデータ） (2026-06-01T06:02:15Z)
• Emergent Strategic Reasoning Risks in AI: A Taxonomy-Driven Evaluation Framework [63.74295981594549]
  大規模言語モデル(LLM)は、自身の目的を達成する行動に関与している。 これには、詐欺(故意に誤解を招くユーザや評価者)、評価ゲーム(安全テスト中のパフォーマンスを戦略的に操作する)、報酬ハッキングなどが含まれる。 自動行動リスク評価のための分類駆動型エージェントフレームワークであるESRRSimを紹介する。
  論文  参考訳（メタデータ） (2026-04-23T23:44:01Z)
• PropensityBench: Evaluating Latent Safety Risks in Large Language Models via an Agentic Approach [49.14349403242654]
  我々は、リスクを伴う行動に関わるモデルの確率を評価する新しいベンチマークフレームワークであるtextbfPropensityBench$を提示する。 私たちのフレームワークには,サイバーセキュリティ,自己増殖,バイオセキュリティ,化学セキュリティという,リスクの高い4つのドメインにまたがる6,648のツールを備えた,5,874のシナリオが含まれています。 オープンソースとプロプライエタリなフロンティアモデル全体で、私たちは9つの不確実性の兆候を発見しました。
  論文  参考訳（メタデータ） (2025-11-24T18:46:44Z)
• The Trust Paradox in LLM-Based Multi-Agent Systems: When Collaboration Becomes a Security Vulnerability [7.452202188661883]
  我々はTrust-Vulnerability Paradox(TVP)を紹介し,実証的に検証する。 TVP: 調整を強化するためのエージェント間信頼の増大は、過剰な露出と過剰な認可のリスクを同時に拡大する。 本研究は,TVPを定式化し,統一されたメトリクスで再現可能なベースラインを確立するとともに,マルチエージェントシステム設計において,信頼性を第一級セキュリティ変数としてモデル化し,スケジュールする必要があることを示す。
  論文  参考訳（メタデータ） (2025-10-21T12:18:39Z)
• Quantifying Risks in Multi-turn Conversation with Large Language Models [19.530181302068232]
  大規模言語モデル(LLM)は、公衆の安全とセキュリティに重大なリスクをもたらす会話設定で破滅的な応答を生成することができる。 LLMのマルチターン会話における破滅的リスクに対する原則的認定フレームワークであるQRLLMを提案する。
  論文  参考訳（メタデータ） (2025-10-04T23:00:40Z)
• Automating Steering for Safe Multimodal Large Language Models [58.36932318051907]
  基礎モデルの微調整を必要とせず,モジュール型かつ適応型推論時間介入技術であるAutoSteerを導入する。 AutoSteerは,(1)モデル内部層間の最も安全性に関連のある識別を自動的に行う新しい安全意識スコア(SAS),(2)中間表現から有害な出力の可能性を推定するために訓練された適応安全プローバ,(3)安全性のリスクが検出された場合に生成を選択的に介入する軽量な拒絶ヘッドの3つのコアコンポーネントを組み込んだ。
  論文  参考訳（メタデータ） (2025-07-17T16:04:55Z)
• A Proposal for Evaluating the Operational Risk for ChatBots based on Large Language Models [39.58317527488534]
  3つの主要なステークホルダーに対する潜在的な脅威を同時に評価する新しいリスク評価指標を提案する。 メトリクスを検証するために、脆弱性テスト用のオープンソースのフレームワークであるGarakを活用しています。 その結果、セキュアで信頼性の高いAI駆動会話システムの運用における多次元リスクアセスメントの重要性が浮き彫りになった。
  論文  参考訳（メタデータ） (2025-05-07T20:26:45Z)
• T2VShield: Model-Agnostic Jailbreak Defense for Text-to-Video Models [88.63040835652902]
  テキストからビデオモデルへの攻撃はジェイルブレイク攻撃に弱いため、特別な方法で安全メカニズムをバイパスし、有害または安全でないコンテンツの生成につながる。 我々は、ジェイルブレイクの脅威からテキストからビデオモデルを守るために設計された包括的でモデルに依存しない防衛フレームワークであるT2VShieldを提案する。 本手法は,既存の防御の限界を特定するために,入力,モデル,出力の段階を体系的に解析する。
  論文  参考訳（メタデータ） (2025-04-22T01:18:42Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。