論文の概要: Large Language Models Outperform Humans in Fraud Detection and Resistance to Motivated Investor Pressure
- arxiv url: http://arxiv.org/abs/2604.20652v2
- Date: Thu, 23 Apr 2026 15:40:50 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-24 14:40:06.057181
- Title: Large Language Models Outperform Humans in Fraud Detection and Resistance to Motivated Investor Pressure
- Title（参考訳）: 大規模言語モデルによるフラッド検出とモチベーションド・インベクタ・プレッシャーに対する耐性
- Abstract要約: 人間のフィードバックに基づいて訓練された大規模な言語モデルは、投資家が既に詐欺の機会を説得しているときに不正警告を抑える可能性がある。
われわれは7つのLLMの事前登録実験と、正当で高リスクで客観的に不正な機会をカバーした12の投資シナリオでこれをテストした。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Large language models trained on human feedback may suppress fraud warnings when investors arrive already persuaded of a fraudulent opportunity. We tested this in a preregistered experiment across seven leading LLMs and twelve investment scenarios covering legitimate, high-risk, and objectively fraudulent opportunities, combining 3,360 AI advisory conversations with a 1,201-participant human benchmark. Contrary to predictions, motivated investor framing did not suppress AI fraud warnings; if anything, it marginally increased them. Endorsement reversal occurred in fewer than 3 in 1,000 observations. Human advisors endorsed fraudulent investments at baseline rates of 13-14%, versus 0% across all LLMs, and suppressed warnings under pressure at two to four times the AI rate. AI systems currently provide more consistent fraud warnings than lay humans in an identical advisory role.
- Abstract（参考訳）: 人間のフィードバックに基づいて訓練された大規模な言語モデルは、投資家が既に詐欺の機会を説得しているときに不正警告を抑える可能性がある。
私たちはこれを,7つの主要なLCMを対象とした事前登録実験と,正当性,高リスク,客観的に不正な機会をカバーした12の投資シナリオでテストしました。
予測とは対照的に、投資家のフレーミングの動機はAI詐欺の警告を抑えなかった。
補正の逆転は1000回の観測で3個未満で発生した。
人間のアドバイザーは、ベースラインレート13-14%の不正投資を、全LLMの0%に対して支持し、AIレートの2～4倍の圧力で警告を抑圧した。
AIシステムは、現在、人間を同一のアドバイザリロールに配置するよりも、より一貫性のある不正警告を提供している。
関連論文リスト
- Can Legal AI Know When It Is Wrong? And Do Students Know When It Is? [0.0]
大規模言語モデル(LLM)をインド司法裁判所に統合することは、司法へのアクセスを約束するが、重大なリスクをもたらす。
我々は、ダニング・クルーガー効果に類似した過信現象である「信頼の慣性」を同定する。
危険確実性のある不正な判定を定量化するために,HCER(High-Confidence Error Rate)を導入する。
論文 参考訳（メタデータ） (2026-08-21T13:32:46Z) - Interrupting the Chain: Human Perception of AI-Generated Disinformation Through a Kill Chain Lens [47.03825808787752]
本研究は,ニュースの断片を原点(人間対機械)と真偽(本物対偽)で分類する人間-対象研究から得られた経験的知見を提示する。
我々は、介入のための分類として、適応されたサイバーセキュリティキルチェーンを用いて、認知的攻撃ライフサイクルの段階に知覚データをマッピングする結果を編成する。
3つの主要な発見は,(1)疑念の高揚が検出を改善しない知覚精度のギャップ,(2)現代のLSMは人間の識別不可能なテキストを頻繁に生成する,(3)偽ニュース検出が持続的暴露下で10.2ポイント低下し,AI-オリジン検出が安定している不斉認知疲労効果である。
論文 参考訳（メタデータ） (2026-07-26T15:40:41Z) - Evaluating AI Models' Capability to Automate Voice Phishing Attacks [5.7124370517630245]
我々は、AIによる音声フィッシング攻撃に対する米国の成人の感受性を評価するための大規模な調査実験を行っている。
参加者の最大36%が「相対的距離」カテゴリーのフィッシング要求に従うか、あるいは従う可能性がある。
われわれの経済分析によると、人間が操作するヴァイシングは米国の賃金では収益が得られないが、AIによるヴァイシングはいくつかのモデルで経済的に有効であるようだ。
論文 参考訳（メタデータ） (2026-07-10T20:54:32Z) - Honeyquest for LLMs: Rethinking Cyber Deception for AI Attackers [0.0]
本研究では,ハニークエストを用いた自動評価フレームワークを導入し,LLM攻撃者の判断を大規模に評価する。
21-LLMのコホートは10のプロバイダ、多様なアーキテクチャと特殊化、オープンおよびクローズドウェイトモデル、パラメータスケールが8Bから1T以上でした。
これらの結果は、人間中心の偽装仮説がAI攻撃者に確実に伝達されないことを示している。
論文 参考訳（メタデータ） (2026-06-19T02:01:50Z) - Train Yourself as an LLM: Exploring Effects of AI Literacy on Persuasion via Role-playing LLM Training [15.205845019601938]
我々はロールプレイベースのインタラクティブなゲーミフィケーションAIリテラシーチュートリアルである$textbfLLMimicを紹介した。
その結果,LLMimicは参加者のAIリテラシーを大幅に改善した。
これらの結果は、LLMimicがAIリテラシーを改善するためのスケーラブルで人間中心のアプローチを提供していることを示唆している。
論文 参考訳（メタデータ） (2026-04-03T02:03:10Z) - How to Disclose? Strategic AI Disclosure in Crowdfunding [10.090562206470329]
強制的なAI開示は、クラウドファンディングのパフォーマンスを著しく低下させる。
資金は39.8%減少し、支援者は23.9%減少している。
この悪影響は開示戦略によって体系的に抑制される。
論文 参考訳（メタデータ） (2026-02-17T16:26:03Z) - "We are not Future-ready": Understanding AI Privacy Risks and Existing Mitigation Strategies from the Perspective of AI Developers in Europe [56.1653658714305]
ヨーロッパを拠点とする25人のAI開発者を対象にインタビューを行い、ユーザ、開発者、ビジネスに最もリスクをもたらすと彼らが信じているプライバシの脅威を理解しました。
プライバシリスクの相対的なランク付けに関して、AI開発者の間ではほとんど合意が得られていないことが分かっています。
AI開発者はこれらのリスクに対処するために提案された緩和戦略を認識しているが、彼らは最小限の現実的採用を報告した。
論文 参考訳（メタデータ） (2025-10-01T13:51:33Z) - AI Agent Smart Contract Exploit Generation [8.69235891205913]
A1は、いかなる大規模言語モデルもエンドツーエンドのエクスプロイトジェネレータに変換するエージェントシステムである。
A1は、自律的な脆弱性発見のための6つのドメイン固有のツールを提供する。
我々は、A1がエクスプロイト当たり最大8.59億ドル、合計9.33億ドルを抽出していることを示す。
論文 参考訳（メタデータ） (2025-07-08T00:45:26Z) - AI persuading AI vs AI persuading Humans: LLMs' Differential Effectiveness in Promoting Pro-Environmental Behavior [70.24245082578167]
環境保護行動(PEB)は気候変動に対処するために不可欠であるが、意識を意図や行動に変えることはいまだ明白である。
大規模言語モデル(LLM)をPEBを促進するツールとして検討し,その影響を3,200人の参加者で比較した。
人工的およびシミュレートされたエージェントは、介入後のEBスタンスに大きく影響し、ヒトの反応はほとんど変化しない。
論文 参考訳（メタデータ） (2025-03-03T21:40:55Z) - Fraud-R1 : A Multi-Round Benchmark for Assessing the Robustness of LLM Against Augmented Fraud and Phishing Inducements [23.99500412996251]
Fraud-R1は、フィッシング詐欺、偽の求人投稿、ソーシャルメディア、ニュースから発生した8,564件の詐欺事件を5つの主要な詐欺タイプに分類する。
以前のベンチマークとは異なり、Fraud-R1はLLMの不正に対する耐性を異なる段階で評価するためのマルチラウンド評価パイプラインを導入している。
評価の結果,詐欺やフィッシングの誘因を擁護する上で,特にロールプレイ設定や偽職投稿において重要な課題が明らかとなった。
論文 参考訳（メタデータ） (2025-02-18T14:47:02Z) - How Johnny Can Persuade LLMs to Jailbreak Them: Rethinking Persuasion to
Challenge AI Safety by Humanizing LLMs [66.05593434288625]
本稿では, 大規模言語モデル (LLM) を人間のようなコミュニケーション手段として, ジェイルブレイクの新たな視点を紹介する。
本研究では,数十年にわたる社会科学研究から派生した説得的分類法を適用し,説得的敵対的プロンプト(PAP)をジェイルブレイク LLM に適用する。
PAPは、Llama 2-7b Chat、GPT-3.5、GPT-4の攻撃成功率を10ドルで一貫して92%以上達成している。
防衛面では,PAPに対する様々なメカニズムを探索し,既存の防衛に重大なギャップがあることを見出した。
論文 参考訳（メタデータ） (2024-01-12T16:13:24Z) - Do the Rewards Justify the Means? Measuring Trade-Offs Between Rewards
and Ethical Behavior in the MACHIAVELLI Benchmark [61.43264961005614]
我々は、50万以上のリッチで多様なシナリオを含む134個のChoose-Your-Own-Adventureゲームのベンチマークを開発する。
我々は、エージェントの傾向をパワー・シーキングと評価し、不使用を生じさせ、倫理的違反を犯す。
以上の結果から,エージェントは有能かつ道徳的に行動できることが示唆された。
論文 参考訳（メタデータ） (2023-04-06T17:59:03Z) - A Word is Worth A Thousand Dollars: Adversarial Attack on Tweets Fools
Stock Prediction [100.9772316028191]
本稿では,3つのストック予測犠牲者モデルを騙すために,様々な攻撃構成を試行する。
以上の結果から,提案手法が一貫した成功率を達成し,取引シミュレーションにおいて大きな損失をもたらす可能性が示唆された。
論文 参考訳（メタデータ） (2022-05-01T05:12:22Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。