論文の概要: When AI Meets Wall Street: A Survey on Trustworthy AI in Fintech
- arxiv url: http://arxiv.org/abs/2605.30650v1
- Date: Thu, 28 May 2026 23:10:04 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-01 20:56:50.284177
- Title: When AI Meets Wall Street: A Survey on Trustworthy AI in Fintech
- Title（参考訳）: AIがウォール街と出会う - フィンテックにおける信頼できるAIに関する調査
- Abstract要約: 我々は、金融AIのための統一的でライフサイクル中心的でメカニズム駆動のフレームワークを提案する。
金融AIをトレーニング、更新、デプロイメント、推論、運用、監視、フィードバックの3つのライフサイクルステージに分割します。
各サブタイプについて、アルゴリズム戦略、実現可能性制約、ステルスと永続性、下流の財務効果を分析します。
- 参考スコア（独自算出の注目度）: 32.022055126183865
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Artificial intelligence is now embedded as a primary decision engine in continuously operated financial AI pipelines spanning training and updating, deployment and inference, and operation with monitoring and feedback. The automation and scale that make these pipelines effective also create novel attack surfaces, where small algorithmic perturbations can amplify into persistent, system-level financial harm. Existing surveys, however, either treat AI as a defensive tool or analyse adversarial machine learning in a domain-agnostic manner, abstracting away finance-specific constraints such as accounting plausibility, non-IID federated data, continuous retraining, and automation-amplified downstream effects. We address this gap with a unified, lifecycle-centric and mechanism-driven framework. We partition financial AI into three lifecycle stages: training and updating, deployment and inference, and operation, monitoring, and feedback. We further propose the Financial AI Security and Robustness Taxonomy, organising seventeen attack subtypes across data and model poisoning, adversarial attacks on decision boundaries, prompt injection in LLM-mediated workflows, and deepfake-driven subversion of KYC verification layers. For each subtype, we analyse algorithmic strategy, feasibility constraints, stealth and persistence, and downstream financial consequences. Finally, we identify open challenges and outline a research agenda toward lifecycle-aware stress testing and finance-relevant robustness benchmarks.
- Abstract（参考訳）: 人工知能は、トレーニング、更新、デプロイメント、推論、監視とフィードバックによる運用にまたがる継続的な運用中の金融AIパイプラインにおいて、主要な決定エンジンとして組み込まれている。
これらのパイプラインを効果的にするための自動化とスケールは、小さなアルゴリズムの摂動が永続的でシステムレベルの金融被害を増幅する、新たな攻撃面を生み出します。
しかし、既存の調査では、AIを防御ツールとして扱うか、ドメインに依存しない方法で敵機械学習を分析するか、会計の可視性、IID以外のフェデレーションデータ、継続的なリトレーニング、自動化された下流効果といった金融特有の制約を抽象化している。
私たちはこのギャップを、統合され、ライフサイクル中心で、メカニズム駆動のフレームワークで解決します。
金融AIをトレーニング、更新、デプロイメント、推論、運用、監視、フィードバックの3つのライフサイクルステージに分割します。
さらに、ファイナンシャルAIセキュリティとロバストネス分類を提案し、データとモデル中毒の17の攻撃サブタイプ、意思決定境界に対する敵攻撃、LCMを介するワークフローへのインジェクションの迅速な注入、KYC検証層のディープフェイク駆動のサブバージョンを編成する。
各サブタイプについて、アルゴリズム戦略、実現可能性制約、ステルスと永続性、下流の財務効果を分析します。
最後に、オープンな課題を特定し、ライフサイクルに配慮したストレステストと金融関連ロバストネスベンチマークに向けた研究課題を概説する。
関連論文リスト
- AI Deployment Accountability Engineering: A Vision for Accountable AI in Safety-Critical Socio-Technical Systems [14.280538199149634]
このビジョンペーパーはAI Deployment Accountability Engineering (ADAE)を紹介する。
ADAEは、デプロイされたAIシステムに対して測定可能で、連続的で、実行可能な説明責任を確立することを目的とした、AIエンジニアリングのサブカテゴリである。
我々は,コンテキスト依存型障害モードの構造化発見,プライバシ保護型説明責任測定,エージェントAIのシステムレベルのリスク分析,技術的障害の運用的,制度的リスクへの変換という,4つの相互接続された柱を中心に構築された研究課題を具体的に述べる。
論文 参考訳（メタデータ） (2026-09-13T15:18:41Z) - From Accuracy to Auditability: A Survey of Determinism in Financial AI Systems [16.784964226963744]
規制された金融環境における機械学習は、アルゴリズムの脆弱性に重大な脆弱性を露呈する。
ディープニューラルネットワークと生成AIは、ハードウェアとアーキテクチャに根ざした機械的非決定性を導入している。
この調査は、現在金融AIを支配している3つのモダリティにわたる障害に関するシステム視点を提供する。
論文 参考訳（メタデータ） (2026-05-11T17:46:38Z) - Agentic AI for Self-Driving Laboratories in Soft Matter: Taxonomy, Benchmarks,and Open Challenges [8.153488410654004]
自動運転研究所(SDL)は、実験設計、自動実行、データ駆動意思決定の間のループを閉じる。
この調査は、ソフトマターを代表的設定として使用するが、実際の研究室で発生するAI質問に焦点を当てる。
論文 参考訳（メタデータ） (2026-01-25T17:44:19Z) - A Survey of Agentic AI and Cybersecurity: Challenges, Opportunities and Use-case Prototypes [7.02443431688472]
Agentic AIは、単一ステップ生成モデルから、長期的タスクに対する推論、計画、行動、適応が可能なシステムへの重要な転換点である。
本調査は,サイバーセキュリティにおけるエージェントAIの影響について検討する。
論文 参考訳（メタデータ） (2026-01-08T02:46:06Z) - Web Technologies Security in the AI Era: A Survey of CDN-Enhanced Defenses [0.28106259549258145]
このサーベイは、エッジに展開されるAI強化された防御の風景を合成する。
我々は、より広範なWebアプリケーションおよびAPI保護(WAAP)の中で、異常および行動に基づくWebアプリケーションファイアウォール(WAF)に焦点を当てる。
我々は、XAI、敵対的堅牢性、自律的マルチエージェント防衛にまたがる研究課題を結論付けた。
論文 参考訳（メタデータ） (2025-12-06T10:42:14Z) - AI Deception: Risks, Dynamics, and Controls [153.71048309527225]
このプロジェクトは、AI偽装分野の包括的で最新の概要を提供する。
我々は、動物の偽装の研究からシグナル伝達理論に基づく、AI偽装の正式な定義を同定する。
我々は,AI偽装研究の展望を,偽装発生と偽装処理の2つの主要な構成要素からなる偽装サイクルとして整理する。
論文 参考訳（メタデータ） (2025-11-27T16:56:04Z) - Barbarians at the Gate: How AI is Upending Systems Research [58.95406995634148]
システム研究は、新しいパフォーマンス指向アルゴリズムの設計と評価に長年注力してきたが、AI駆動のソリューション発見には特に適している、と私たちは主張する。
このアプローチをAI駆動システム研究(ADRS)と呼び、ソリューションを反復的に生成し、評価し、洗練する。
我々の研究結果は、AI時代のシステム研究の実践に急激な適応の必要性と破壊的な可能性を浮き彫りにしている。
論文 参考訳（メタデータ） (2025-10-07T17:49:24Z) - Rethinking Data Protection in the (Generative) Artificial Intelligence Era [138.07763415496288]
現代の(生産的な)AIモデルやシステムに生じる多様な保護ニーズを捉える4段階の分類法を提案する。
当社のフレームワークは、データユーティリティとコントロールのトレードオフに関する構造化された理解を提供し、AIパイプライン全体にわたっています。
論文 参考訳（メタデータ） (2025-07-03T02:45:51Z) - Bringing Order Amidst Chaos: On the Role of Artificial Intelligence in Secure Software Engineering [0.0]
進化を続ける技術的景観は、機会と脅威の両方を提供し、カオスと秩序が競合する動的な空間を作り出す。
セキュアなソフトウェアエンジニアリング(SSE)は、ソフトウェアシステムを危険にさらす脆弱性に継続的に対処しなければならない。
この論文は、AIの精度に影響を与えるドメイン固有の違いに対処することで、SSEのカオスに秩序をもたらすことを目指している。
論文 参考訳（メタデータ） (2025-01-09T11:38:58Z) - AutoPT: How Far Are We from the End2End Automated Web Penetration Testing? [54.65079443902714]
LLMによって駆動されるPSMの原理に基づく自動浸透試験エージェントであるAutoPTを紹介する。
以上の結果から, AutoPT は GPT-4o ミニモデル上でのベースラインフレームワーク ReAct よりも優れていた。
論文 参考訳（メタデータ） (2024-11-02T13:24:30Z) - Designing an attack-defense game: how to increase robustness of
financial transaction models via a competition [69.08339915577206]
金融セクターにおける悪意ある攻撃のエスカレートリスクを考えると、機械学習モデルの敵戦略と堅牢な防御メカニズムを理解することが重要である。
本研究の目的は、逐次的な財務データを入力として使用するニューラルネットワークモデルに対する敵攻撃と防御の現状とダイナミクスを調査することである。
我々は、現代の金融取引データにおける問題の現実的かつ詳細な調査を可能にする競争を設計した。
参加者は直接対決するので、実生活に近い環境で攻撃や防御が検討される。
論文 参考訳（メタデータ） (2023-08-22T12:53:09Z) - AI Maintenance: A Robustness Perspective [91.28724422822003]
我々は、AIライフサイクルにおけるロバストネスの課題を強調し、自動車のメンテナンスに類似させることで、AIのメンテナンスを動機付ける。
本稿では,ロバストネスリスクの検出と軽減を目的としたAIモデル検査フレームワークを提案する。
我々のAIメンテナンスの提案は、AIライフサイクル全体を通して堅牢性評価、状態追跡、リスクスキャン、モデル硬化、規制を促進する。
論文 参考訳（メタデータ） (2023-01-08T15:02:38Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。