論文の概要: A Survey on Safe Multi-Modal Learning System
- arxiv url: http://arxiv.org/abs/2402.05355v1
- Date: Thu, 8 Feb 2024 02:27:13 GMT
- ステータス: 処理完了
- システム内更新日: 2024-02-09 16:43:52.307798
- Title: A Survey on Safe Multi-Modal Learning System
- Title(参考訳): 安全なマルチモーダル学習システムに関する調査研究
- Authors: Tianyi Zhao, Liangliang Zhang, Yao Ma and Lu Cheng
- Abstract要約: 本研究は,MMLSの安全性に関する最初の分類法であり,これらの懸念に欠かせない4つの柱を同定する。
各柱について詳細なレビューを行い、現在の開発状況に基づいて重要な制限を強調します。
我々は,MMLSの安全性に固有の課題を指摘し,今後の研究の方向性を示す。
- 参考スコア(独自算出の注目度): 11.92341182615251
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: With the wide deployment of multimodal learning systems (MMLS) in real-world
scenarios, safety concerns have become increasingly prominent. The absence of
systematic research into their safety is a significant barrier to progress in
this field. To bridge the gap, we present the first taxonomy for MMLS safety,
identifying four essential pillars of these concerns. Leveraging this taxonomy,
we conduct in-depth reviews for each pillar, highlighting key limitations based
on the current state of development. Finally, we pinpoint unique challenges in
MMLS safety and provide potential directions for future research.
- Abstract(参考訳): マルチモーダル学習システム(mmls)を現実のシナリオに広く展開することで、安全性への懸念が高まっている。
安全に関する体系的な研究の欠如は、この分野の進歩にとって重要な障壁である。
このギャップを埋めるために,これらの懸念の4つの重要な柱を同定し,MMLSの安全性に関する最初の分類法を提案する。
この分類を活用することで,各柱について詳細なレビューを行い,現在の開発状況に基づいた重要な制限を強調する。
最後に,MMLSの安全性に固有の課題を指摘し,今後の研究の方向性を示す。
関連論文リスト
- Online Safety Analysis for LLMs: a Benchmark, an Assessment, and a Path Forward [9.218557081971708]
大規模言語モデル(LLM)は多くの分野にまたがって広く応用されている。
その限定的な解釈可能性によって、複数の側面からの安全な操作が懸念される。
近年,LLMの品質保証手法の開発が進められている。
論文 参考訳(メタデータ) (2024-04-12T14:55:16Z) - Prioritizing Safeguarding Over Autonomy: Risks of LLM Agents for Science [67.38554763406098]
大規模言語モデル(LLM)を利用したインテリジェントエージェントは、自律的な実験を行い、様々な分野にわたる科学的発見を促進する上で、大きな可能性を証明している。
彼らの能力は有望だが、安全を慎重に考慮する必要がある新たな脆弱性も導入している。
本稿では,科学領域におけるLSMをベースとしたエージェントの脆弱性の徹底的な調査を行い,その誤用に伴う潜在的なリスクに光を当て,安全性対策の必要性を強調した。
論文 参考訳(メタデータ) (2024-02-06T18:54:07Z) - The Art of Defending: A Systematic Evaluation and Analysis of LLM
Defense Strategies on Safety and Over-Defensiveness [56.174255970895466]
大規模言語モデル(LLM)は、自然言語処理アプリケーションにおいて、ますます重要な役割を担っている。
本稿では,SODE(Safety and Over-Defensiveness Evaluation)ベンチマークを提案する。
論文 参考訳(メタデータ) (2023-12-30T17:37:06Z) - The Last Decade in Review: Tracing the Evolution of Safety Assurance
Cases through a Comprehensive Bibliometric Analysis [7.431812376079826]
安全保証は、自動車、航空宇宙、原子力など、様々な分野において最重要事項である。
安全保証ケースを使用することで、生成されたシステム機能の正しさを検証することができ、システム障害を防止することができる。
論文 参考訳(メタデータ) (2023-11-13T17:34:23Z) - Towards Safer Generative Language Models: A Survey on Safety Risks,
Evaluations, and Improvements [76.80453043969209]
本調査では,大規模モデルに関する安全研究の枠組みについて述べる。
まず、広範囲にわたる安全問題を導入し、その後、大型モデルの安全性評価手法を掘り下げる。
トレーニングからデプロイメントまで,大規模なモデルの安全性を高めるための戦略について検討する。
論文 参考訳(メタデータ) (2023-02-18T09:32:55Z) - New Challenges in Reinforcement Learning: A Survey of Security and
Privacy [26.706957408693363]
強化学習(Reinforcement Learning, RL)は、AIの最も重要な分野のひとつ。
RLは医療、データ市場、自動運転、ロボット工学など、さまざまな分野で広く採用されている。
これらのアプリケーションやシステムは、セキュリティやプライバシ攻撃に弱いことが示されている。
論文 参考訳(メタデータ) (2022-12-31T12:30:43Z) - Inspect, Understand, Overcome: A Survey of Practical Methods for AI
Safety [54.478842696269304]
安全クリティカルなアプリケーションにディープニューラルネットワーク(DNN)を使用することは、多数のモデル固有の欠点のために困難です。
近年,これらの安全対策を目的とした最先端技術動物園が出現している。
本稿は、機械学習の専門家と安全エンジニアの両方に対処する。
論文 参考訳(メタデータ) (2021-04-29T09:54:54Z) - Dos and Don'ts of Machine Learning in Computer Security [74.1816306998445]
大きな可能性にもかかわらず、セキュリティにおける機械学習は、パフォーマンスを損なう微妙な落とし穴を引き起こす傾向がある。
我々は,学習ベースのセキュリティシステムの設計,実装,評価において共通の落とし穴を特定する。
我々は,落とし穴の回避や軽減を支援するために,研究者を支援するための実用的な勧告を提案する。
論文 参考訳(メタデータ) (2020-10-19T13:09:31Z) - Provably Safe PAC-MDP Exploration Using Analogies [87.41775218021044]
安全クリティカルドメインに強化学習を適用する上での課題は、探索と安全性のバランスをとる方法を理解することだ。
我々は,未知のダイナミックスを持つMDPにおいて,確実に安全な探索を行うアルゴリズムであるAnalogous Safe-State Exploration (ASE)を提案する。
提案手法は, PAC-MDP 感覚の準最適政策を安全に学習するために, 状態-作用対間の類似性を利用する。
論文 参考訳(メタデータ) (2020-07-07T15:50:50Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。