論文の概要: On Large Language Models in Mission-Critical IT Governance: Are We Ready Yet?

• arxiv url: http://arxiv.org/abs/2412.11698v1
• Date: Mon, 16 Dec 2024 12:21:05 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-12-17 14:02:57.707865
• Title: On Large Language Models in Mission-Critical IT Governance: Are We Ready Yet?
• Title（参考訳）: ミッションクリティカルITガバナンスにおける大規模言語モデルについて: まだ準備はできているか?
• Authors: Matteo Esposito, Francesco Palagiano, Valentina Lenarduzzi, Davide Taibi,
• Abstract要約: ミッションクリティカルシステム(MCS)のセキュリティは、コンピュータの登場以来、基本的な問題となっている。 我々は、IT MCSのガバナンスに生成AI(GAI)を使用することについて、実践者の視点、特に開発者とセキュリティ担当者を探求することを目的としている。
• 参考スコア（独自算出の注目度）: 7.098487130130114
• License:
• Abstract: Context. The security of critical infrastructure has been a fundamental concern since the advent of computers, and this concern has only intensified in today's cyber warfare landscape. Protecting mission-critical systems (MCSs), including essential assets like healthcare, telecommunications, and military coordination, is vital for national security. These systems require prompt and comprehensive governance to ensure their resilience, yet recent events have shown that meeting these demands is increasingly challenging. Aim. Building on prior research that demonstrated the potential of GAI, particularly Large Language Models (LLMs), in improving risk analysis tasks, we aim to explore practitioners' perspectives, specifically developers and security personnel, on using generative AI (GAI) in the governance of IT MCSs seeking to provide insights and recommendations for various stakeholders, including researchers, practitioners, and policymakers. Method. We designed a survey to collect practical experiences, concerns, and expectations of practitioners who develop and implement security solutions in the context of MCSs. Analyzing this data will help identify key trends, challenges, and opportunities for introducing GAIs in this niche domain. Conclusions and Future Works. Our findings highlight that the safe use of LLMs in MCS governance requires interdisciplinary collaboration. Researchers should focus on designing regulation-oriented models and focus on accountability; practitioners emphasize data protection and transparency, while policymakers must establish a unified AI framework with global benchmarks to ensure ethical and secure LLMs-based MCS governance.
• Abstract（参考訳）: コンテキスト。 重要なインフラのセキュリティは、コンピュータの登場以来、基本的な問題であり、今日のサイバー戦争の世界では、この懸念が強まりつつある。 医療、通信、軍事調整などの重要な資産を含むミッションクリティカルシステム(MCS)の保護は、国家安全保障にとって不可欠である。 これらのシステムは、レジリエンスを確保するために、迅速かつ包括的なガバナンスを必要としていますが、最近の出来事は、これらの要求を満たすことがますます難しくなっていることを示しています。 エイム。 リスク分析タスクの改善におけるGAI,特にLarge Language Models(LLMs)の可能性を実証する先行研究に基づいて,我々は,IT MCSのガバナンスにおける生成AI(GAI)の利用に関する実践者の視点,特に開発者やセキュリティ担当者の視点を探究し,研究者や実践者,政策立案者など,さまざまな利害関係者に対する洞察とレコメンデーションの提供を目指す。 方法。 我々は、MCSの文脈でセキュリティソリューションを開発し実装する実践者の実践経験、懸念、期待を収集する調査を設計した。 このデータを分析することで、このニッチ領域にGAIを導入するための重要なトレンド、課題、機会を特定することができる。 結論と今後の課題。 MCS ガバナンスにおける LLM の安全利用には学際的な連携が必要であることが示唆された。 専門家はデータ保護と透明性を重視し、政策立案者は倫理的かつセキュアなLCMベースのMCSガバナンスを保証するために、グローバルベンチマークを備えた統合AIフレームワークを確立する必要がある。

関連論文リスト

• Global Challenge for Safe and Secure LLMs Track 1 [57.08717321907755]
  LLM(Global Challenge for Safe and Secure Large Language Models)は、AI Singapore(AISG)とCyberSG R&D Programme Office(CRPO)が主催する先駆的イニシアチブである。 本稿では,AI Singapore(AISG)とCyberSG R&D Programme Office(CRPO)が組織した先駆的イニシアチブであるLLM(Global Challenge for Safe and Secure Large Language Models)を紹介する。
  論文  参考訳（メタデータ） (2024-11-21T08:20:31Z)
• SoK: Unifying Cybersecurity and Cybersafety of Multimodal Foundation Models with an Information Theory Approach [58.93030774141753]
  MFM(Multimodal foundation model)は、人工知能の大幅な進歩を表す。 本稿では,マルチモーダル学習におけるサイバーセーフティとサイバーセキュリティを概念化する。 我々は、これらの概念をMFMに統一し、重要な脅威を特定するための総合的知識体系化(SoK)を提案する。
  論文  参考訳（メタデータ） (2024-11-17T23:06:20Z)
• World Models: The Safety Perspective [6.520366712367809]
  世界モデル(WM)の概念は最近、AI研究コミュニティで大きな注目を集めています。 我々は、最先端のWMの詳細な分析とその影響について、研究コミュニティに対して、WMの安全性と信頼性の向上に協力するよう呼びかける。
  論文  参考訳（メタデータ） (2024-11-12T10:15:11Z)
• Attack Atlas: A Practitioner's Perspective on Challenges and Pitfalls in Red Teaming GenAI [52.138044013005]
  生成AI、特に大規模言語モデル(LLM)は、製品アプリケーションにますます統合される。 新たな攻撃面と脆弱性が出現し、自然言語やマルチモーダルシステムにおける敵の脅威に焦点を当てる。 レッドチーム(英語版)はこれらのシステムの弱点を積極的に識別する上で重要となり、ブルーチーム(英語版)はそのような敵の攻撃から保護する。 この研究は、生成AIシステムの保護のための学術的な洞察と実践的なセキュリティ対策のギャップを埋めることを目的としている。
  論文  参考訳（メタデータ） (2024-09-23T10:18:10Z)
• Towards Trustworthy AI: A Review of Ethical and Robust Large Language Models [1.7466076090043157]
  大きな言語モデル(LLM)は多くの分野を変革できるが、その急速な開発は、監視、倫理的創造、ユーザ信頼の構築に重大な課題を生み出している。 この総合的なレビューは、意図しない害、透明性の欠如、攻撃に対する脆弱性、人的価値との整合性、環境への影響など、LLMにおける重要な信頼の問題について考察する。 これらの課題に対処するため、倫理的監視、業界説明責任、規制、公的な関与を組み合わせることを提案する。
  論文  参考訳（メタデータ） (2024-06-01T14:47:58Z)
• A Survey on Large Language Models for Critical Societal Domains: Finance, Healthcare, and Law [65.87885628115946]
  大規模言語モデル(LLM)は、金融、医療、法律の展望に革命をもたらしている。 我々は、医療における診断・治療方法論の強化、財務分析の革新、法的解釈・コンプライアンス戦略の精査におけるLCMの役割を強調した。 これらの分野におけるLLMアプリケーションの倫理を批判的に検討し、既存の倫理的懸念と透明で公平で堅牢なAIシステムの必要性を指摘した。
  論文  参考訳（メタデータ） (2024-05-02T22:43:02Z)
• Application of the NIST AI Risk Management Framework to Surveillance Technology [1.5442389863546546]
  本研究は、NIST AI RMF(National Institute of Standards and Technology's AI Risk Management Framework)の応用と意義を詳細に分析する。 本研究は, 顔認識システムのリスクが高く, 連続性が高いことから, 本分野におけるリスク管理への構造的アプローチの必要性を強調している。
  論文  参考訳（メタデータ） (2024-03-22T23:07:11Z)
• Securing Large Language Models: Threats, Vulnerabilities and Responsible Practices [4.927763944523323]
  大規模言語モデル(LLM)は、自然言語処理(NLP)のランドスケープを大きく変えた。 本研究は,5つのテーマの観点から,LLMに関するセキュリティとプライバシの懸念を徹底的に調査する。 本稿は, LLMの安全性とリスク管理を強化するために, 今後の研究に期待できる道筋を提案する。
  論文  参考訳（メタデータ） (2024-03-19T07:10:58Z)
• Prioritizing Safeguarding Over Autonomy: Risks of LLM Agents for Science [65.77763092833348]
  大規模言語モデル(LLM)を利用したインテリジェントエージェントは、自律的な実験を行い、様々な分野にわたる科学的発見を促進する上で、大きな可能性を証明している。 彼らの能力は有望だが、これらのエージェントは安全性を慎重に考慮する必要がある新たな脆弱性も導入している。 本稿では,科学領域におけるLSMをベースとしたエージェントの脆弱性の徹底的な調査を行い,その誤用に伴う潜在的なリスクに光を当て,安全性対策の必要性を強調した。
  論文  参考訳（メタデータ） (2024-02-06T18:54:07Z)
• Visibility into AI Agents [9.067567737098594]
  AIエージェントに対する商業的、科学的、政府的、個人的活動の委譲の増加は、既存の社会的リスクを悪化させる可能性がある。 エージェント識別子,リアルタイム監視,アクティビティログという,AIエージェントの視認性を高めるための3つの尺度を評価した。
  論文  参考訳（メタデータ） (2024-01-23T23:18:33Z)
• The Security and Privacy of Mobile Edge Computing: An Artificial Intelligence Perspective [64.36680481458868]
  Mobile Edge Computing (MEC)は、クラウドコンピューティングと情報技術(IT)サービスをネットワークのエッジで配信できるようにする新しいコンピューティングパラダイムである。 本稿では,人工知能(AI)の観点からMECのセキュリティとプライバシに関する調査を行う。 新たなセキュリティとプライバシの問題に加えて、AIの観点からの潜在的なソリューションにも重点を置いています。
  論文  参考訳（メタデータ） (2024-01-03T07:47:22Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。