論文の概要: Color Teams for Machine Learning Development

• arxiv url: http://arxiv.org/abs/2110.10601v1
• Date: Wed, 20 Oct 2021 14:51:47 GMT
• ステータス: 処理完了
• システム内更新日: 2021-10-23 18:53:54.983895
• Title: Color Teams for Machine Learning Development
• Title（参考訳）: 機械学習開発のためのカラーチーム
• Authors: Josh Kalin, David Noever, Matthew Ciolino
• Abstract要約: この研究は、敵対的攻撃者に対抗するために、機械学習チームを形成するための新しいチーム構成を提案する。 サイバーセキュリティにおいて、インフラストラクチャはこれらのチームを使ってシステムビルダーとプログラマを使ってシステムを保護する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by-sa/4.0/
• Abstract: Machine learning and software development share processes and methodologies for reliably delivering products to customers. This work proposes the use of a new teaming construct for forming machine learning teams for better combatting adversarial attackers. In cybersecurity, infrastructure uses these teams to protect their systems by using system builders and programmers to also offer more robustness to their platforms. Color teams provide clear responsibility to the individuals on each team for which part of the baseline (Yellow), attack (Red), and defense (Blue) breakout of the pipeline. Combining colors leads to additional knowledge shared across the team and more robust models built during development. The responsibilities of the new teams Orange, Green, and Purple will be outlined during this paper along with an overview of the necessary resources for these teams to be successful.
• Abstract（参考訳）: 機械学習とソフトウェア開発は、顧客に製品を確実に提供するためのプロセスと方法論を共有します。 この研究は、敵攻撃者に対抗するために、機械学習チームを形成するための新しいチーム構成を提案する。 サイバーセキュリティにおいて、インフラストラクチャはこれらのチームを使ってシステムビルダーとプログラマを使ってシステムを保護する。 カラーチームは各チームの個人に対して、ベースライン(黄色)、アタック(赤)、ディフェンス(青)のパイプラインのブレークアウトを明確な責任とします。 色を組み合わせることで、チーム間で共有される知識と、開発中に構築されたより堅牢なモデルにつながります。 新しいチームの責任はオレンジ、グリーン、パープルで、これらのチームが成功するために必要なリソースの概要とともに、この論文で概説されます。

関連論文リスト

• Transformer Guided Coevolution: Improved Team Formation in Multiagent Adversarial Games [1.2338485391170533]
  そこで本稿では,Masked Language Modelトレーニングを用いたトランスフォーマーに基づくディープニューラルネットワークを用いて,トレーニング対象者の最適なチームを選択するアルゴリズムを提案する。 我々は,マルチエージェント対逆ゲーム「Marine Capture-The-Flag」で本アルゴリズムを検証した結果,BERTeam が非自明なチーム構成を学習し,見知らぬ相手に対して良好に動作していることが判明した。
  論文  参考訳（メタデータ） (2024-10-17T17:06:41Z)
• Governing the Commons: Code Ownership and Code-Clones in Large-Scale Software Development [6.249768559720122]
  弱いオーナシップや集合的なオーナシップを採用するソフトウェア開発組織では,さまざまなチームがさまざまなコンポーネントの変更を自律的に実施することが期待される。 私たちの目標は、異なるチームが異なるコンポーネントを変更するときに、コードのクローンという形で技術的負債を導入する方法と理由を理解することです。
  論文  参考訳（メタデータ） (2024-05-24T18:23:51Z)
• HarmBench: A Standardized Evaluation Framework for Automated Red Teaming and Robust Refusal [47.40508941209001]
  HarmBenchは、自動化されたレッドチームのための標準化された評価フレームワークである。 我々は18のレッドチーム法と33のLLMとディフェンスを大規模に比較した。 また,多岐にわたる攻撃に対する堅牢性を大幅に向上させる,高効率な対人訓練手法も導入する。
  論文  参考訳（メタデータ） (2024-02-06T18:59:08Z)
• Attack Prompt Generation for Red Teaming and Defending Large Language Models [70.157691818224]
  大規模言語モデル (LLM) は、有害なコンテンツを生成するためにLSMを誘導するレッド・チーム・アタックの影響を受けやすい。 本稿では、手動と自動の手法を組み合わせて、高品質な攻撃プロンプトを経済的に生成する統合的アプローチを提案する。
  論文  参考訳（メタデータ） (2023-10-19T06:15:05Z)
• Evolving Diverse Red-team Language Models in Multi-round Multi-agent Games [11.873513881458747]
  Redチームは、Large Language Model(LLM)を攻撃して脆弱性を特定できる。 現在の取り組みは、単一ラウンドのプロンプト設計と、固定ブルーチームに対する一方的なレッドチームの最適化に大きく依存しています。 ここでは、レッドチームとブルーチーム間のマルチラウンド攻撃的および防御的相互作用を分析するために、動的レッドチームゲーム(RTG)を紹介します。
  論文  参考訳（メタデータ） (2023-09-30T09:35:50Z)
• Technical Challenges of Deploying Reinforcement Learning Agents for Game Testing in AAA Games [58.720142291102135]
  本稿では,既存の自動ゲームテストソリューションに,スクリプト型ボットをベースとして,実験的な強化学習システムを追加する取り組みについて述べる。 ゲーム制作において強化学習を活用するためのユースケースを示し、ゲームのために同じ旅をしたいと思う人なら誰でも遭遇する最大の時間をカバーしています。 我々は、機械学習、特にゲーム生産において効果的なツールである強化学習を作るのに価値があり、必要であると考えるいくつかの研究指針を提案する。
  論文  参考訳（メタデータ） (2023-07-19T18:19:23Z)
• A Multiagent CyberBattleSim for RL Cyber Operation Agents [2.789574233231923]
  CyberBattleSimは、レッドエージェント、すなわち攻撃者のトレーニングをサポートするトレーニング環境である。 私たちはブルーエージェント、すなわちディフェンダーを訓練する機能を追加しました。 この結果から,ブルーエージェントの訓練が攻撃に対する防御力を高めることが示唆された。
  論文  参考訳（メタデータ） (2023-04-03T20:43:19Z)
• Detecting and Optimising Team Interactions in Software Development [58.720142291102135]
  本稿では,ソフトウェア開発チームの機能的相互作用構造を検出するためのデータ駆動型手法を提案する。 このアプローチでは、チームメンバのアクティビティレベルの違いを考慮し、ブロック制約設定モデルを使用します。 我々のアプローチは、チームが合成されたベンチマークシナリオと機能的な相互作用構造を比較するのにどのように役立つかを示します。
  論文  参考訳（メタデータ） (2023-02-28T14:53:29Z)
• Capture the Flag for Team Construction in Cybersecurity [2.4698886064068555]
  我々は、専門知識の認識と役割割り当てのためのコンピュータ・ヒューマン・プロセスの一部として、Capture the Flagを組み込むフレームワークを開発した。 本稿では、CTFを組み込んだコンピュータ・ヒューマン・プロセス・フレームワークの洞察、設計選択、および分析について紹介する。
  論文  参考訳（メタデータ） (2022-06-17T19:02:29Z)
• Learning to Transfer Role Assignment Across Team Sizes [48.43860606706273]
  チーム規模で役割の割り当てと移譲を学ぶためのフレームワークを提案する。 ロールベースの信用割当構造を再利用することで、より大きな強化学習チームの学習プロセスが促進されることを示す。
  論文  参考訳（メタデータ） (2022-04-17T11:22:01Z)
• Learning Connectivity-Maximizing Network Configurations [123.01665966032014]
  本稿では、専門家からコミュニケーションエージェントを配置することを学ぶ畳み込みニューラルネットワーク(CNN)を用いた教師あり学習手法を提案する。 我々は,標準ライントポロジやリングトポロジ,ランダムに生成された105万件のテストケース,トレーニング中に見えない大規模なチームについて,CNNのパフォーマンスを実証した。 トレーニング後,本システムは10～20名のエージェントの最適化手法よりも2桁高速な接続構成を生成する。
  論文  参考訳（メタデータ） (2021-12-14T18:59:01Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。