論文の概要: Is unsafe an Achilles' Heel? A Comprehensive Study of Safety
Requirements in Unsafe Rust Programming
- arxiv url: http://arxiv.org/abs/2308.04785v1
- Date: Wed, 9 Aug 2023 08:16:10 GMT
- ステータス: 処理完了
- システム内更新日: 2023-10-23 15:02:24.711711
- Title: Is unsafe an Achilles' Heel? A Comprehensive Study of Safety
Requirements in Unsafe Rust Programming
- Title（参考訳）: 危険はアキレスのヒールか?
非安全性rustプログラミングにおける安全性要件の包括的研究
- Authors: Mohan Cui, Suran Sun, Hui Xu, Yangfan Zhou
- Abstract要約: Rustは、効率性とメモリ安全性を重視した、新しく、強く型付けされたプログラミング言語である。
標準ライブラリの現在の安全でないAPIドキュメントには、一貫性や不十分さなど、さまざまなバリエーションがあった。
Rustのセキュリティを強化するために、ユーザに従うべき安全要件の体系的な記述をリストアップするために、安全でないAPIドキュメントを提案する。
- 参考スコア（独自算出の注目度）: 4.981203415693332
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Rust is an emerging, strongly-typed programming language focusing on
efficiency and memory safety. With increasing projects adopting Rust, knowing
how to use Unsafe Rust is crucial for Rust security. We observed that the
description of safety requirements needs to be unified in Unsafe Rust
programming. Current unsafe API documents in the standard library exhibited
variations, including inconsistency and insufficiency. To enhance Rust
security, we suggest unsafe API documents to list systematic descriptions of
safety requirements for users to follow. In this paper, we conducted the first
comprehensive empirical study on safety requirements across unsafe boundaries.
We studied unsafe API documents in the standard library and defined 19 safety
properties (SP). We then completed the data labeling on 416 unsafe APIs while
analyzing their correlation to find interpretable results. To validate the
practical usability and SP coverage, we categorized existing Rust CVEs until
2023-07-08 and performed a statistical analysis of std unsafe API usage toward
the crates.io ecosystem. In addition, we conducted a user survey to gain
insights into four aspects from experienced Rust programmers. We finally
received 50 valid responses and confirmed our classification with statistical
significance.
- Abstract（参考訳）: rustは、効率性とメモリ安全性を重視した、新たな強型プログラミング言語である。
Rustを採用するプロジェクトが増えれば、Unsafe Rustの使い方を知ることは、Rustセキュリティにとって極めて重要だ。
安全要件の記述は、Unsafe Rustプログラミングで統一する必要があります。
標準ライブラリの現在の安全でないAPIドキュメントには、一貫性や不十分さなど、さまざまなバリエーションがあった。
rustのセキュリティを強化するために、安全要件の体系的な記述をユーザが従うためのunsafe apiドキュメントを提案する。
本稿では,安全でない境界にまたがる安全要件に関する最初の包括的な実証研究を行った。
標準ライブラリでunsafe apiドキュメントを調査し,19のセーフティプロパティ(sp)を定義した。
そして、416のunsafe apiのデータラベリングを完了し、それらの相関を分析して解釈可能な結果を見つけました。
実際のユーザビリティとSPカバレッジを検証するため、2023-07-08まで既存のRust CVEを分類し、crates.ioエコシステムに対するstd unsafe API使用の統計分析を行った。
さらに、経験豊富なRustプログラマから4つの側面に関する洞察を得るために、ユーザ調査を実施しました。
最終的に50の有効な回答を得て,統計的に有意な分類を確認した。
関連論文リスト
- What Makes and Breaks Safety Fine-tuning? A Mechanistic Study [64.9691741899956]
安全性の微調整は、大規模な言語モデル(LLM)を、安全なデプロイメントのための人間の好みに合わせるのに役立つ。
安全でない入力の健全な側面をキャプチャする合成データ生成フレームワークを設計する。
これを用いて,3つのよく知られた安全微調整手法について検討する。
論文 参考訳（メタデータ） (2024-07-14T16:12:57Z) - Characterizing Unsafe Code Encapsulation In Real-world Rust Systems [2.285834282327349]
内部アンセーフは、システムソフトウェア開発においてRustコミュニティによって提唱される重要な設計パラダイムである。
Rustコンパイラは、安全でないコードを含む安全な関数の健全性を検証することができない。
安全でないコードの本質的な使用法とカプセル化をモデル化するための,新しいアンセーフティアイソレーショングラフを提案する。
論文 参考訳（メタデータ） (2024-06-12T06:59:51Z) - Bringing Rust to Safety-Critical Systems in Space [1.0742675209112622]
Rustは、バグ導入の可能性を劇的に削減し、より安全で安全なコードを生成することを目的としている。
この作業は、Rustで安全クリティカルな宇宙システムを開発するための一連のレコメンデーションを提供する。
論文 参考訳（メタデータ） (2024-05-28T12:48:47Z) - Fast Summary-based Whole-program Analysis to Identify Unsafe Memory Accesses in Rust [23.0568924498396]
Rustは40年以上にわたって低レベルのソフトウェアに悩まされてきたメモリ安全性問題を解決する最も有望なシステムプログラミング言語の1つである。
アンセーフなRustコードと直接リンクされたアンセーフな外部ライブラリは、メモリ安全違反自体を導入するだけでなく、セーフなRustと同じモノリシックなアドレス空間で実行されるプログラム全体を侵害する可能性がある。
我々は、安全でないヒープの割り当てと、それらの安全でないヒープオブジェクトへのメモリアクセスの両方を識別するためのプログラム全体をプロトタイプ化した。
論文 参考訳（メタデータ） (2023-10-16T11:34:21Z) - SafetyBench: Evaluating the Safety of Large Language Models [54.878612385780805]
SafetyBenchは、大規模言語モデル(LLM)の安全性を評価するための包括的なベンチマークである。
11,435 の多様な選択質問が 7 つの異なるカテゴリーの安全問題にまたがっている。
ゼロショット設定と少数ショット設定の両方で、中国語と英語のLLMを25回以上テストしたところ、GPT-4よりも大幅にパフォーマンス上の優位性を示しました。
論文 参考訳（メタデータ） (2023-09-13T15:56:50Z) - A Closer Look at the Security Risks in the Rust Ecosystem [0.0]
Rustは、システムソフトウェアの開発用に設計された新しいプログラミング言語である。
Rustコードの再利用を容易にするため、Rustエコシステムの中心的なパッケージレジストリであるcrates.ioでは、数千のサードパーティのRustパッケージがホストされている。
crates.ioのオープン性はRustエコシステムの成長を可能にするが、深刻なセキュリティアドバイザリによるセキュリティリスクも伴う。
論文 参考訳（メタデータ） (2023-08-29T06:05:25Z) - Safe Deep Reinforcement Learning by Verifying Task-Level Properties [84.64203221849648]
コスト関数は、安全深層強化学習(DRL)において一般的に用いられる。
このコストは通常、国家空間における政策決定のリスクの定量化が難しいため、指標関数として符号化される。
本稿では,ドメイン知識を用いて,そのような状態に近接するリスクを定量化するための代替手法について検討する。
論文 参考訳（メタデータ） (2023-02-20T15:24:06Z) - Online Safety Property Collection and Refinement for Safe Deep
Reinforcement Learning in Mapless Navigation [79.89605349842569]
オンラインプロパティのコレクション・リファインメント(CROP)フレームワークをトレーニング時にプロパティを設計するために導入する。
CROPは、安全でない相互作用を識別し、安全特性を形成するためにコストシグナルを使用する。
本手法をいくつかのロボットマップレスナビゲーションタスクで評価し,CROPで計算した違反量によって,従来のSafe DRL手法よりも高いリターンと低いリターンが得られることを示す。
論文 参考訳（メタデータ） (2023-02-13T21:19:36Z) - Unsafe's Betrayal: Abusing Unsafe Rust in Binary Reverse Engineering
toward Finding Memory-safety Bugs via Machine Learning [20.68333298047064]
Rustは、プログラミングにおけるメモリセーフなバグを避けるために、メモリセーフなメカニズムを提供する。
Rustのユーザビリティを高めるアンセーフコードは、メモリセーフなバグを見つけるための明確な場所を提供する。
これらの安全でないスポットは、マシンラーニングを介してRustバイナリコードで識別可能である、と私たちは主張しています。
論文 参考訳（メタデータ） (2022-10-31T19:32:18Z) - Provable Safe Reinforcement Learning with Binary Feedback [62.257383728544006]
状態, アクションペアの安全性に対するバイナリフィードバックを提供するオフラインオラクルへのアクセスを与えられた場合, 証明可能な安全なRLの問題を考える。
我々は,その設定に対してブラックボックスPAC RLアルゴリズムに与えられた任意のMDP設定に適用可能な,新しいメタアルゴリズムSABREを提案する。
論文 参考訳（メタデータ） (2022-10-26T05:37:51Z) - SafeText: A Benchmark for Exploring Physical Safety in Language Models [62.810902375154136]
テキスト生成およびコモンセンス推論タスク用に設計された各種モデルのコモンセンス物理安全性について検討する。
最先端の大規模言語モデルは、安全でないテキストの生成に影響を受けやすく、安全でないアドバイスを拒否するのが困難であることがわかった。
論文 参考訳（メタデータ） (2022-10-18T17:59:31Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。