論文の概要: Data Flow Control: Data Safety Policies for AI Agents
- arxiv url: http://arxiv.org/abs/2606.05679v1
- Date: Thu, 04 Jun 2026 04:01:24 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-05 22:39:44.543018
- Title: Data Flow Control: Data Safety Policies for AI Agents
- Title（参考訳）: データフロー制御:AIエージェントのデータ安全ポリシー
- Authors: Charlie Summers, Eugene Wu,
- Abstract要約: 本稿では,データフロー制御(Data Flow Control, DFC)を提案する。
我々はデータ安全性をモノミアル上でのアグリゲートの述語として定式化し、Passantはポータブルなクエリ書き換えレイヤで、具体化せずにポリシーを強制する。
結果として、データフローコントロールは、プロンプトやポストホックチェックからデータインフラストラクチャにデータ安全性を移行するための第一歩になります。
- 参考スコア（独自算出の注目度）: 5.66981345671553
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Agents increasingly generate SQL, orchestrate pipelines, and automate data analysis on behalf of users. While recent work improves query correctness, correctness is not safety. A query may be semantically valid yet violate regulatory, privacy, or business constraints that govern how data may be combined and released. We argue that enforcing such constraints is fundamentally a data infrastructure problem. This paper introduces Data Flow Control (DFC), a framework to declaratively specify and guarantee policy enforcement over tuple-level data flows within a DBMS query. A key challenge is defining a policy language that is optimizer-invariant yet efficient to enforce at scale. We formalize data safety as aggregate predicates over provenance monomials and present Passant, a portable query rewriting layer that enforces DFC policies without materializing provenance. Across five DBMS engines -- DuckDB, Umbra, PostgreSQL, DataFusion, and SQLServer -- Passant achieves ~0% overhead and outperforms alternatives by orders of magnitude. As a result, Data Flow Control is the first step towards moving data safety from prompts and post-hoc checks into the data infrastructure. Data Flow Control is available open source at https://github.com/dataflowcontrol/data-flow-control.
- Abstract（参考訳）: エージェントはますますSQLを生成し、パイプラインをオーケストレーションし、ユーザに代わってデータ分析を自動化する。
最近の作業はクエリの正確性を改善するが、正確性は安全ではない。
クエリはセマンティックに有効だが、データの結合やリリースの方法を管理する規制やプライバシ、ビジネス上の制約に違反する可能性がある。
このような制約を強制することは、基本的にデータインフラストラクチャの問題である、と我々は主張する。
本稿では,DBMSクエリ内のタプルレベルのデータフローに対するポリシー適用を宣言的に指定し,保証するフレームワークであるData Flow Control(DFC)を紹介する。
重要な課題は、オプティマイザ不変で、大規模に実施する上で効率的であるポリシー言語を定義することだ。
我々は,データ安全性を,前駆体単体に対する集合述語として定式化し,前駆体を具体化せずにDFCポリシーを強制するポータブルクエリ書き換え層であるPassantを提示する。
DuckDB、Umbra、PostgreSQL、DataFusion、SQLServerの5つのDBMSエンジンで、Passantはオーバーヘッドを約0%達成し、オルタナティブを桁違いに上回っている。
結果として、データフローコントロールは、プロンプトやポストホックチェックからデータインフラストラクチャにデータ安全性を移行するための第一歩になります。
Data Flow Controlはhttps://github.com/dataflowcontrol/data-flow-controlで公開されている。
関連論文リスト
- CEDAR: Context Engineering for Agentic Data Science [3.1662160826016756]
CEDARはエージェント設定でデータサイエンスタスクを自動化するアプリケーションである。
効果的なコンテキストエンジニアリングによって、これらを緩和できることが示される。
フォールトトレランスとコンテキスト管理は、反復的なコード生成とスマートヒストリレンダリングを通じて導入される。
論文 参考訳（メタデータ） (2026-01-10T16:05:04Z) - DataFlow: An LLM-Driven Framework for Unified Data Preparation and Workflow Automation in the Era of Data-Centric AI [42.191938707504406]
DataFlowは、統一的でLLM駆動のデータ準備フレームワークである。
システムレベルの抽象化により、モジュラー、再利用可能な、構成可能なデータ変換が可能になる。
DataFlowは、ダウンストリームのLarge Language Modelsのパフォーマンスを継続的に改善します。
論文 参考訳（メタデータ） (2025-12-18T15:46:15Z) - Please Don't Kill My Vibe: Empowering Agents with Data Flow Control [6.18085102481971]
システムはデータフロー制御(DFC)をサポートし、DFCポリシーを施行すべきである。
本稿では, DFCフォアの携帯型インスタンスの早期開発について述べるとともに, DFCのエージェントエコシステムに対する幅広い研究課題について概説する。
論文 参考訳（メタデータ） (2025-12-05T02:24:27Z) - DataOps-driven CI/CD for analytics repositories [0.0]
この観点では、DataOpsに準拠したバリデーションフレームワークの質的な設計を提案している。
フレームワークはLint、Optimize、Parse、Observeの5つのステージで構成されている。
要求トレーサビリティマトリックス(RTM)は、各ハイレベル制御が具体的なパイプラインチェックによってどのように実施されるかを示す。
論文 参考訳（メタデータ） (2025-11-15T16:09:47Z) - Role-Conditioned Refusals: Evaluating Access Control Reasoning in Large Language Models [9.010745644432221]
本研究は, LLMのアクセス制御ポリシーに準拠する能力に着目し, 承認された場合に応答し, 拒否した場合に応答することに着目し, 役割条件の拒絶について検討する。
この振る舞いを評価するために、SpiderとBIRDのテキスト・ツー・ショット・データセットを拡張する新しいデータセットを作成しました。
論文 参考訳（メタデータ） (2025-10-09T00:28:59Z) - DRIFT: Dynamic Rule-Based Defense with Injection Isolation for Securing LLM Agents [52.92354372596197]
大規模言語モデル(LLM)は、強力な推論と計画能力のため、エージェントシステムの中心となってきています。
この相互作用は、外部ソースからの悪意のある入力がエージェントの振る舞いを誤解させる可能性がある、インジェクション攻撃のリスクも引き起こす。
本稿では,信頼に値するエージェントシステムのための動的ルールベースの分離フレームワークを提案する。
論文 参考訳（メタデータ） (2025-06-13T05:01:09Z) - Data Advisor: Dynamic Data Curation for Safety Alignment of Large Language Models [79.65071553905021]
所望のデータセットの特徴を考慮したデータ生成手法であるデータアドバイザを提案する。
Data Advisorは生成されたデータの状態を監視し、現在のデータセットの弱点を特定し、データ生成の次のイテレーションをアドバイスする。
論文 参考訳（メタデータ） (2024-10-07T17:59:58Z) - Get my drift? Catching LLM Task Drift with Activation Deltas [55.75645403965326]
タスクドリフトは攻撃者がデータを流出させたり、LLMの出力に影響を与えたりすることを可能にする。
そこで, 簡易線形分類器は, 分布外テストセット上で, ほぼ完全なLOC AUCでドリフトを検出することができることを示す。
このアプローチは、プロンプトインジェクション、ジェイルブレイク、悪意のある指示など、目に見えないタスクドメインに対して驚くほどうまく一般化する。
論文 参考訳（メタデータ） (2024-06-02T16:53:21Z) - Stop Uploading Test Data in Plain Text: Practical Strategies for
Mitigating Data Contamination by Evaluation Benchmarks [70.39633252935445]
データ汚染は、大規模な自動クロールコーパスで事前訓練されたモデルの台頭によって、普及し、課題となっている。
クローズドモデルの場合、トレーニングデータはトレードシークレットになり、オープンモデルであっても汚染を検出するのは簡単ではない。
1)公開するテストデータを公開鍵で暗号化し,デリバティブ配信を許可する,(2)クローズドAPI保持者からの要求トレーニング排他的コントロールを許可する,(2)評価を拒否してテストデータを保護する,(3)インターネット上のソリューションで表示されるデータを避け,インターネット由来のWebページコンテキストを解放する,という3つの方法を提案する。
論文 参考訳（メタデータ） (2023-05-17T12:23:38Z) - Mutual Information Regularized Offline Reinforcement Learning [76.05299071490913]
我々は、データセットにおける状態と行動間の相互情報の観点から、オフラインRLにアプローチする新しいMISAフレームワークを提案する。
この下位境界の最適化は、オフラインデータセット上での一段階改善されたポリシーの可能性の最大化と等価であることを示す。
MISAの3つの異なる変種を導入し、より厳密な相互情報によりオフラインのRL性能が向上することを示した。
論文 参考訳（メタデータ） (2022-10-14T03:22:43Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。