論文の概要: Operationalizing Ethics for AI Agents: How Developers Encode Values into Repository Context Files

• arxiv url: http://arxiv.org/abs/2605.05584v1
• Date: Thu, 07 May 2026 02:03:36 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-08 22:27:11.484165
• Title: Operationalizing Ethics for AI Agents: How Developers Encode Values into Repository Context Files
• Title（参考訳）: AIエージェントの運用倫理 - 開発者がバリューをリポジトリコンテキストファイルにエンコードする方法
• Authors: Christoph Treude, Sebastian Baltes, Marc Cheong,
• Abstract要約: このビジョンペーパーは、AIエージェントに対する倫理と価値観が、エージェントの振る舞いを形作る実行可能な命令にどのように変換されているかを調べる。 開発者はすでに、公正性、アクセシビリティ、持続可能性、トーン、プライバシに関するガイダンスを組み込んでいます。
• 参考スコア（独自算出の注目度）: 11.207503404473842
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: As AI coding agents become embedded in software development workflows, developers are beginning to operationalize ethical principles by encoding behavioral rules into repository-level context files for AI agents, such as AGENTS.md files. Rather than examining the ethics of AI agents in the abstract, this vision paper investigates how ethics and values are already being translated for AI agents into actionable instructions that shape agent behavior. Through a preliminary investigation, we find that developers are already embedding guidance related to fairness, accessibility, sustainability, tone, and privacy. These artifacts function as a developer-authored governance layer, translating abstract principles into situated, natural-language directives within development workflows. We outline a research agenda for studying this emerging practice, including how encoded values vary across communities, what governance dynamics emerge when multiple contributors negotiate these files, and whether agents reliably adhere to the constraints specified. Understanding how ethics and values are operationalized for AI agents is essential to ground AI governance in modern software engineering practice.
• Abstract（参考訳）: AIコーディングエージェントがソフトウェア開発ワークフローに組み込まれるにつれて、開発者はAgentS.mdファイルのようなAIエージェントのリポジトリレベルのコンテキストファイルに行動ルールをエンコードすることで、倫理的原則の運用を開始している。 このビジョンペーパーは、AIエージェントの倫理を抽象的に調べるのではなく、AIエージェントの倫理と価値観がエージェントの行動を形成する実行可能な指示にどのように変換されているかを調べる。 予備調査により、開発者はすでに公正性、アクセシビリティ、持続可能性、トーン、プライバシに関連するガイダンスを組み込んでいることがわかった。 これらのアーティファクトは、開発者公認のガバナンス層として機能し、抽象的な原則を開発ワークフロー内にある自然言語ディレクティブに変換する。 本稿では、この新たな実践を研究するための研究課題について概説する。例えば、コミュニティ間でエンコードされた価値がどのように異なるか、複数のコントリビュータがこれらのファイルを交渉する際にガバナンスのダイナミクスが現れるか、エージェントが指定された制約に確実に準拠するか、などである。 現代のソフトウェアエンジニアリングプラクティスにおいて、AIエージェントが倫理と価値をどのように運用するかを理解することは、AIガバナンスの基礎となるために不可欠である。

関連論文リスト

• Accountable Agents in Software Engineering: An Analysis of Terms of Service and a Research Roadmap [10.967845122224299]
  本稿では、広く使われているAIコーディングアシスタントとエージェント対応開発ツールについて、サービス規約の比較分析を行う。 分析の結果,ユーザの正当性,安全性,法的コンプライアンスに対する責任が一貫した傾向が明らかとなった。 既存のポリシーフレームワークは、ますますエージェントによる、自律的なソフトウェア開発と不整合である、と私たちは主張する。
  論文  参考訳（メタデータ） (2026-05-06T06:18:59Z)
• Position: agentic AI orchestration should be Bayes-consistent [92.04373485710285]
  本稿では,エージェントシステムのオーケストレーションレベルにおいて,一貫性のある意思決定にはベイズ原理が必要であることを論じる。 信念とユーティリティ対応ポリシーがエージェントAIオーケストレーションをどのように改善するかを説明するための例とデザインパターンを提供する。
  論文  参考訳（メタデータ） (2026-05-01T15:43:43Z)
• Agentic AI-assisted coding offers a unique opportunity to instill epistemic grounding during software development [0.02058747290260746]
  チャットベースのビブコーディングは、エージェントの足場を使用したAI支援エージェントソフトウェア開発に進化した。 現在のトレンドの1つは、プロジェクトやメソッドスコープドドキュメントのような、この計画文書を超えてドキュメントを活用することです。 ここでは、コミュニティが管理するフィールドスコープの基盤文書であるGROUNDING.mdを提案する。
  論文  参考訳（メタデータ） (2026-04-23T14:50:35Z)
• A Survey of Vibe Coding with Large Language Models [93.88284590533242]
  視覚符号化(Vibe Coding)は、開発者が成果観察を通じてAI生成の実装を検証する開発手法である。 変革の可能性にもかかわらず、この創発的パラダイムの有効性は未解明のままである。 この調査は、大規模な言語モデルによるVibe Codingの総合的かつ体系的なレビューを初めて提供する。
  論文  参考訳（メタデータ） (2025-10-14T11:26:56Z)
• Code with Me or for Me? How Increasing AI Automation Transforms Developer Workflows [60.04362496037186]
  本研究は,コーディングエージェントと開発者インタラクションを制御した最初の研究である。 我々は,2つの主要な協調型およびエージェント型符号化アシスタントの評価を行った。 結果から,エージェントはコピロトを超える方法で開発者を支援することができることがわかった。
  論文  参考訳（メタデータ） (2025-07-10T20:12:54Z)
• Do LLMs trust AI regulation? Emerging behaviour of game-theoretic LLM agents [61.132523071109354]
  本稿では、異なる規制シナリオ下での戦略選択をモデル化する、AI開発者、規制当局、ユーザ間の相互作用について検討する。 我々の研究は、純粋なゲーム理論エージェントよりも「悲観的」な姿勢を採用する傾向にある戦略的AIエージェントの出現する振る舞いを特定する。
  論文  参考訳（メタデータ） (2025-04-11T15:41:21Z)
• Media and responsible AI governance: a game-theoretic and LLM analysis [61.132523071109354]
  本稿では,信頼できるAIシステムを育成する上での,AI開発者,規制当局,ユーザ,メディア間の相互作用について検討する。 進化的ゲーム理論と大言語モデル(LLM)を用いて、異なる規制体制下でこれらのアクター間の戦略的相互作用をモデル化する。
  論文  参考訳（メタデータ） (2025-03-12T21:39:38Z)
• Can We Trust AI Agents? A Case Study of an LLM-Based Multi-Agent System for Ethical AI [10.084913433923566]
  AIベースのシステムは、多様なタスクをサポートすることによって数百万に影響を及ぼすが、誤情報、偏見、誤用といった問題に直面している。 本研究では,Large Language Models (LLM) を用いたAI倫理の実践について検討する。 エージェントがAIインシデントデータベースから現実のAI倫理問題に関する構造化された議論を行うプロトタイプを設計する。
  論文  参考訳（メタデータ） (2024-10-25T20:17:59Z)
• RE-centric Recommendations for the Development of Trustworthy(er) Autonomous Systems [4.268504966623082]
  EU AI Act(AIA)ガイドラインを遵守し、AIシステムの開発と実装は、間もなくEU内で必須となる。 実践者は、AIシステム開発中に倫理を運用するための実行可能な指示を欠いている。 異なる倫理的ガイドラインの文献レビューでは、対処された原則とそれらを記述するために使用される用語の矛盾が明らかになった。
  論文  参考訳（メタデータ） (2023-05-29T11:57:07Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。