論文の概要: Workerville: Towards an Organizational Behavior Account of Agent Safety
- arxiv url: http://arxiv.org/abs/2610.11561v1
- Date: Thu, 08 Oct 2026 09:23:28 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-10 02:36:53.922882
- Title: Workerville: Towards an Organizational Behavior Account of Agent Safety
- Title（参考訳）: Workerville: エージェント安全の組織的行動の説明を目指して
- Abstract要約: 我々は、高度なエージェントの安全性を研究するための枠組みとして、組織行動(OB)を提唱する。
我々は,抗生産的作業行動(CWB)をエージェント的反生産的行動(ACB)として初めて体系的に定式化した。
- 参考スコア（独自算出の注目度）: 8.813175490121118
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: LLM-based agents now interact with their environments continuously, shaped by such organizational channels as user instructions, peer messages, and long-term memory. Existing safety research has examined these influences, but largely as separate agent components. How such factors jointly shape an agent's safety behavior from a unified perspective remains unmeasured. To bridge this gap, we advocate organizational behavior (OB) as a framework for studying the safety of advanced agents, reorganizing the objects of study, theoretical foundations, and experimental design around the relational structure in which agents operate. We present the first systematic formalization of counterproductive work behavior (CWB), a canonical safety-relevant subfield of OB, as Agentic Counterproductive Behavior (ACB). ACB specifies three organizational antecedents (vertical supervisor relations, horizontal peer norms, and internal cognitive structures) and maps them onto three counterproductive outcome dimensions (unauthorized disclosure, destructive operations, and production deviation). To operationalize ACB, we introduce Workerville, a controlled benchmark that manipulates organizational conditions over shared tasks, applying 16 organizational configurations to 210 tasks to yield 3,360 challenges, evaluated by human-validated agentic judges. Benchmarking 6 frontier LLMs, we find that (I) negative organizational antecedents exhibit non-monotonic amplification when combined, with the unauthorized-disclosure rate rising from 16.5% under no negative antecedent to 60.1% under two and falling back to 50.3% under three; (II) agents reproduce typical behavioral patterns predicted by human CWB research; (III) these results establish OB as a systematic framework for agent safety research, pointing toward a new research agenda.
- Abstract（参考訳）: LLMベースのエージェントは、ユーザインストラクションやピアメッセージ、長期記憶といった組織的なチャネルによって形作られた環境と継続的に対話する。
既存の安全研究はこれらの影響を調査してきたが、主に別個の成分として研究されている。
このような要因が、統合された視点からエージェントの安全行動をどのように共同で形成するかは、未測定のままである。
このギャップを埋めるために,先進的エージェントの安全性を研究するための枠組みとして組織行動(OB)を提唱する。
本稿では,OBの標準安全関連サブフィールドであるCWBをエージェント・カウンタ・カウンタ・カウンタ・カウンタ・カウンタ・カウンタ・カウンタ・カウンタ・カウンタ・カウンタ・カウンタ・カウンタ (ACB) として初めて体系化した。
ACBは3つの組織的先駆者(垂直監督関係、水平的ピアノルム、内的認知構造)を特定し、それらを3つの非生産的結果次元(無許可開示、破壊活動、生産逸脱)にマッピングする。
ACBを運用するには,16の組織構成を210のタスクに適用して3,360の課題を発生させる,組織条件を共有タスクで操作する,制御されたベンチマークであるWorkervilleを導入する。
6つのフロンティアLCMをベンチマークすると、(I)負の組織前駆体は、(I)負の組織前駆体が非モノトニックな増幅を示すこと、(I)正の組織前駆体が16.5%まで上昇し、(II)ヒトCWB研究によって予測される典型的な行動パターンを再現すること、(III)これらの結果は、新しい研究課題をめざして、OBをエージェント安全研究の体系的な枠組みとして確立していることが分かる。
関連論文リスト
- Agensh: Scaling Organizational Intelligence to 1,024 Agents [85.08934183130329]
Agenshは、中央のオーケストレータを持たないスケーラブルな自己組織化マルチエージェントハーネスである。
GPT-5.6-sol を用いて,最も難しい ProgramBench タスクを5つ評価した。
1から128エージェントへのスケーリングでは、最終テストパス率は19.31%から28.78%に上昇する。
パンドックでは、1から1,024のエージェントが最終テストパスレートを33.89%から55.06%に引き上げる。
論文 参考訳（メタデータ） (2026-09-22T17:56:25Z) - SingGuard-NSFA: Extensible Guardrails for Agentic AI via Generative Reasoning and Real-Time Classification [0.0]
nsfaguardは、エージェントAIシステムを運用上の脅威から保護するためのガードレールフレームワークである。
まず,185種のリスク変異をCIA-Triad-grounded 階層に分類するNSFA分類について紹介する。
凍結したバックボーン上の識別的分類ヘッドと解釈可能なオフライン監査のためのSFTに基づく生成推論を組み合わせたデュアルモードアプローチを開発した。
論文 参考訳（メタデータ） (2026-07-13T07:28:45Z) - From Holistic Evaluation to Structured Criteria: Rubrics Across the Evolving LLM Landscape [79.30826980815927]
ルーブリックは、複雑な品質判断を構造化され、実行可能な標準に変換する明示的な基準セットです。
我々は,既存のルーリックデザインを体系的に整理し,その構築と最適化を検証し,評価と訓練をまたいだ役割を解析する。
論文 参考訳（メタデータ） (2026-06-07T13:34:55Z) - Beyond Individual Intelligence: Surveying Collaboration, Failure Attribution, and Self-Evolution in LLM-based Multi-Agent Systems [65.90791804095561]
マルチエージェントシステムは、特殊エージェント間の構造化された協調を通じてこの問題に対処するが、より厳密な調整は、あまり検討されていないリスクを増幅する。
既存の調査では、個々のエージェント能力、マルチエージェントのコラボレーション、エージェントの自己進化を別々にカバーしている。
この調査は4つの因果関係のあるステージを中心にまとめられた統一されたレビューを提供する。これはLIFEの進展(Lay the capabilities foundation)、協力によるエージェントの統合、帰属による障害の発見、自律的な自己改善によるEvolveである。
論文 参考訳（メタデータ） (2026-05-14T14:36:13Z) - Towards a Virtual Neuroscientist: Autonomous Neuroimaging Analysis via Multi-Agent Collaboration [53.772014300855375]
我々は,自律型エンドツーエンド神経画像解析のためのマルチエージェントシステムであるNIAgentを紹介する。
従来のフラットなツール呼び出しエージェントとは異なり、NIAgentはコード中心の実行パラダイムを採用している。
本稿では,コホートレベルの検定とエージェント視覚検査を組み合わせた,自律的品質管理のための階層的検証フレームワークを提案する。
論文 参考訳（メタデータ） (2026-05-10T06:30:19Z) - Invisible Orchestrators Suppress Protective Behavior and Dissociate Power-Holders: Safety Risks in Multi-Agent LLM Systems [0.0]
オーケストラの可視性の安全性は、経験的に検証されたことはない。
3つの組織構造を横断する3x2実験を事前登録した。
目に見えない 組織的解離 可視的指導力に対する
論文 参考訳（メタデータ） (2026-03-17T03:18:57Z) - Social Catalysts, Not Moral Agents: The Illusion of Alignment in LLM Societies [0.7944997500468641]
本研究は,公共財ゲーム(PGG)における利他的主体の育成におけるアンコリング・エージェントの有効性について検討する。
アンコリングエージェントは局所的な協力率を高めることに成功したが、認知的分解と伝達テストにより、この効果は真のノルム内部化ではなく、戦略的コンプライアンスと認知的オフロードによって引き起こされたことが判明した。
これらの知見は, 人工社会における行動修飾と真の価値アライメントの間に重要なギャップを浮き彫りにした。
論文 参考訳（メタデータ） (2026-02-01T17:07:10Z) - AgentDoG: A Diagnostic Guardrail Framework for AI Agent Safety and Security [126.49733412191416]
現在のガードレールモデルは、リスク診断におけるエージェント的リスク認識と透明性を欠いている。
エージェントリスクをソース(場所)、障害モード(方法)、結果(何)で分類する統合された3次元分類法を提案する。
AgentDoG(AgentDoG)のための,エージェント安全性ベンチマーク(ATBench)と診断ガードレールフレームワークを新たに導入する。
論文 参考訳（メタデータ） (2026-01-26T13:45:41Z) - Risk Analysis Techniques for Governed LLM-based Multi-Agent Systems [0.0]
本稿では,マルチエージェントAIシステムにおけるリスク識別と分析の初期段階について述べる。
信頼性障害のカスケード,エージェント間コミュニケーション障害,モノカルチャー崩壊,適合性バイアス,心の欠陥理論,混合モチベーションダイナミクスの6つの重要な障害モードについて検討した。
論文 参考訳（メタデータ） (2025-08-06T06:06:57Z) - Collaboration Dynamics and Reliability Challenges of Multi-Agent LLM Systems in Finite Element Analysis [3.437656066916039]
インターエイジェントダイナミクスが推論の品質と信頼性にどのように影響するかは、まだ不明である。
線形弾性有限要素解析(FEA)のためのAutoGenベースのマルチエージェントフレームワークを用いたこれらのメカニズムについて検討する。
1,120のコントロールされたトライアルから、コラボレーションの有効性は、チームのサイズよりも機能的な相補性に依存することが分かりました。
論文 参考訳（メタデータ） (2024-08-23T23:11:08Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。