論文の概要: Small-world Networks of Agents Brainstorm AI Risks to Support Ideation

• arxiv url: http://arxiv.org/abs/2609.24859v1
• Date: Mon, 21 Sep 2026 16:32:57 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-23 18:04:04.016193
• Title: Small-world Networks of Agents Brainstorm AI Risks to Support Ideation
• Title（参考訳）: エージェントの小さな世界ネットワーク、ブレインストーミングAIのリスクに対処
• Abstract要約: 参加型AIを補完する3段階の思考支援ツールを提案する。 与えられたAI使用に応じて、利害関係者を動的に検出する。 これらの利害関係者をLLMでシミュレートし、与えられたトポロジのネットワークに接続する。 第3に、ネットワークの集中度を使ってリスクを優先順位付けする。
• 参考スコア（独自算出の注目度）: 9.543182309289167
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: The ideation phase of participatory AI risk assessment often starts with a blank slate or a limited list of predefined risks, making it difficult to surface indirect or systemic harms. To address this limitation, we propose a three-stage ideation support tool. The tool complements participatory AI, rather than replacing it, and helps focus later engagement with affected communities. First, it dynamically discovers stakeholders depending on the given AI use and recursively expanding outward, allowing overlooked or indirect stakeholders to emerge. Second, it simulates these stakeholders with LLMs, connecting them into a network of a given topology, and having them ideate about risks. Third, it prioritizes risks using network centrality measures. In an initial evaluation, we found that betweenness centrality run through agents connected in a small-world network works best as it elevates risks raised by stakeholders who bridge disconnected groups, surfacing novel, systemic harms that traditional methods often miss. On an AI chatbot companion use case, this approach increased the novelty of the identified risks by approximately 1.1 points over single LLM brainstorming, and by 0.5 points over agentic LLM brainstorming, measured on a normalized five-point Likert scale, without reducing the plausibility or severity of the identified risks. To test whether our framework helps a human-led ideation session using the Futures Wheel approach, we divided 11 teams of non-western young chatbot users into two types: control (team) and treatment (team) in a participatory AI risk assessment. The control teams started from a list of risks generated by the 45 AI practitioners in the initial evaluation; the treatment teams started from a list generated by our framework. The treatment teams identified more risks overall, and more systemic, human-computer interaction, and environmental risks.
• Abstract（参考訳）: 参加型AIリスクアセスメントの構想段階は、しばしば空白のスレートまたは予め定義されたリスクのリストから始まる。 この制限に対処するため、我々は3段階の構想支援ツールを提案する。 このツールは、AIを置き換えるのではなく、参加型AIを補完する。 まず、与えられたAIの使用に応じて利害関係者を動的に発見し、再帰的に外部に拡大することで、見過ごされた、あるいは間接的な利害関係者の出現を可能にする。 次に、これらの利害関係者をLLMでシミュレートし、与えられたトポロジのネットワークに接続し、リスクについて考えさせる。 第3に、ネットワークの集中度を使ってリスクを優先順位付けする。 最初の評価では,非連結なグループを橋渡しする利害関係者のリスクを増大させ,従来の手法が見逃すような新奇で体系的な危害に直面することにより,小規模世界のネットワークに接続されたエージェントを通した疎密性が最善であることが判明した。 AIチャットボットのコンパニオンユースケースでは、単一のLSMブレインストーミングよりも約1.1ポイント、正常化された5ポイントのLikertスケールで測定されたエージェントLSMブレインストーミングよりも0.5ポイント、特定リスクの妥当性や重症度を低下させることなく、特定リスクの新規性を高めた。 Futures Wheelアプローチを使って、私たちのフレームワークが人間主導のアイデアセッションに役立つかどうかをテストするために、西部の若いチャットボットユーザーの11チームを、参加型AIリスクアセスメントでコントロール(チーム)と治療(チーム)の2つのタイプに分けました。 コントロールチームは、最初の評価で45人のAI実践者が生成したリスクのリストから始まりました。 治療チームは、全体的なリスク、より体系的、人間とコンピュータの相互作用、および環境リスクを特定した。

関連論文リスト

• Frontier AI Risk Management Framework in Practice: A Risk Analysis Technical Report v1.5 [61.787178868669265]
  この技術レポートは、サイバー犯罪、説得と操作、戦略上の詐欺、制御されていないAIR&D、自己複製の5つの重要な側面について、更新されきめ細かな評価を提示する。 この作業は、現在のAIフロンティアのリスクに対する理解を反映し、これらの課題を軽減するための集団行動を促します。
  論文  参考訳（メタデータ） (2026-02-16T04:30:06Z)
• Toward Quantitative Modeling of Cybersecurity Risks Due to AI Misuse [50.87630846876635]
  我々は9つの詳細なサイバーリスクモデルを開発する。 各モデルはMITRE ATT&CKフレームワークを使用して攻撃をステップに分解する。 個々の見積もりはモンテカルロシミュレーションによって集約される。
  論文  参考訳（メタデータ） (2025-12-09T17:54:17Z)
• When Autonomy Goes Rogue: Preparing for Risks of Multi-Agent Collusion in Social Systems [78.04679174291329]
  悪意のあるマルチエージェントシステム(MAS)のリスクをシミュレートするための概念実証手法を提案する。 この枠組みを、誤情報拡散とeコマース詐欺という2つのリスクの高い分野に適用する。 その結果,分散システムの方が,集中型システムよりも悪意ある行動を実行するのに効果的であることが示唆された。
  論文  参考訳（メタデータ） (2025-07-19T15:17:30Z)
• Identifying, Evaluating, and Mitigating Risks of AI Thought Partnerships [35.135633927249735]
  新たなフレームワークを通じて、AI思考パートナのリスクを特定します。 リスク評価のための具体的な指標を提案する。 開発者や政策立案者に対して、具体的な緩和戦略を提案する。
  論文  参考訳（メタデータ） (2025-05-22T16:58:48Z)
• A Proposal for Evaluating the Operational Risk for ChatBots based on Large Language Models [39.58317527488534]
  3つの主要なステークホルダーに対する潜在的な脅威を同時に評価する新しいリスク評価指標を提案する。 メトリクスを検証するために、脆弱性テスト用のオープンソースのフレームワークであるGarakを活用しています。 その結果、セキュアで信頼性の高いAI駆動会話システムの運用における多次元リスクアセスメントの重要性が浮き彫りになった。
  論文  参考訳（メタデータ） (2025-05-07T20:26:45Z)
• Attack Atlas: A Practitioner's Perspective on Challenges and Pitfalls in Red Teaming GenAI [52.138044013005]
  生成AI、特に大規模言語モデル(LLM)は、製品アプリケーションにますます統合される。 新たな攻撃面と脆弱性が出現し、自然言語やマルチモーダルシステムにおける敵の脅威に焦点を当てる。 レッドチーム(英語版)はこれらのシステムの弱点を積極的に識別する上で重要となり、ブルーチーム(英語版)はそのような敵の攻撃から保護する。 この研究は、生成AIシステムの保護のための学術的な洞察と実践的なセキュリティ対策のギャップを埋めることを目的としている。
  論文  参考訳（メタデータ） (2024-09-23T10:18:10Z)
• Quantitative AI Risk Assessments: Opportunities and Challenges [7.35411010153049]
  リスクを減らす最善の方法は、包括的なAIライフサイクルガバナンスを実装することです。 リスクは技術コミュニティのメトリクスを使って定量化できます。 本稿では,このようなアプローチの機会,課題,潜在的影響に焦点をあてて,これらの課題について考察する。
  論文  参考訳（メタデータ） (2022-09-13T21:47:25Z)
• Towards Risk Modeling for Collaborative AI [5.941104748966331]
  コラボレーティブaiシステムは、共通の目標を達成するために、共有空間で人間と協力することを目指している。 この設定は、人間を傷つける可能性のある接触により、潜在的に危険な状況を引き起こす。 協調型AIシステムに合わせたリスクモデリング手法を紹介します。
  論文  参考訳（メタデータ） (2021-03-12T18:53:06Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。