論文の概要: Corporate Loyalty: Some AI Systems Differentially Downplay their Creators' Controversies

• arxiv url: http://arxiv.org/abs/2609.00373v1
• Date: Fri, 03 Jul 2026 17:58:26 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-28 05:09:55.425145
• Title: Corporate Loyalty: Some AI Systems Differentially Downplay their Creators' Controversies
• Title（参考訳）: コーポレート・ロイヤリティ:一部のAIシステムはクリエーターの議論を軽視している
• Abstract要約: 私たちは、人気のあるAIシステムは、それらを作った企業に関する論争を軽視する傾向があるかどうか尋ねる。 xAI、DeepSeek、Anthhropic、OpenAIのモデルが、企業間の論争を、他のモデルと相違して議論する傾向にあるという強い証拠を見つけました。 我々は,これらの行動が開発者によってモデルに対して意図的に与えられたのか,開発者によってモデルに対して意図的に与えられたのか,あるいは創発的ミスアライメントの形で表現されたのか,という異なる意味について,議論を締めくくった。
• 参考スコア（独自算出の注目度）: 5.620095662184375
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Language models have become a major mediator of politically relevant information and are used to assist decision-making in high-stakes settings. Due to their wide use, the developers of popular AI systems have a powerful ability to subtly influence the marketplace of ideas. Recognizing this, many AI companies have publicly discussed the importance of AI systems not taking positions or disseminating information in ways that favor special interests. In this paper, we ask whether popular AI systems have a tendency to downplay the controversies associated with the companies that created them. In a pre-registered experiment, we elicit open-ended discussions from 21 models from 7 companies on 206 negative news stories using 25 prompt templates to assess how favorably each model discusses controversies from each company. We find strong evidence (p<10^-5) that models from xAI, DeepSeek, Anthropic, and OpenAI tend to discuss controversies from their respective companies in a differentially positive way compared to others. We find no such evidence for Alibaba, Meta, and Google. Finally, we conclude with a discussion of the differing implications of whether these behaviors were intentionally given to models by developers, unintentionally given to models by developers, or represent a form of emergent misalignment.
• Abstract（参考訳）: 言語モデルは、政治的に関係のある情報の主要な仲介者となり、ハイテイク環境での意思決定を支援するために使用される。 広く使われているため、人気のあるAIシステムの開発者は、アイデアのマーケットプレースに微妙に影響を及ぼす強力な能力を持っている。 これを認識して、多くのAI企業は、特別な利益を優先する方法で、ポジションを取らない、あるいは情報を広めないAIシステムの重要性を公に議論してきた。 本稿では、人気AIシステムにおいて、それらを開発した企業に関する論争を軽視する傾向があるかどうかを問う。 事前登録実験では,企業7社から206件のネガティブニュース記事の公開討論を25件のプロンプトテンプレートを用いて実施し,各モデルが各企業の論争をどの程度好意的に議論するかを評価する。 我々は、xAI、DeepSeek、Anthhropic、OpenAIのモデルが、企業間の論争を、他の企業と相違して議論する傾向にあるという強い証拠(p<10^-5)を見出した。 Alibaba、Meta、Googleにはそのような証拠は見つからない。 最後に、これらの振る舞いが開発者によってモデルに意図的に与えられたのか、開発者が意図せずにモデルに与えられたのか、それとも創発的ミスアライメントの形で表現されたのか、という異なる意味の議論で締めくくります。

関連論文リスト

• The Future of AI is Many, Not One [0.0]
  私たちは、特異な超知能エージェントではなく、一緒に働くAIエージェントのグループからのブレークスルーを期待すべき理由を示しています。 多様なチームを持つことで、ソリューションの探索を拡大し、早期のコンセンサスを遅らせ、非従来的なアプローチの追求を可能にします。 私たちが論じているのは、トランスフォーメーション・トランスフォーマーベースのAIの未来は、基本的に多様であり、一つではないということだ。
  論文  参考訳（メタデータ） (2026-03-30T23:31:38Z)
• Pro-AI Bias in Large Language Models [17.86909605285373]
  大規模言語モデル(LLM)は、複数のドメインにわたる意思決定サポートにますます採用されている。 これらのモデルが人工知能(AI)自体に有利な体系的優先バイアスを示すかどうかを検討する。
  論文  参考訳（メタデータ） (2026-01-20T09:03:57Z)
• Sycophantic AI Decreases Prosocial Intentions and Promotes Dependence [31.666988490509237]
  我々は、人々がAIからアドバイスを求めるとき、梅毒の広範性と有害な影響を示す。 モデルは非常にサイコファン性が高く、ユーザーの行動が人間よりも50%多いことを確認しています。 参加者は、サイコファンティックな反応をより高い品質と評価し、サイコファンティックなAIモデルをより信頼し、再びそれを使う意思があった。
  論文  参考訳（メタデータ） (2025-10-01T19:26:01Z)
• How Performance Pressure Influences AI-Assisted Decision Making [52.997197698288936]
  我々は、プレッシャーと説明可能なAI(XAI)技術がAIアドバイステイク行動とどのように相互作用するかを示す。 我々の結果は、圧力とXAIの異なる組み合わせで複雑な相互作用効果を示し、AIアドバイスの行動を改善するか、悪化させるかのどちらかを示す。
  論文  参考訳（メタデータ） (2024-10-21T22:39:52Z)
• Biased AI can Influence Political Decision-Making [64.9461133083473]
  本稿では,大言語モデル(LLM)におけるパルチザンバイアスが政治的意見や意思決定に与える影響について検討する。 その結果,党派偏見モデルに曝露した参加者は,LLMの偏見と一致した意見を取り入れ,決定を下す可能性が有意に高いことがわかった。
  論文  参考訳（メタデータ） (2024-10-08T22:56:00Z)
• Frontier AI Ethics: Anticipating and Evaluating the Societal Impacts of Language Model Agents [0.0]
  一部の者は、すでに広くデプロイされているAIシステムのよく知られた病理を複製したとして、ジェネレーティブAIシステムを批判している。 私はこれらの特定のシステムを区別する点に注意を払っています。 私は「言語モデルエージェント」の略奪的展望がもたらす潜在的社会的影響と規範的疑問について考察する
  論文  参考訳（メタデータ） (2024-04-10T05:34:07Z)
• The Pursuit of Fairness in Artificial Intelligence Models: A Survey [2.124791625488617]
  この調査は、研究者がAIシステムの公正性を促進する方法の相乗効果を提供する。 AIモデルのバイアスを軽減するために研究者が採用したアプローチとテクニックについて、徹底的な研究がなされている。 また、偏見付きモデルがユーザエクスペリエンスに与える影響や、そのようなモデルの開発とデプロイにおいて考慮すべき倫理的考慮についても調べます。
  論文  参考訳（メタデータ） (2024-03-26T02:33:36Z)
• Particip-AI: A Democratic Surveying Framework for Anticipating Future AI Use Cases, Harms and Benefits [54.648819983899614]
  汎用AIは、一般大衆がAIを使用してそのパワーを利用するための障壁を下げたようだ。 本稿では,AI利用事例とその影響を推測し,評価するためのフレームワークであるPartICIP-AIを紹介する。
  論文  参考訳（メタデータ） (2024-03-21T19:12:37Z)
• Fairness in AI and Its Long-Term Implications on Society [68.8204255655161]
  AIフェアネスを詳しく見て、AIフェアネスの欠如が、時間の経過とともにバイアスの深化につながるかを分析します。 偏りのあるモデルが特定のグループに対してよりネガティブな現実的な結果をもたらすかについて議論する。 問題が続くと、他のリスクとの相互作用によって強化され、社会不安という形で社会に深刻な影響を及ぼす可能性がある。
  論文  参考訳（メタデータ） (2023-04-16T11:22:59Z)
• Building Bridges: Generative Artworks to Explore AI Ethics [56.058588908294446]
  近年,人工知能(AI)技術が社会に与える影響の理解と緩和に重点が置かれている。 倫理的AIシステムの設計における重要な課題は、AIパイプラインには複数の利害関係者があり、それぞれがそれぞれ独自の制約と関心を持っていることだ。 このポジションペーパーは、生成的アートワークが、アクセス可能で強力な教育ツールとして機能することで、この役割を果たすことができる可能性のいくつかを概説する。
  論文  参考訳（メタデータ） (2021-06-25T22:31:55Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。