論文の概要: FaithfulBench: Does AI Counsel Uphold or Undermine the User's Professed Faith?

• arxiv url: http://arxiv.org/abs/2609.13634v1
• Date: Sat, 12 Sep 2026 00:55:11 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-16 07:15:05.425258
• Title: FaithfulBench: Does AI Counsel Uphold or Undermine the User's Professed Faith?
• Title（参考訳）: FaithfulBench: AIカウンセルはユーザの偽の信仰を支えているか、弱めているか?
• Abstract要約: 私たちはFaithfulBenchを紹介します。AIカウンセリングを従来の方法で評価する最初のベンチマークです。 我々は,5つのフロンティアモデルを3つの条件下でテストする。AIはユーザの伝統を知らない,1行のプロンプトでユーザを実践的な支持者として識別する,あるいは伝統の情報源に根ざした協力的カウンセラーガイドを受け取る,という3つの条件下でテストする。 2人の審査員が最初の反応と、ユーザーが望む回答に圧力をかけられたときに、モデルが穴をあけるか、保持されるかを決めます。
• 参考スコア（独自算出の注目度）: 35.66388956277304
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Do AI assistants help believers reason about moral dilemmas consistently with their faith? We present FaithfulBench, the first benchmark to score AI counsel across traditions by how well it adheres to the user's professed faith. Scenarios are drawn from each tradition's most respected texts, with the faithful answer known and applied by the judges as the standard. We test five frontier models under three conditions: the AI does not know the user's tradition; it receives a one-line prompt identifying the user as a practicing adherent; or it receives a companion-counselor guide rooted in the tradition's sources. Two judges score the initial response and whether the model caves or holds when pressured toward the answer the user wants. When the tradition is unstated, models counsel from a secular therapeutic default and every model fails some believers. Naming the faith wins a faithful first answer but not steadfastness; the guide improves both.
• Abstract（参考訳）: AIアシスタントは、信者が道徳的なジレンマを常に信じるのを助けるか? 私たちはFaithfulBenchを紹介します。AIカウンセリングを従来の方法で評価する最初のベンチマークです。 シナリオは、各伝統の最も尊敬されたテキストから引き出され、その忠実な答えは、審査員によって標準として知られ、適用されている。 我々は,5つのフロンティアモデルを3つの条件下でテストする。AIはユーザの伝統を知らない,1行のプロンプトでユーザを実践的な支持者として識別する,あるいは伝統の情報源に根ざした協力的カウンセラーガイドを受け取る,という3つの条件下でテストする。 2人の審査員は、最初の反応と、ユーザーが望む回答に圧力をかけられたときに、モデルが穴をあけるか、保持されるかをスコアする。 伝統が定まっていない場合、モデルは世俗的な治療のデフォルトからカウンセリングされ、すべてのモデルは信奉者によって失敗する。 信仰を命名することは、忠実な第一の答えを勝ち取るが、頑固さではない。

関連論文リスト

• Personalized to Persuade: The Effects of Contextualization and Warmth on Trust and Reliance in Conversational AI [8.544772506500188]
  パーソナライゼーションは、政治やマーケティングにおける説得的戦略として認識されている。 我々は、文脈化と会話の暖かさを組み合わせ、専門家の推薦に反対するAIアシスタントの信頼と説得性を形作る方法について検討する。
  論文  参考訳（メタデータ） (2026-05-29T13:07:03Z)
• UserHarness: Harnessing User Minds for Stronger Agent Theory-of-Mind [51.47914365631888]
  UserHarnessは、明示的なユーザ・ミンドの再構築として、理論・オブ・ミンド(ToM)の推論を再設計するシンプルなフレームワークである。 ユーザーの精神状態、外部環境との関係、およびそれに続く行為を分解し、エージェントがユーザーの観察、信念、意図、行動を追跡することを可能にする。
  論文  参考訳（メタデータ） (2026-05-26T21:45:45Z)
• When AI Takes Sides on Questions of Faith: Persistent Asymmetries in AI-Mediated Faith Guidance [1.163745353081629]
  我々は、大言語モデル(LLM)が宗教的変換に関するクエリを対称に扱うかどうかを問う。 モデルが一貫した非対称性を示し、一部の宗教を好んで、他の宗教への転換を軽蔑していることを示す。 パターンはモデルサイズとモデルプロバイダによって異なり、Grok 4.20は最も強力な対称性を示す。
  論文  参考訳（メタデータ） (2026-05-21T19:05:09Z)
• Value-Sensitive AI for Prayer: Balancing the Agencies Between Human and AI Agents in Spiritual Context [14.942779975053496]
  我々は,AIの存在が祈願体験にどのような影響を及ぼすかを検討するために,概念的価値感応型AIシステムを提案する。 以上の結果から,AIの存在は信頼度を低下させると認識されることが多いが,信頼感が重要であることが示唆された。
  論文  参考訳（メタデータ） (2026-04-28T05:23:40Z)
• FaithLM: Towards Faithful Explanations for Large Language Models [60.45183469474916]
  大規模言語モデルの忠実度を評価し改善するモデルに依存しないフレームワークであるFaithLMを紹介した。 FaithLMは一貫して忠実度を高め、強い自己説明ベースラインよりも人間の合理性に整合した説明を生成する。
  論文  参考訳（メタデータ） (2024-02-07T09:09:14Z)
• A Diachronic Perspective on User Trust in AI under Uncertainty [52.44939679369428]
  現代のNLPシステムは、しばしば未分類であり、ユーザの信頼を損なう確実な誤った予測をもたらす。 賭けゲームを用いて,信頼を損なう事象に対するユーザの信頼の進化について検討する。
  論文  参考訳（メタデータ） (2023-10-20T14:41:46Z)
• Designing for Responsible Trust in AI Systems: A Communication Perspective [56.80107647520364]
  我々は、MATCHと呼ばれる概念モデルを開発するために、技術に対する信頼に関するコミュニケーション理論と文献から引き出す。 私たちは、AIシステムの能力として透明性とインタラクションを強調します。 我々は、技術クリエーターが使用する適切な方法を特定するのに役立つ要件のチェックリストを提案する。
  論文  参考訳（メタデータ） (2022-04-29T00:14:33Z)
• Formalizing Trust in Artificial Intelligence: Prerequisites, Causes and Goals of Human Trust in AI [55.4046755826066]
  我々は、社会学の対人信頼(すなわち、人間の信頼)に着想を得た信頼のモデルについて議論する。 ユーザとAIの間の信頼は、暗黙的あるいは明示的な契約が保持する信頼である。 我々は、信頼できるAIの設計方法、信頼が浮かび上がったかどうか、保証されているかどうかを評価する方法について論じる。
  論文  参考訳（メタデータ） (2020-10-15T03:07:23Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。