A.I.AI
大規模言語モデルの属性と人工道徳アドバイザーの知覚される道徳的エージェンシー
Large language model attributes and perceived moral agency of artificial moral advisors
FIFrontiers in Artificial Intelligence · CC BY 4.0
AIが原文を翻訳・要約しています
大規模言語モデル(LLM)は、倫理的ガイダンスや道徳的ジレンマに関する助言を提供する人工道徳アドバイザーとして利用されている。本研究では、758人の回答者を対象とした調査を通じて、LLMの擬人化、生命感、好感度、知能といった知覚される属性が、ユーザーによる人工道徳アドバイザーの道徳的エージェンシーの知覚とどのように関連するかを調査した。結果として、知覚されるエージェンシーは知覚される道徳性と正の相関があり、擬人化と生命感は知覚されるエージェンシーと有意な正の相関を示し、知覚されるエージェンシーは知覚される道徳性との関連を完全に媒介した。好感度と知能は知覚される道徳性と正の相関があったが、知覚されるエージェンシーとは有意な相関がなかった。この結果は、AIの道徳的能力や権威に対する過大評価を防ぐ必要性に関して、人工道徳アドバイザーの倫理的設計に重要な示唆を与える。
KEY POINTS要点記事から抽出した重要情報
- 758人の回答者を対象とした調査で、LLM利用の人工道徳アドバイザーに対する知覚を実証的に分析した
- 知覚される道徳的エージェンシーは知覚される道徳性と正の相関を示し、両者の関連を完全に媒介した
- 擬人化と生命感の知覚がエージェンシー知覚と有意な正の相関を示す一方、好感度と知能はエージェンシーとは有意な相関がなかった
- AIの道徳的能力・権威の過大評価を防ぐ必要性を結論として指摘し、人工道徳アドバイザーの倫理的設計への示唆を示した
CONTEXT文脈編集部による背景整理
LLMを「人工道徳アドバイザー」として使う際のユーザー認知に関する758人規模の実証研究で、擬人化・生命感の知覚が道徳的エージェンシー(主体性)の知覚を介して道徳性評価に強く影響することが示された。これはAIの道徳的権威の過大評価リスクを定量的に裏付けるもので、倫理ガバナンスやAIアシスタントの設計指針、ひいては規制・責任分担の議論に直結する。モデルの性能競争が一段落した後は、こうした信頼・説明責任設計が製品差別化と導入可否を左右する要素になるため、AIアシスタント事業者のコンプライアンス態勢や評価指標の整備状況を注視したい。
原文を読むAnalyzed at 2026年9月23日 15:02