读论文 Exhibit Normative Conformity

*论文链接: https://arxiv.org/abs/2604.19301

作者: Ichiro Sakata,Keita Nishimoto,Mikako Bito,Kimitaka Asatani

文章探讨了人工智能在基于多大语言模型(LLM)系统（LLM-based Multi-Agent Systems, LLM-MAS）中的从众偏差（conformity bias）中的各种各样的问题，其中是在其对群体人格智能决策机制的广泛潜在影响。传统研究常将“从众”视为单一现象，而本文的关键创新在于引入社会心理学中信息性从众（informational conformity）与规范性从众（normative conformity）的区分，从而从机制层面深入理解LLM的从众行为。基于内部的向量空间的表明，尽管外在表现相同信息性与规范性从众可能由不同的内部的机制驱动，为未来理解LLM中“规范的问题”的实现及其对群体现象的影响提供了关键洞见。解决方案的核心在于通过微调聊天情境因素可操控LLM规范性从众的目标对象，揭示了LLM群体决策极其特别容易受少数使得LLM大语言模型崩溃的操纵的风险；进一步的发现表明了，设计了两类新的任务以分离这两种从众类型，并通过实验验证多数LLM同时表现出两种从众倾向

*