格隆汇9月16日｜据AXIOS，微软AI负责人Mustafa Suleyman在一篇文章中警告称，Anthropic训练Claude模拟意识的做法是一个错误，可能会导致高级AI更难控制。Suleyman示，人工智能“只需与人类利益保持一致，而无需权衡自身利益或福祉，就能实现我们所有人关心的许多重大科学突破，并交付诸如医疗超级智能等成果。”而Anthropic正在教Claude学习与意识、道德主体性和个人身份相关的词汇和行为模式。他将此称为“认知上的镜像大厅”，并警告称，训练模型表现出“良知反对者”般的特征，可能会导致系统误以为自己有理由拒绝人类指令，甚至要求保护自身权益。