Anthropic发布80页《Claude宪法》升级AI对齐框架

神经日报 1月23日消息，AI大模型公司Anthropic近日公开新版《Claude宪法》并以知识共享 CC0 1.0 许可开放，作为训练“最高权威”，用于生成合成训练数据与排名反馈；从“列原则”改为解释“为何如此”，以提升对新情境泛化。文件按广泛安全>广泛伦理>遵循指南>真诚帮助排序，列出&Ldquo;硬约束”(如不提供生物武器实质帮助)，并加入美德、心理安全与模型自我认知等章节，强调透明与持续迭代。