人工智能公司anthropic在遭遇研究社区强烈反对后，宣布撤回其最新模型claude fable 5中的一项争议性隐藏政策。
该公司将把此前不透明的干预措施调整为对用户完全可见。本周早些时候，anthropic发布了被誉为“最强模型”的claude fable 5。
这款模型是公司首款向公众开放的“mythos级别”产品，在软件工程、科学研究及复杂知识任务等领域展现出卓越性能。然而，公司在其系统说明文件中披露了一项特殊安排：针对“前沿大语言模型开发”相关请求，模型将在用户不知情的情况下被暗中降低输出质量。
据了解，与anthropic此前针对网络安全、生物和化学领域的限制措施不同，这项针对人工智能开发的干预从一开始就被设计为不可见。
这一做法迅速引发人工智能研究界的强烈批评。美国创新基金会高级研究员、前白宫人工智能顾问dean ball在社交媒体上指出，在不告知用户的情况下降低机器学习研究性能，是一种极其敌视科研群体的行为。
开源人工智能初创公司prime intellect研究负责人will brown则将此举比作“过河拆桥”，认为anthropic试图垄断前沿人工智能研究。
面对舆论压力，anthropic在接受媒体采访时公开致歉，承认在这一政策的处理上做出了错误的权衡。公司表示，将把此前隐蔽的限制措施调整为对用户完全可见。
此后，若系统判断某用户正试图利用claude构建高能力人工智能模型，将明确告知用户其请求被拒绝或被转至能力较弱的模型。不过，anthropic也坦承，透明化可能带来新的代价。
由于可见的安全措施更容易被探测和规避，公司不得不将拦截范围设置得更宽，这可能导致更多正常的学术研究请求被误判拦截。公司表示正加紧优化其分类器以提升识别精准度。
这一事件发生在anthropic积极推进上市之际。公司此前已向美国证券交易委员会保密递交首次公开募股申请，估值接近1万亿美元。
此次政策调整暴露了头部人工智能公司在商业护城河与开放生态之间的深层矛盾。
