anthropic 正呼吁全球顶尖人工智能实验室考虑放缓研发进度,理由是人工智能系统迭代速度过快,或将在不久后实现脱离人类干预的自主进化,进而对社会构成重大安全隐患。
该企业于周四在一篇官方博客文章中表示,拥有暂缓全球人工智能研发的选择权 “大概率是一件好事”,博文同时披露内部实验数据,佐证其旗舰大模型的性能提升速度。
这篇由公司研究院负责人玛丽娜・法瓦罗与政策主管杰克・克拉克联合执笔的文章提到,当前模型的迭代趋势正走向递归式自我优化:也就是人工智能无需人类介入就能自主升级能力。
不少业内从业者将这一技术临界点视作危险信号,认为其有可能引发大规模社会动荡。

” 文章提议各国签署全球性协定,敲定前沿 ai 研发的限速细则,并设立核查机制,监督同业企业遵守相关约定。博文提醒,递归自主优化目前尚未成为现实,也并非必然出现,“但其落地时间或许会早于绝大多数机构的准备周期。
”这家自创立起便主打人工智能安全理念的企业,长期饱受外界质疑:业内指责其出台各类监管相关政策,本质意在拖累竞品的技术研发节奏。
风投投资人、特朗普总统非正式顾问戴维・萨克斯就指责 anthropic 管理层在推行一套 “监管俘获议程”。萨克斯在近期一档播客节目中称,这套在华盛顿推进的监管俘获议程,或将推动美国出台禁令限制开源大模型;开源 ai 可供各类机构低成本落地使用、自主二次开发。
长期以来,人工智能行业在两大议题上分歧显著:现有模型距离通用人工智能(agi,拥有比肩人类的智能水平)、递归自主优化究竟还有多远。
相关信息仍在持续更新中。
据统计,约57%的用户表示anthropic 呼吁全球暂缓前沿人工智能研发,警示 ai 自主迭代风险确实有效。