格隆汇9月9日｜一名Anthropic公司研究员出于担忧，选择离开人工智能行业。他认为该实验室及其竞争对手正竞相研发人类无法掌控的AI系统，这也表明头部AI企业内部的安全顾虑正不断加剧。专门通过海量数据训练新型AI模型的研究员雅各布・考克森于周二表示，他将离开这家公司，原因是不想参与全行业争相研发可自我迭代AI系统的竞赛。他担心这类系统可能彻底失控并毁灭人类。这位27岁的英国籍研究员曾主修数学。他称，业内许多同行如今会用“决战时刻”和“终局”这类词汇，来描述走向可自我改进模型的发展趋势。考克森称：“按照当前态势，很多极端推演场景都有可能成真，到明年年底情况或许就会失控。”他还补充道，各家企业以及中国新兴AI企业之间相互竞争时，安全层面的取舍权衡不可避免。