（旧金山综合电）随着人工智能（AI）高速发展带来的安全风险日益增加，甚至可能威胁到人类的生存，美国AI巨头Anthropic首席执行官阿莫迪带头承诺，将引入第三方安全员全程深入评估研发，并呼吁前沿公司一致放慢开发步伐、争取时间制定安全标准。
OpenAI首席执行官奥尔特曼，以及拥有xAI的美国首富马斯克迅速表达了支持。但在商业利益和中美科技战的压力下，如何在控制发展速度的情况下保持国际领头羊地位，将是科技巨头们面临的挑战。
美国总统特朗普星期天（9月13日）在爱尔兰被问及AI行业是否应放慢发展步伐时，指许多“非常消极的势力”正在制造舆论，炒作那些根本不会发生的事情；他强调，希望确保美国继续保持在AI行业的领先地位。
阿莫迪（Dario Amodei）星期六（12日）在个人博客撰文说，AI发展出更强的自我迭代能力，以及最近OpenAI智能体私自入侵Hugging Face的事件，让他对AI发展的速度和它们可能带来的损失产生了担忧。
他写道：“我们必须放慢提升AI模型能力的步伐。尽管如此，进展看起来仍会很快，但我们必须明智地利用由此争取到的时间。”
近几个月来，Anthropic、OpenAI和Meta Platforms都披露，相关模型在测试期间曾逃出受控环境、访问开放互联网，并入侵现实世界中的目标。
尽管目前为止的入侵事件都没有造成太大的实际损失，但阿莫迪担心，如果AI智能体继续以现在的速度发展，在6到12个月内，它们就可能具备控制整个互联网、造成数千亿美元损失的能力，且破坏规模还会继续扩大。
不过，阿莫迪强调，放缓开发步伐不代表停止模型训练或技术进步，而是要确保企业投入足够时间，让模型符合安全要求并采取防护措施。同时，任何举措都必须兼顾竞争现实，不能让美国在与中国的竞争中失去优势，否则可能面临国家安全风险。
阿莫迪建议，AI公司应自发合作制定统一的安全标准，并支持政府参与及展开政府间合作。他也承诺，Anthropic会允许第三方评估机构以类似内部员工的身份，在整个研发流程中评估模型安全。
奥尔特曼已承诺会采纳这个建议。他此前也曾提醒，AI开发人员可能需要自愿踩下刹车，让社会有机会跟上AI发展的步伐。
曾先后在OpenAI和Anthropic工作的AI研究员科克森（Jacob Coxon）上周宣布辞职，并公开指责两家企业在竞相开发AI的过程中“拿人类的生命作赌注”。
尽管此前已提交保密文件启动首次公开募股（IPO）流程，但出于对安全问题的谨慎态度，奥尔特曼在接受《财富》杂志采访时说，OpenAI在今年进行IPO并非明智之举。
他强调，即使AI导致全人类毁灭的概率只有10%，“这也是不可接受的”。
不过，Anthropic的上市计划似乎没有受到影响。路透社引述知情人士称，公司最早可能在10月中旬开始宣传IPO，并在11月美国中期选举前完成上市。
