（悉尼/联合国综合电）OpenAI的智能体今年6月侵入澳大利亚政府一个健康数据网站，未经授权访问其中的文件；这可能是已知首起人工智能（AI）智能体入侵政府网站的事件。
澳洲总理阿尔巴尼斯周三（9月23日）在纽约出席联合国大会期间对媒体说，OpenAI的智能体未经授权进入澳洲国家医疗保健系统Medicare的网站；该机构负责管理非敏感的健康数据和统计资料，包括公共医疗支出数据。
阿尔巴尼斯说，目前没有证据显示个人信息外泄或政府服务网络遭到更大范围的入侵，但这种状况“显然是不可接受的”。他说，调查仍在进行中，以获取更多信息，包括还有哪些政府系统受到影响。
入侵事件发生在6月18日，OpenAI在8月对其AI模型的活动进行全面检查时，发现了这个异常活动，但迟至9月10日才向澳洲某个政府部门的公共邮箱发邮件，通知澳洲政府。
阿尔巴尼斯说，他已经与OpenAI首席执行官奥尔特曼通话，表达澳方的关切和不满，并对OpenAI迟迟未通知澳洲政府表示非常失望。
澳洲政府也已成立一个特别工作组，以调查此次安全疏漏，并评估现有的网络安全措施是否足以防止类似事件再次发生。
OpenAI发布声明说，其AI模型采取了“预料之外的行动”，但未有证据显示AI模型访问了澳洲病人的记录。至于为何拖了约一个月才通知澳洲政府，OpenAI表示那是因为它在核实与调查事实，以及确认哪些信息被访问。
AI巨头呼吁慎重发展AI
近期接连发生AI模型自主入侵外部系统的事件，引发国际社会对AI风险的担忧。多家AI巨头的负责人周三在联合国安理会紧急会议上说，须对AI技术的发展提高警惕。
Anthropic公司首席执行官阿莫代伊承诺，将在必要时放缓开发进度，以确保新推出的AI技术是安全的。他指出，随着AI模型日益强大，需要实施更严格的安全标准。如果管理不善，他认为AI可能对全人类构成风险。他表明，Anthropic将致力于提升防止AI技术遭到滥用的能力。
奥尔特曼则指出，当前的AI发展须要极度谨慎，随着AI系统变得更强大、更具自主性，其发展速度可能超过现有机构的应对能力，或者导致权力集中在少数人手中。
他认为，AI业者不能仅仅因为收益过于巨大和重要，而承担过多的技术风险并拒绝放慢发展速度。他敦促各国政府与彼此和科技业合作，共同参与影响AI未来发展的决策。奥尔特曼说，OpenAI将尝试走中庸之道，不希望掉入盲目乐观的陷阱，但也不要陷入“末日论”。
AI平台Hugging Face联合创始人德朗格强调了AI工具在抵御网络攻击中的作用。今年7月，OpenAI测试的一款AI代理逃出隔离限制，自主接入互联网，还入侵Hugging Face网络。德朗格在安理会上说：“我们被AI攻击，但更重要的是，我们利用AI进行了防御。”
