开源人工智能代理平台OpenClaw去年11月推出以来迅速走红,但也引发网络安全隐忧。资讯通信媒体发展局提醒用户,避免在存有敏感资料的主要工作或个人设备上安装这个工具,以降低数据外泄和系统入侵风险。
OpenClaw是一款开源人工智能(AI)代理平台,可通过WhatsApp、Telegram、Discord及Slack等聊天应用,充当“自动化助手”,协助用户整理资料、草拟报告和电邮、安排行程,甚至处理客户询问或测试代码等工作。
不过,这类工具虽功能强大,内建的安全防护却有限。用户若缺乏适当设置,可能面对资料泄露、账号被盗用,甚至系统遭恶意操控等风险。
资媒局星期四(5月14日)发布案例研究报告,分析OpenClaw的主要风险,并提出多项安全建议,希望用户在提升工作效率的同时,也能保障数据和系统安全。
报告指出,截至今年4月底,网络安全平台OpenCVE已记录超过400个与OpenClaw有关的安全漏洞,其中超过100个属于高风险等级;另有超过10个被列为“极严重”等级,可能让黑客远程控制整个系统。
OpenClaw五大安全风险
OpenClaw被指有五大安全风险:系统本身仍不够成熟、权限控制与身份验证机制不足、敏感数据可能外泄、第三方额外功能可能暗藏恶意程序,以及“记忆投毒”(memory poisoning)等问题。
“记忆投毒”是指黑客通过电邮、网页等,偷偷植入误导指令。由于OpenClaw会长期记录用户偏好和过往内容,这些隐藏指令可能长期留在系统里,慢慢影响系统行为,如诱导它将敏感数据外传到其他地方。
针对这些风险,资媒局提出多项安全建议。例如,用户不应把OpenClaw安装在主要工作或个人设备上,而应在独立装置或隔离环境中运行;避免给予它无限制权限,也不应让单一AI代理掌控所有任务。
资媒局强调,高风险操作不能完全交由AI自行决定,例如金融交易、删除重要资料,或代表公司对外发送信息时,应加入人工审核和批准程序。
资媒局说:“重点不是不用这些工具,而是先设好权限范围、监督机制和安全措施,再使用它们。”
安信资讯安全公司(Ensign InfoSecurity)新加坡企业与政府业务部执行副总裁陈鸿达受访时说,OpenClaw爆红,反映这类AI工具的发展速度往往快过大众对风险的理解。
他指出,对企业而言,除了资料外泄,更大的隐患是AI工具一旦获得过多权限,可能会快速执行原本不该进行的操作;对一般用户而言,则可能因为不小心开放太多权限,导致个人资料被盗取。
