以为自己被“钦点”和新加坡总理黄循财开会，一名男子被诈骗团伙骗走490万新元。
你没看错，是490万新元，不是490新元。
这是新加坡警察部队星期四（5月14日）揭露的一宗诈骗案案情。
警方文告指出，骗子会锁定曾与政府官员有往来的商界人士，冒充总理秘书等高级政府官员，邀请受害者参加与总理、政要和政府官员的线上视频会议，然后伺机骗钱。
其中一起案件中，一名男受害者收到WhatsApp信息，邀他参加一场总理出席的视频会议，发信人自称是总理秘书兼内阁秘书黄宏冠。
后者随后还发电邮，称政府需要一笔紧急资金援助，以处理霍尔木兹海峡事宜，电邮附上一封冒充黄循财总理的签名信函，称政府将在15个工作日内偿还这笔资金。
受害人之后还真的参加了所谓的政府会议，只不过，他不知道的是，视频中他所见到的“总理”等政要和政府官员，皆是骗子运用实时深伪技术冒充的。
显然，上述深伪技术已达到以假乱真的地步，因为受害者在视频会议后，便分批将490万新元转账至骗子指定的账户。
这里先不讨论政府连490万新元都掏不出，还得向商界人士筹措借款这件事是否合理，单是受害者在视频会议后，竟对自己和“重要政府官员”开过会深信不疑，就足见这类AI深伪技术已具备一定混淆视听的能力。
这起案件也反映了外界担忧不法分子借助人工智能，以更精密及具说服力的手段行骗，并非杞人忧天。
如果不采取行动遏制，包括在相关追究责任的法律上跟紧人工智能的发展脚步，以及在执法方面与时俱进，人工智能恐怕将对社会秩序产生颠覆性的冲击。
新加坡政府近期的一系列表态，显示当局已意识到面对突飞猛进的人工智能，必须采取必要措施，避免人工智能在不受监管及防范的情况下，沦为威力强大的犯罪工具。
新加坡总理黄循财星期三（13日）在“新加坡法治200年青年论坛”提到，针对人工智能所造成的伤害，新加坡的更新监管框架的步伐必须设法跟上，以保护公众免受伤害。但与此同时，也不能操之过急，以免扼杀创新。
资讯通信媒体发展局星期四则发布报告，指人工智能代理平台OpenClaw内建的安全防护有限，用户若缺乏适当设置，可能面对资料泄露、账号被盗用，甚至系统遭恶意操控等风险，因此提醒个人及商家谨慎使用。OpenClaw早前因能协助用户处理各种繁杂事务，一度掀起热潮。
至于近日在全球科技界投下震撼弹的人工智能工具Mythos，数码发展及新闻部高级政务部长陈杰豪5月5日在国会回答议员询问时也强调，政府会通过顶级人工智能实验室、网络安全公司及拥有访问Mythos权限的伙伴密切合作，持续追踪及评估这个人工智能工具的能力及安全影响。
Mythos由美国人工智能公司Anthropic开发，由于这款前沿AI模型具备自主发现漏洞、窃取数据乃至破坏关键基础设施的强大能力，恐对现有网络安全体系造成颠覆性冲击，出于安全考量，Anthropic早前决定暂时不公开发布Mythos。
世界当下正经历第四次工业革命，从蒸汽时代、电气时代、信息时代，一路演进到如今的智能时代。
与过去几次的工业革命一样，人工智能提高经济效率的同时，也将带来被滥用的风险。
面对这把双刃剑，包括新加坡在内的各国政府有必要采取行动，除了加强监管框架，也应全面提升公众的数码识读能力与防诈意识。
