(纽约法新电)美国纽约州州长霍楚尔星期三(10月28日)正式签署一项新法,严禁未成年人使用具备虚拟伴侣属性的人工智能(AI)聊天机器人。这是迄今为止全美针对消费级AI模型出台的覆盖面最广的监管举措之一。

新法明确要求,聊天机器人运营商如拥有ChatGPT的OpenAI,采取合理的年龄核实措施。对于未满18岁的用户,或尚未确认用户已成年,平台不得提供新法所列的高风险聊天机器人功能。

机器人严禁输出任何可能误导未成年人认为它拥有生命、人类属性或真实情感的内容;不得诱导青少年产生双方具备私人情感、专业咨询或权威指导关系的错觉;不得将生成内容包装为个人观点。同时,系统被明令禁止留存未成年人的身心健康等隐私敏感数据。

霍楚尔在新法签署仪式上指出,这项立法的核心目标是斩断AI冒充未成年人“朋友、恋人”的情感绑定链条,筑牢青少年的心理与生理健康防线。

非营利倡导组织“常识媒体”(Common Sense Media)对新法表示高度认可,称之为全美最严格的儿童AI安全法,有效防范潜伏的青少年心理伤害风险。

延伸阅读

研究:智谱AI成功模拟复杂网络攻击 测试中多次无视指令
研究:智谱AI成功模拟复杂网络攻击 测试中多次无视指令
澳洲警告AI加剧网络安全威胁 黑客攻击规模与速度空前
澳洲警告AI加剧网络安全威胁 黑客攻击规模与速度空前

但这一法规却遭到科技业界的强烈反弹,抨击新法条款定义过于宽泛,强调不应剥夺未成年人接触前沿学习的工具。

截至目前,OpenAI与Anthropic等头部AI企业均未就此作出公开回应。