|
|
|
|
|
马来西亚临时限制访问AI聊天机器人“格罗克” |
|
| ( 2026-01-13 ) 稿件来源:新华每日电讯 新华智见 |
|
新华社伦敦1月12日电(记者郭爽)英国通信管理局12日发表声明说,已根据英国《在线安全法》对美国企业家埃隆·马斯克旗下社交媒体平台X展开正式调查,以判定该平台是否履行了保护英国民众免受非法内容侵害的职责,这项调查会作为“最高优先级事项”推进,不排除“在最严重情况下”屏蔽X平台的可能。
声明说,内置于X平台的人工智能聊天机器人“格罗克”被滥用于生成和散播伪造涉真实人物的性暴露内容一事“令人深感担忧”。英国通信管理局将展开正式调查,以判定X平台是否“未能遵守《在线安全法》规定的法律义务”。调查包括:评估英国用户通过该平台“看到在英国属于非法内容”的风险;X平台是否采取适当措施,防止英国用户看到未经同意的私密照片等非法内容;X平台是否在得知内容非法后迅速将其删除;评估“格罗克”对英国未成年人构成的风险等。
声明说,如果调查发现企业违反法律,该机构可要求其采取具体措施以符合法律规定或弥补其行为造成的损害,还可处以最高1800万英镑或相当于该企业全球合规收入10%的罚款(取两者中的较高金额)。
声明说,对于持续违规的最严重情况,该机构可向法院申请“业务中断措施”,法院可由此发出临时或永久性命令,要求支付服务提供商或广告商从平台撤回其服务,或要求互联网服务提供商屏蔽英国境内对平台网站的访问。
“格罗克”由马斯克旗下人工智能企业xAI公司开发,并内置于马斯克旗下社交媒体平台X。近期,这一工具被滥用于生成基于真实人物的虚假性暴露内容,并在X平台上散播,受害者包括众多女性和未成年人。
在受到广泛谴责后,xAI公司日前将“格罗克”的图像生成和编辑功能更改为仅对付费用户开放。英国政府对此表示这一最新服务变更只是“将允许创建非法图像的人工智能功能变成一项高级服务”,对受害者来说是“侮辱性的”,根本“不是解决方案”。
新华社吉隆坡1月12日电(记者王嘉伟)马来西亚通信和多媒体委员会11日发表声明说,当天起临时限制马来西亚互联网用户访问美国企业家埃隆·马斯克旗下的人工智能(AI)聊天机器人“格罗克”(Grok)。
声明说,采取这一监管措施是鉴于“格罗克”被滥用于生成淫秽色情、极具冒犯性且未经当事人同意的合成图像内容,包括涉及女性及未成年人的内容。
“格罗克”由马斯克旗下人工智能企业xAI公司开发,并内置于马斯克旗下社交媒体平台X。马来西亚通信和多媒体委员会表示,已于本月3日和8日分别向X平台和xAI公司发出通知,要求其采取落实有效技术防护和内容审核机制等多项措施,以防止AI生成可能违反马来西亚法律的内容。不过,X平台所提交的回应主要依赖由用户主动发起的举报机制,未能充分应对该AI工具在设计和运行层面的固有风险。
马来西亚通信和多媒体委员会认为,上述做法不足以防止伤害发生,也无法确保符合法律要求,因此采取预防性且适度的临时限制措施。相关限制将持续生效,直至落实有效防护机制,尤其是防止AI生成涉及女性和儿童的色情内容。
马来西亚通讯部副部长张念群此前对媒体表示,“格罗克”在未经当事人同意情况下生成不当内容,已引发全球多国舆论与监管机构的强烈关注。马方对相关功能可能被滥用表示严重关切。
张念群表示,全球正围绕人工智能展开激烈竞争,但若一味追求速度与利润,而忽视伦理规范与社会责任,其后果将不堪设想。“格罗克”在短时间内大量生成不雅影像,且速度远超传统影像处理方式,凸显出人工智能在缺乏伦理约束情况下被滥用的现实风险。