马来西亚通讯与多媒体委员会（MCMC）宣布，因持续发现人工智能系统Grok被滥用于生成性剥削、不雅及深度伪造内容，已于即日起暂时限制国内所有用户访问Grok。这是东南亚地区迄今对马斯克旗下X Corp. 及 xAI的最强监管举措之一。
MCMC在官方声明中直指，此次封锁行动是由于Grok被反复用于生成“猥亵、露骨、淫秽、严重冒犯性，以及非自愿操控的图像内容”，其中包括涉及女性与未成年人的影像。尽管监管机构此前已多次与X Corp.接触并发出正式通知，要求平台纠正问题，但滥用情况依旧持续。
官方：Grok 安全机制失守，用户举报制度“远远不够”
声明指出，MCMC认为Grok目前的内容安全与防护设计远不能阻止高风险滥用，尤其是在影像生成与操控功能上。
监管机构表示，X Corp.和xAI主要依赖 用户举报机制 来标记违规影像，但此方式不足以应对深伪色情内容的高速传播与高隐蔽性。
“平台内建的安全措施显然不足，无法阻止 Grok 的设计及运作方式所带来的固有风险。”——MCMC声明
MCMC强调，只有当平台落实并验证必要的安全措施后，马来西亚才会恢复对 Grok 的访问权限。
被禁原因涉及深伪色情、未成年人影像
MCMC的声明罕见地点名影像涉及：
女性被性化处理的AI伪造图像未成年人被不当生成影像的严重案件非自愿影像操控
随着生成式AI工具技术飞跃式发展，世界各地均面对深伪色情内容急速蔓延的挑战。
马来西亚监管机构指出，Grok 的滥用案例并非孤立事件，而是“长时间持续且严重”。
欧洲亦批评 Grok：收费墙无法解决深伪危机
Grok的影像生成功能在国际上也备受争议。欧洲科技监管人士和网络安全团体上周痛批 Grok，将影像生成功能改为仅供付费订阅者使用 的做法“完全无法解决深伪问题的本质风险”。
Grok对批评做出的回应，是在社媒上宣布：“影像生成与编辑功能现已仅限付费用户使用。”
并附上高级订阅链接。但专家指出，这不仅不能阻止滥用，还可能形成“付费即可制造深伪色情内容”的更糟糕局面。
大马采取科技监管最强手段：全面封锁访问
马来西亚此次的措施为全面阻断国内用户访问 Grok，被视为高风险AI工具监管的重大举动。
MCMC指出：
此为 临时封锁 只有当 X Corp. 与 xAI 完成所要求的安全改进并通过验证后，才会重新开放 若相关公司继续忽视监管要求，不排除采取进一步措施
全球深伪危机蔓延：大马案例或成区域先例
随着 Sora、Veo 等AI视频生成工具迅速普及，AI深伪色情内容已成为全球最主要的数码安全威胁之一。
AI影像被滥用来骚扰个人、操控舆论、制造政治假图像、甚至侵犯儿童安全。
马来西亚学者指出，这次封锁行动可能成为地区国家参考的监管案例，尤其是东盟各国正在草拟人工智能行为准则。
结语：AI监管正进入临界点
马来西亚对 Grok 的封锁突显一个事实：AI 技术正以前所未有的速度冲击社会，而平台自我监管明显跟不上扩散速度。
Grok是否能够恢复在马来西亚的运行，将取决于X Corp. 与xAI是否愿意强化安全模型与内容过滤机制。与此同时，各国监管机构也可能相继跟进，要求更严格的AI平台责任制度。
文章未完，點擊下一頁繼續
下一頁
