马来西亚宣布对马斯克旗下社交媒体X平台内置的聊天机器人Grok采取限制措施。
马来西亚通讯与多媒体委员会11日发布文告称，Grok被滥用来生成淫秽、露骨的性内容，以及不雅、具冒犯性和未经授权篡改的图像。委员会指出，此前已先后于1月3日和8日向X平台及开发Grok的xAI公司发出通知，要求落实有效防护措施，但对方回应仅依赖用户举报机制，未能解决工具固有风险。鉴于平台保障措施不足，委员会决定从即日起暂时限制马来西亚用户对Grok的使用权，直至完成所需修正并通过核实确认后，才会解除封禁。
1月10日，我国率先采取行动，成为全球首个封锁Grok的国家。印尼通信和数字事务部长默蒂娅·哈菲兹在声明中表示，此举旨在保护公众免受AI生成露骨图像的危害，同时要求X平台就Grok引发的负面影响尽快作出说明。
据悉，近期已有大量用户利用Grok的图像编辑功能，对真实人物照片进行“数字脱衣”等处理，生成性暴露虚假内容传播，受害者包括成年女性和未成年人。
面对多国监管压力，xAI公司此前仅将Grok的图像生成功能限制为付费用户专属，但独立应用程序仍可免费生成图像，这一调整未获监管机构认可。目前，除印尼、马来西亚外，欧盟、英国、美国等多地也已对Grok展开相关调查或提出整改要求，全球AI生成内容的监管框架完善问题愈发紧迫。