滥用生成色情露骨内容大马即日起限制使用Grok人工智能

（赛城11日讯）滥用生成色情、露骨内容，马来西亚通讯及多媒体委员会（MCMC）即日起（1月11 日），限制 Grok 人工智能（AI）在我国使用。

大马通讯及多媒体委员会今日发文告指出，发出此限制令是因为Grok多次被滥用于生成色情、露骨、猥亵不雅的内容，以及未经同意篡改图像，包括涉及女性和儿童的内容。

人工智能Grok
每小时生成 6,700 张性暗示图像

对此，通讯部副部长张念群指出，彭博社上周报道，人工智能Grok 每小时生成多达 6,700 张带有性暗示的图像，其数量比五大“脱衣/裸露化”（nudifying）网站的总数，还高出 84 倍。

“更惊人的是，短短 24 小时后，这个数字更飙升至 9,500 张。”

她说，在全球各地掀起一波强烈反弹后，X平台如今只允许X的付费用户使用Grok的 “脱衣/裸露化” 图像功能。

她认为，付费墙不是网络安全措施，而是将性剥削商业化。以人工智能驱动产出不雅图像的行为，对女性和儿童而言是侵犯人权，也是一种数码暴力。

“创新必须建立在问责与责任的基础之上，而不是以收费来造成更大的伤害。”

因此，她指出，大马通讯及多媒体委员会（MCMC）已暂时限制 Grok 人工智能（AI）在马来西亚使用。

MCMC文告指出，今年1月3日及1月8日，已向X Corp. 与xAI LLC发出通知，要求其采取多项措施，其中包括落实有效的技术防护及内容监督机制，以防止可能违反马来西亚法律的AI生成内容，包括《1998年通讯及多媒体法令》第233条文。”

然而，X Corp于1月7日及1月9日的回应，仅聚焦于由用户发起的举报机制，未能处理因该AI工具的设计与运作方式而持续存在的风险。

MCMC认为，这不足以防止危害，也无法确保遵守相关法律。

对此，当局决定限制大马用户使用Grok，以作为合理的预防措施，并于1月11日生效。

文告提到，有关限制将持续生效，直至平台方全面落实有效的防护机制，尤其是防止涉及女性与儿童的有害内容。

↓↓最近新闻↓↓