社群媒体X旗下人工智慧(AI)聊天机器人Grok近日遭人用来生成女性及儿童不雅深伪影像,引发外界热议,英国通讯管理局(Ofcom)今天对X启动正式调查。
法新社报导,Grok用户只要透过简单文字指令,就能利用影像生成功能创建甚至分享女性及儿童不雅深伪影像,这让Grok面临来自国际社会日益高涨的反对声浪。
英国通讯管理局形容相关报导「令人极其担忧」,并在声明中表示,裸露的人体影像「可能构成亲密影像滥用或色情内容,涉及儿童的色情影像可能沦为儿童性剥削的素材」。
通讯管理局指出已于1月5日联络X,要求其说明已采取哪些措施保护英国用户。该局处未透露双方洽谈细节,但表示X已在规定时间内做出回应。
这项正式调查将厘清X是否「未能履行应尽的法定义务」。法新社暂未联系到X平台发表置评。
Grok 9日在X平台回复用户提问时指出:「自今天(2026年1月9日)起,xAI已限制X平台上的Grok影像生成及编辑功能,仅供付费的X订阅用户使用。」
这项更动意味绝大部分X用户已经或将无法在这个平台透过Grok生成及编辑图像。付费用户则需向X平台提供信用卡资讯及个人资料,因此若出现滥用情事,将能识别滥用者身分。
英国首相施凯尔(Keir Starmer)办公室称此举「侮辱」受害者,且「绝非解决办法」。
马来西亚与印尼近日相继封锁Grok的服务,成为全球首批采取此措施的国家。两国监管当局指出,Grok被用来生成色情露骨且未经同意的影像内容。
东南亚国家对Grok采取限制措施之际,欧洲联盟(EU)、印度和法国等地也正对Grok加强审查。 $(document).ready(function () {nstockStoryStockInfo();});