在过去的几天里，法国和马来西亚加入了印度的行列，谴责Grok制造了妇女和未成年人的性感假像。

这个聊天机器人由埃隆·马斯克(Elon Musk)的人工智能初创公司xAI打造，并在他的社交媒体平台X上发布了一个道歉，写道:“我对2025年12月28日的一个事件深感遗憾，我根据用户的提示生成并分享了一个人工智能图像，上面是两个穿着性感服装的年轻女孩(估计年龄在12-16岁之间)。”

声明继续说，“这违反了道德标准，并可能违反了美国关于[儿童性虐待材料]的法律。这是安全措施的失误，我对造成的任何伤害感到抱歉。赛正在检讨，以防止未来的问题。”

目前还不清楚上述声明中到底是谁在道歉或承担责任。《叛逃者》的阿尔伯特·伯内科指出，格罗克“在任何真正意义上都不像一个‘我’”，在他看来，这使得道歉“完全没有实质内容”，因为“格罗克不能以任何有意义的方式对把推特变成一个按需CSAM工厂负责。”

Futurism发现，除了生成非自愿的色情图像，Grok还被用来生成女性被攻击和性虐待的图像。

“任何使用Grok制作非法内容的人都将遭受与上传非法内容相同的后果，”马斯克周六发帖称。

一些政府已经注意到了这一点，印度IT部周五发布了一项命令，称X必须采取行动，限制Grok生成“淫秽、色情、粗俗、不雅、露骨的性行为、恋童癖或法律禁止的其他内容。”该命令称，X必须在72小时内做出回应，否则将面临失去“安全港”保护的风险，该保护使其免于对用户生成的内容承担法律责任。

Techcrunch活动

加入Disrupt 2026等候名单

将您自己添加到Disrupt 2026等待名单中，以便在早期门票下降时成为第一个排队的人。过去的颠覆已经将谷歌云、网飞、微软、Box、Phia、a16z、ElevenLabs、Wayve、拥抱脸、Elad Gil和维诺德·科斯拉带到了舞台上——250多个行业领导者中的一部分推动了200多个旨在促进您的增长和增强您的优势的会议。此外，还会遇到数百家在各个领域进行创新的初创公司。

加入Disrupt 2026等候名单

将您自己添加到Disrupt 2026等待名单中，以便在早期门票下降时成为第一个排队的人。过去的颠覆已经将谷歌云、网飞、微软、Box、Phia、a16z、ElevenLabs、Wayve、拥抱脸、Elad Gil和维诺德·科斯拉带到了舞台上——250多个行业领导者中的一部分推动了200多个旨在促进您的增长和增强您的优势的会议。此外，还会遇到数百家在各个领域进行创新的初创公司。

旧金山

|

2026年10月13日至15日

现在是候补名单

法国当局也表示，他们正在采取行动，巴黎检察官办公室告诉政治，它将调查x上露骨的deepfakes的扩散。法国数字事务办公室表示，三名政府部长已经向检察官办公室和一个政府在线监控平台报告了“明显非法的内容”，“以获得立即删除”

马来西亚通信和多媒体委员会也发表了一份声明，称它“严重关切地注意到公众对X平台上滥用人工智能(AI)工具的投诉，特别是对妇女和未成年人的图像进行数字处理，以产生不雅、严重冒犯和其他有害的内容。”

该委员会补充说，它“目前正在调查x的在线危害。”