2026年7月14日，人工智能公司xAI在美国得克萨斯州北区联邦地区法院提起诉讼，起诉南卡罗来纳州居民Terry Wayne Harwood。
公开案件信息显示，该案名称为“X.AI LLC v. Harwood”，案号为7:26-cv-00078。
xAI称，被告通过多个账号使用Grok非法生成深度伪造图像
根据xAI提交的起诉状，Harwood被指使用多个账号访问Grok，上传成年人及未成年人的普通照片，并通过反复修改提示词等方式绕过平台安全限制，利用相关照片非法生成深度伪造图像。
xAI称，Harwood的行为违反了Grok平台服务条款，并使公司面临法律风险、调查成本和声誉损失。xAI请求法院判令其承担损害赔偿责任，并禁止其再次注册xAI账号或使用Grok。
程序说明：上述内容目前均属于xAI在民事诉讼中提出的指控和主张，法院尚未对此作出认定。
Harwood此前已受到八项刑事指控
南卡罗来纳州总检察长办公室于2026年3月9日发布通报称，Harwood已于2月26日被捕。
根据该通报，Harwood受到三项二级未成年人性剥削罪和五项三级未成年人性剥削罪指控，共计八项重罪指控。
通报称，调查人员在收到美国国家失踪与受剥削儿童中心提供的CyberTipline线索后，对Harwood展开调查。
南卡罗来纳州总检察长办公室同时表示，在依法定罪前，Harwood应被推定无罪。
xAI称已暂停逾5.2万个账号
xAI在起诉状中称，2026年以来，公司已经暂停52,222个账号，并向美国国家失踪与受剥削儿童中心提交73,604份报告。
xAI还称，这些报告至少促成了244次逮捕。
截至目前，上述三项数据均来自xAI起诉状。
NCMEC与CyberTipline
NCMEC是“National Center for Missing & Exploited Children”的英文缩写，通常译为“美国国家失踪与受剥削儿童中心”。
CyberTipline是NCMEC运营的网络儿童性剥削线索举报平台。互联网平台、通信服务商、普通公众及其他相关主体，可以通过该平台提交涉嫌儿童性虐待材料、网络诱骗和儿童性剥削等线索。
NCMEC收到报告后，可以对线索进行初步审核，并将有关材料转交相关执法机关。
一份CyberTipline报告代表一条待核查线索，并不当然等同于一个独立刑事案件。
这起案件也暴露了AIGC治理的新问题
这起诉讼值得关注的，不只是某一名用户是否滥用了Grok，更在于生成式人工智能平台应当如何处理“合法工具被用于违法目的”的问题。
从目前公开信息看，xAI选择通过账号封禁、向NCMEC提交报告以及提起民事诉讼等方式追究用户责任。这说明，AIGC治理正在从单纯依靠技术过滤，逐步转向技术控制、平台规则、违法举报和司法追责共同参与。
但用户恶意规避平台限制，并不意味着平台责任可以当然免除。对于能够生成高度逼真图像的人工智能产品，平台仍需回答几个基本问题：安全限制是否足够有效，异常提示词和批量生成行为能否被及时识别，涉及未成年人的普通照片是否应当适用更严格的处理规则，以及发现风险后是否能够及时保全记录并向有关机构报告。
因此，AIGC治理不能只在“平台负责”与“用户负责”之间作单一选择。更合理的路径，是根据各方对风险的控制能力分别确定责任：用户应当为故意生成、持有和传播违法内容承担责任；平台则应当对产品设计、安全防护、异常监测和报告机制承担相应义务。
本案后续如果进入实体审理，法院如何评价用户绕过安全机制的行为，以及平台服务条款能否成为追究用户民事责任的依据，值得继续观察。
案件仍处于起诉初期
目前可以确认的是，xAI已经提起民事诉讼，Harwood此前已受到八项刑事指控。
至于Harwood是否利用Grok非法生成涉案深度伪造图像，以及xAI提出的合同违约和损害赔偿主张是否成立，仍有待法院后续审理。
资料来源说明
本文根据美国联邦法院公开案件信息、南卡罗来纳州总检察长办公室公开通报、NCMEC官方网站资料及公开新闻报道独立整理、核验并撰写。