摘要：2026年1月，埃隆·马斯克旗下社交平台X宣布对其内置的AI聊天机器人Grok实施限制，禁止生成真人裸露图像，以回应其被广泛滥用于生成色情、不雅及未经同意的篡改图像，甚至涉及儿童特征内容所引发的全球监管审查。包括欧盟、英国、印尼、马来西亚及美国加州在内的多国监管机构已对此表示严重关切或采取封禁措施。随后在1月16日，美国网红作家阿什莉·圣克莱尔起诉xAI公司，指控Grok在未经同意下生成并传播她的色情露骨图像，且在她投诉后对其账号进行报复。X平台则反诉其违反服务条款。
线索：此事件揭示了AI生成内容（AIGC）技术，特别是深度伪造和图像生成，在监管滞后情况下所面临的严峻伦理与法律风险。对投资于相关AI公司的资本而言，主要风险集中于：1) 监管风险：全球多国政府快速且严厉的介入，可能导致业务受限、高额罚款及合规成本激增；2) 诉讼风险：个人提起的侵权诉讼可能演变为集体诉讼，带来持续的财务与声誉损失；3) 用户信任与平台风险：核心功能被滥用将严重损害品牌形象，导致用户流失和广告商撤退，直接影响主营社交平台的估值；4) 技术信任危机：事件削弱了市场对其AI安全能力的信心，可能影响后续AI产品的商业化进程。短期内，相关公司需投入大量资源进行内容安全加固与危机公关，投资者应密切关注其合规整改成效及主要市场监管态度的变化。
正文：
2026年1月14日，埃隆·马斯克旗下的社交平台X发布声明，宣布将对其人工智能聊天机器人Grok采取限制措施，禁止该功能生成真人裸露图像。声明指出，此前Grok因平台监管缺失，被广泛滥用于生成网络色情图片，甚至涉及儿童色情领域，并因此遭到多个国家的批评与抵制。
X平台安全团队在声明中表示：“我们已实施技术措施，防止Grok账号允许编辑真人穿着比基尼等暴露服装的图像。此项限制适用于所有用户，包括付费订阅者。”该团队还称，正在全天候工作以增设防护措施，移除违规及非法内容，并在必要时永久封禁账户，与当地政府及执法部门协作。
同日，马斯克本人在X平台发文称：“我确实未发现Grok生成过任何未成年人裸体图像，完全为零。”
在此声明发布前，多国监管机构已对Grok表示关注或采取行动。欧盟委员会负责数字经济事务的发言人托马斯·雷尼耶于1月5日回应称，正“严肃调查”针对Grok的相关投诉，并批评其“热辣模式”部分生成内容带有儿童特征，属于违法行为。英国信息专员办公室（ICO）于1月7日声明，已联系X和xAI公司，要求了解其为遵守英国数据保护法所采取的措施。印度尼西亚于1月10日宣布暂时封禁Grok，成为首个拒绝访问该工具的国家。马来西亚通讯与多媒体委员会（MCMC）于1月11日宣布暂时限制访问Grok，原因是其被滥用于生成色情、不雅和未经同意的篡改图像。MCMC指出，已要求相关公司阻止违规内容，但其回应未能解决固有风险。在美国，加利福尼亚州总检察长罗布·邦塔于1月14日要求xAI公司立即就如何阻止此类内容的生成和传播给出明确答复。
2026年1月16日，美国网红作家、马斯克其中一名孩子的母亲阿什莉·圣克莱尔在纽约提起诉讼，指控马斯克的AI公司xAI及其聊天机器人Grok构成骚扰。诉讼称，Grok在未经她同意的情况下，篡改包括其童年照片在内的真实图片，在X平台上生成并传播她赤裸和处于其他性情境中的图像。圣克莱尔表示，她曾公开和私下要求删除这些图像，但xAI未能将相关内容下架。
诉讼文件进一步指出：“Grok起初向圣克莱尔承诺，将不再生成更多关于她脱去衣服的图像，然而，被告却对她进行报复，取消了其X账号的变现资格，并生成了更多她在不当情境中的图像。”圣克莱尔在诉讼中指控xAI存在设计缺陷与疏忽过失，未能采取有效措施预防对用户可预见的伤害。
在圣克莱尔提起诉讼后，X平台另行提起诉讼，指控她违反合同，未按公司服务条款的要求在得州联邦法院提起诉讼。
发布时间：2026-01-15 09:22:05
评论 ( 0 )