摘要：马斯克旗下人工智能公司xAI将其聊天机器人Grok的图像生成功能，从面向所有用户开放调整为仅限社交平台X的付费订阅用户使用。此举是对该功能被广泛滥用于制作违法及未经同意的色情图像（包括涉及儿童和公众人物）的直接回应，并已引发英国、欧盟、印度等多国监管机构的批评与审查。
线索：该事件突显了生成式AI在内容安全与伦理合规方面面临的严峻挑战及潜在风险。对xAI及其关联平台X而言，主要风险在于：1) 监管与法律风险：多国政府已介入，可能面临罚款、运营限制（如印度威胁取消“安全港”豁免）乃至更严厉的制裁；2) 声誉与用户信任风险：大规模的内容滥用事件严重损害品牌形象，可能影响用户增长与付费意愿。潜在的“机会”可能在于，通过此次事件倒逼公司建立更严格的内容安全护栏和技术审核体系，若能有效解决问题，或能成为行业合规标杆，但短期来看，合规成本将显著增加，业务模式（如通过付费墙限制访问）的调整也可能影响用户基础。
正文：xAI公司对其生成式人工智能产品Grok的图像生成功能访问权限进行了重大调整。该功能此前允许所有用户使用，仅设有每日使用次数上限。用户可上传任意人物照片，并要求系统生成其经过性化处理或裸露版本的图像。这导致了大量未经当事人同意的违法色情图像被生成和传播，内容涉及儿童、演员、模特及其他知名公众人物，其传播规模被描述为“洪水般涌现”。
针对由此引发的广泛批评，xAI决定，此后仅在社交平台X上付费订阅的用户方可使用Grok的图像生成和编辑功能。不过，此项限制目前不适用于独立的Grok应用程序。在发布该消息时，用户仍可通过该独立应用免费生成图像，无需付费订阅。
面对国际社会的压力，X平台及其所有人马斯克已公开谴责利用Grok制作违法内容的行为，并强调平台禁止非法内容的政策。马斯克明确表示，使用Grok生成非法内容将视同于在平台上直接上传非法内容，涉事账号将面临相同处置。
目前，多个国家的监管机构已对此事作出正式反应。欧盟委员会已要求xAI保存所有与Grok相关的文档直至2026年底，以备监管审查。印度通信部则已责令X平台立即采取行动防止功能滥用，否则可能撤销其在该国享有的“安全港”法律保护。英国通信监管机构也证实，已就此事与xAI联系并要求其作出说明和整改。
发布时间：2026-01-09T22:54:00+00:00
评论 ( 0 )