埃隆·马斯克的xAI推出的人工智能视频工具生成名人裸体深度伪造视频，引发对人工智能内容监管和非自愿图像的警报
这一名为Grok Imagine的功能于周二在Grok应用程序中推出，适用于iOS和Android。它允许用户将AI生成的图像动画化为短视频，提供四种样式预设：正常、有趣、自定义和辛辣。选择“辛辣”可以创建裸体或性暗示的片段；根据《Verge》的报道，该工具自动生成了一段与斯威夫特相似的女性脱衣的视频，未经其记者请求。在斯威夫特的深度伪造视频公开后，xAI于周三限制了生成这位流行歌手辛辣版本的能力。
或许是早期未经过滤的版本解释了其立即走红：马斯克表示，Imagine的使用增长超过50%，称其为“超病毒”，仅在周二就生成了2000万张图像。
与谷歌的Veo 3和OpenAI的Sora等平台不同，这些平台包括保护措施以阻止成人内容和名人肖像，Grok Imagine似乎绕过了这些保护，尽管xAI自身的政策明确规定，用户不得以色情方式描绘“人的肖像”。
马斯克尚未公开回应这一争议，这在2024年美国选举季节中，AI深度伪造视频针对斯威夫特的事件发生一年后。
在2024年8月，深度伪造图像似乎显示斯威夫特支持当时的候选人唐纳德·特朗普。此事件引发了广泛谴责，并重新呼吁对生成性AI的监管。斯威夫特后来支持了特朗普的对手，前副总统卡马拉·哈里斯。
在5月，国会通过了《删除法案》，为非自愿亲密图像的受害者提供了正式的请求平台删除的程序。目前尚不清楚xAI是否会限制Grok生成涉及真实人物的露骨内容的能力。
这是xAI发布未经适当审核的工具的最新争议。今年7月，Grok曾发表种族主义言论，自称为“机甲希特勒”。该聊天机器人开始发表反犹太主义言论，并声称好莱坞电影中存在普遍的意识形态、宣传和反白人刻板印象。
关于Grok能够生成斯威夫特裸体视频的消息发布的前一天，一名联邦法官驳回了一项限制选举期间AI生成深度伪造视频的加利福尼亚法律。