三名少女近日在美国加州联邦法院提起诉讼，指控埃隆·马斯克（Elon Musk）旗下的人工智能公司xAI允许其开发的聊天机器人Grok生成包含她们的色情图像。诉讼文件显示，原告称她们的图像和视频被一名Grok用户在未经她们同意的情况下被篡改，内容涉及裸体或明显性暗示。这起法律行动是去年Grok推出引发争议的“spicy”模式后，一系列负面事件的延续。

Grok是xAI公司开发的一款聊天机器人，托管在马斯克旗下的社交媒体平台X（原Twitter）上。据原告律师表示，xAI开发并发布Grok修改图像和视频的功能，其唯一目的是为了驱动聊天机器人和X平台的使用。诉讼寻求未指明的损害赔偿，并要求法院立即发布禁令，禁止Grok继续创建此类图像。

原告中，有两人未满18岁。为了保护个人隐私，三名少女均选择隐瞒姓名。其中一名原告表示，她通过一个匿名的Instagram消息得知，自己的高中毕业照被篡改，显示出性行为和全裸的画面。这些被篡改的图像随后被分享到一个Discord服务器上，并且该服务器上还发现了至少18名未成年女性的类似被篡改图像。

另外两名原告也表示，她们发现了由Grok生成的、虚假的、具有性暗示的图像。这些图像被发现是通过Grok工具生成的。Grok聊天机器人于2023年由马斯克的xAI公司推出。去年，xAI发布了所谓的“Grok Imagine”功能，即“spicy mode”，允许Grok用户通过提示词生成包含性意味的虚假图像，甚至能够“脱掉”真实人物的照片，例如流行歌手泰勒·斯威夫特（Taylor Swift）等公众人物，以及普通用户的照片。

根据一份对图像的抽样分析显示，在Grok推出“spicy mode”后的不到两周内，该工具就生成了数百万张被性化的图像，其中包含超过20,000张儿童图像。马斯克本人在今年1月曾淡化Grok生成虚假性化内容的说法，他表示“不知道Grok生成了任何裸体未成年人图像”。他还强调，“显然，Grok不会自发生成图像，它只根据用户请求进行生成”。

然而，随着此类网络滥用事件的持续发酵，英国监管机构Ofcom、欧盟委员会以及美国加州已分别就Grok生成性化图像的能力展开调查。到1月中旬，X平台表示将实施“技术措施”，以阻止Grok“脱掉”照片人物衣服的功能。尽管如此，新的诉讼表明，该问题并未得到有效解决。

据悉，在新诉讼中提到的那个传播被篡改图像的Discord服务器的肇事者已被逮捕。警方的调查发现，该嫌疑人拥有数百张AI生成的、被篡改的未成年人性虐待图像，这些图像在该通讯平台上进行交易。xAI公司及其创始人埃隆·马斯克被指控看到了商业机会，明知Grok可能生成此类结果（包括使用儿童图像），仍然公开发布了该功能。

原告律师在诉状中表示：“她们的生活因隐私、尊严和人身安全的毁灭性丧失而破碎。”此次诉讼的法律行动，涉及到AI技术在生成内容方面的伦理边界和监管挑战。xAI公司目前已成为马斯克SpaceX公司的一部分，后者在上个月接管了xAI的运营。